Что такое Phoenix

Открытая платформа на базе OpenTelemetry для наблюдаемости, оценки, инженерии промптов и экспериментов с вашими LLM-процессами и агентами.
Подробнее см. Phoenix.

Как настроить Phoenix

1. Зарегистрируйтесь или войдите в Phoenix

2. Получите свой API Key для Phoenix

Получите свой API Key для Phoenix из меню пользователя в правом верхнем углу. Нажмите API Key, затем нажмите на сам API Key, чтобы скопировать его:
API Key для Phoenix

3. Интегрируйте Phoenix с Интеллос

Настройте Phoenix в приложении Интеллос. Откройте приложение, которое нужно отслеживать, откройте Мониторинг в боковом меню и выберите на странице Отслеживание производительности приложения.
Отслеживание производительности приложения
После нажатия на настройку вставьте в конфигурацию API Key и project name, созданные в Phoenix, и сохраните.
Настройка Phoenix
После успешного сохранения вы можете просмотреть статус мониторинга на текущей странице.
Настройка Phoenix

Как настроить Phoenix Cloud

1. Зарегистрируйтесь или войдите в Phoenix Cloud

2. Создайте своё пространство Phoenix

Вы можете создать своё пространство Phoenix из меню пользователя в правом верхнем углу. Нажмите Create Space, затем укажите уникальный URL-идентификатор для своего пространства:
Phoenix Cloud — создание пространства
После успешного сохранения вы можете просмотреть статус пространства на странице обзора.
Phoenix Cloud — обзор пространства

3. Создайте свой API Key для Phoenix

После запуска пространства вы можете создать свой API Key для Phoenix через пункт Settings в меню пользователя в левом нижнем углу. Нажмите System Key, затем укажите имя для своего API Key Phoenix:
Phoenix Cloud API Key

4. Интегрируйте Phoenix Cloud с Интеллос

Настройте Phoenix в приложении Интеллос. Откройте приложение, которое нужно отслеживать, откройте Мониторинг в боковом меню и выберите на странице Отслеживание производительности приложения.
Отслеживание производительности приложения
После нажатия на настройку вставьте в конфигурацию API Key и project name вместе с Space Hostname, созданные в Phoenix Cloud, и сохраните.
Настройка Phoenix
После успешного сохранения вы можете просмотреть статус мониторинга на текущей странице.
Настройка Phoenix

Список данных мониторинга

Информация о трассировке Workflow/Chatflow

Используется для отслеживания рабочих процессов и chatflow
WorkflowPhoenix Trace
workflow_app_log_id/workflow_run_idid
user_session_id- помещается в metadata
name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
Потребление токенов модельюusage_metadata
metadatametadata
errorerror
[workflow]tags
”conversation_id/none for workflow”conversation_id in metadata
Информация о трассировке Workflow
  • workflow_id - Уникальный идентификатор рабочего процесса
  • conversation_id - ID разговора
  • workflow_run_id - ID текущего запуска
  • tenant_id - ID арендатора
  • elapsed_time - Время, затраченное на текущий запуск
  • status - Статус запуска
  • version - Версия рабочего процесса
  • total_tokens - Всего токенов, использованных в текущем запуске
  • file_list - Список обработанных файлов
  • triggered_from - Источник, запустивший текущий запуск
  • workflow_run_inputs - Входные данные текущего запуска
  • workflow_run_outputs - Выходные данные текущего запуска
  • error - Ошибки, возникшие в ходе текущего запуска
  • query - Запрос, использованный во время запуска
  • workflow_app_log_id - ID журнала приложения рабочего процесса
  • message_id - ID связанного сообщения
  • start_time - Время начала запуска
  • end_time - Время окончания запуска
  • workflow node executions - Информация о выполнениях узлов рабочего процесса
  • Metadata
    • workflow_id - Уникальный идентификатор рабочего процесса
    • conversation_id - ID разговора
    • workflow_run_id - ID текущего запуска
    • tenant_id - ID арендатора
    • elapsed_time - Время, затраченное на текущий запуск
    • status - Статус запуска
    • version - Версия рабочего процесса
    • total_tokens - Всего токенов, использованных в текущем запуске
    • file_list - Список обработанных файлов
    • triggered_from - Источник, запустивший текущий запуск

Информация о трассировке сообщений

Используется для отслеживания связанных с LLM разговоров
ChatPhoenix LLM
message_idid
user_session_id- помещается в metadata
”llm”name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
Потребление токенов модельюusage_metadata
metadatametadata
[“message”, conversation_mode]tags
conversation_idconversation_id in metadata
Информация о трассировке сообщений
  • message_id - ID сообщения
  • message_data - Данные сообщения
  • user_session_id - ID сессии пользователя
  • conversation_model - Режим разговора
  • message_tokens - Количество токенов в сообщении
  • answer_tokens - Количество токенов в ответе
  • total_tokens - Общее количество токенов в сообщении и ответе
  • error - Информация об ошибке
  • inputs - Входные данные
  • outputs - Выходные данные
  • file_list - Список обработанных файлов
  • start_time - Время начала
  • end_time - Время окончания
  • message_file_data - Данные файла, связанного с сообщением
  • conversation_mode - Режим разговора
  • Metadata
    • conversation_id - ID разговора
    • ls_provider - Поставщик модели
    • ls_model_name - ID модели
    • status - Статус сообщения
    • from_end_user_id - ID отправляющего пользователя
    • from_account_id - ID отправляющей учётной записи
    • agent_based - Основано ли сообщение на агенте
    • workflow_run_id - ID запуска рабочего процесса
    • from_source - Источник сообщения

Информация о трассировке модерации

Используется для отслеживания модерации разговоров
ModerationPhoenix Tool
user_id- помещается в metadata
“moderation”name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
metadatametadata
[“moderation”]tags
Информация о трассировке модерации
  • message_id - ID сообщения
  • user_id: ID пользователя
  • workflow_app_log_id - ID журнала приложения рабочего процесса
  • inputs - Входные данные модерации
  • message_data - Данные сообщения
  • flagged - Помечен ли контент для внимания
  • action - Конкретные предпринятые действия
  • preset_response - Предустановленный ответ
  • start_time - Время начала модерации
  • end_time - Время окончания модерации
  • Metadata
    • message_id - ID сообщения
    • action - Конкретные предпринятые действия
    • preset_response - Предустановленный ответ

Информация о трассировке предлагаемых вопросов

Используется для отслеживания предлагаемых вопросов
Suggested QuestionPhoenix LLM
user_id- помещается в metadata
”suggested_question”name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
metadatametadata
[“suggested_question”]tags
Информация о трассировке сообщений
  • message_id - ID сообщения
  • message_data - Данные сообщения
  • inputs - Входной контент
  • outputs - Выходной контент
  • start_time - Время начала
  • end_time - Время окончания
  • total_tokens - Количество токенов
  • status - Статус сообщения
  • error - Информация об ошибке
  • from_account_id - ID отправляющей учётной записи
  • agent_based - Основано ли сообщение на агенте
  • from_source - Источник сообщения
  • model_provider - Поставщик модели
  • model_id - ID модели
  • suggested_question - Предлагаемый вопрос
  • level - Уровень статуса
  • status_message - Сообщение о статусе
  • Metadata
    • message_id - ID сообщения
    • ls_provider - Поставщик модели
    • ls_model_name - ID модели
    • status - Статус сообщения
    • from_end_user_id - ID отправляющего пользователя
    • from_account_id - ID отправляющей учётной записи
    • workflow_run_id - ID запуска рабочего процесса
    • from_source - Источник сообщения

Информация о трассировке поиска по набору данных

Используется для отслеживания поиска по базе знаний
Dataset RetrievalPhoenix Retriever
user_id- помещается в metadata
”dataset_retrieval”name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
metadatametadata
[“dataset_retrieval”]tags
message_idparent_run_id
Информация о трассировке поиска по набору данных
  • message_id - ID сообщения
  • inputs - Входной контент
  • documents - Данные документов
  • start_time - Время начала
  • end_time - Время окончания
  • message_data - Данные сообщения
  • Metadata
    • message_id - ID сообщения
    • ls_provider - Поставщик модели
    • ls_model_name - ID модели
    • status - Статус сообщения
    • from_end_user_id - ID отправляющего пользователя
    • from_account_id - ID отправляющей учётной записи
    • agent_based - Основано ли сообщение на агенте
    • workflow_run_id - ID запуска рабочего процесса
    • from_source - Источник сообщения

Информация о трассировке инструментов

Используется для отслеживания вызовов инструментов
ToolPhoenix Tool
user_id- помещается в metadata
tool_namename
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
metadatametadata
[“tool”, tool_name]tags

Информация о трассировке инструментов

  • message_id - ID сообщения
  • tool_name - Имя инструмента
  • start_time - Время начала
  • end_time - Время окончания
  • tool_inputs - Входные данные инструмента
  • tool_outputs - Выходные данные инструмента
  • message_data - Данные сообщения
  • error - Информация об ошибке, если есть
  • inputs - Входные данные сообщения
  • outputs - Выходные данные сообщения
  • tool_config - Конфигурация инструмента
  • time_cost - Затраченное время
  • tool_parameters - Параметры инструмента
  • file_url - URL связанного файла
  • Metadata
    • message_id - ID сообщения
    • tool_name - Имя инструмента
    • tool_inputs - Входные данные инструмента
    • tool_outputs - Выходные данные инструмента
    • tool_config - Конфигурация инструмента
    • time_cost - Затраченное время
    • error - Информация об ошибке, если есть
    • tool_parameters - Параметры инструмента
    • message_file_id - ID файла сообщения
    • created_by_role - Роль создателя
    • created_user_id - ID пользователя-создателя
Информация о трассировке генерации имени Используется для отслеживания генерации заголовка разговора
Generate NamePhoenix Tool
user_id- помещается в metadata
”generate_conversation_name”name
start_timestart_time
end_timeend_time
inputsinputs
outputsoutputs
metadatametadata
[“generate_name”]tags
Информация о трассировке генерации имени
  • conversation_id - ID разговора
  • inputs - Входные данные
  • outputs - Сгенерированное имя разговора
  • start_time - Время начала
  • end_time - Время окончания
  • tenant_id - ID арендатора
  • Metadata
    • conversation_id - ID разговора
    • tenant_id - ID арендатора