Выбор LLM модели или провайдера

Настройки бота / Выбор LLM модели или провайдера

В верхней части карточки представлены базовые параметры, на которых работает ваш бот. В данном примере, интеллект бота функционирует на платформе chatGPT-4-o-mini. В меню вы можете выбрать другую модель, включая ассистентов от OpenAI.

Если у вас есть ассистенты от OpenAI и вы хотите использовать их на нашей платформе, выберите соответствующую опцию. Вам потребуется ввести ключ OpenAI и уникальный ID ассистента. Если вы работали с платформой Cozy, вы также можете интегрировать их ботов, указав ключ и уникальный ID.

Наша платформа поддерживает различные модели, включая OpenAI, Claude, Llama, Groq, Яндекс-GPT, DeepSeek, Gemini и Giga-chat от Cбера. Вы можете выбрать любую из них в зависимости от ваших потребностей.

Если вы хотите использовать свои собственные токены OpenAI, введите свой ключ в левом окошке. В этом случае конкретный бот будет использовать ваши личные токены OpenAI. Если поле остается пустым, будут использоваться токены нашей платформы, которые вы можете приобрести в разделе "Мой тариф".

Разные LLM модели имеют различные коэффициенты. Например, базовая модель chatGPT 3.5 turbo 0125 имеет коэффициент 1, что означает, что токены тратятся один к одному. Другие модели могут иметь разные коэффициенты, например, более дорогие модели могут умножаться на коэффициент 7, а некоторые, как chatGPT-o-4 mini, могут иметь коэффициент 0.33. Мы предоставляем полную прозрачность в расчетах и статистике.