🌟 Как мы в ProTalk приручили языковые нейросети

Большинство LLM большие языковые модели создавались как средство общения. Обученные на огромных массивах данных, они успешно отвечают на вопросы, пишут статьи и код на Python. Но для практического применения этого недостаточно.
С самого начала ProTalk задумывался как платформа для создания виртуальных сотрудников, ассистентов и Telegram-ботов, используя мощь LLM. Но одного общения недостаточно! Мы научили языковую нейросеть выполнять функции, что кардинально изменило возможности AI-ботов.

🔧 Что такое функция ProTalk?

Это код на Python, позволяющий выполнять действия, выходящие за рамки общения. Функции открывают доступ к Интернету и множеству сервисов: от мессенджеров и соцсетей до баз данных и платежных систем.

В начале развития ProTalk мы соединили chatGPT 3.5 с WhatsApp и Telegram-ботами, что расширило спектр применения БЯМ. Появилась возможность распознавать голосовые сообщения, генерировать изображения, искать в Интернете и расшифровывать PDF-файлы, принимать платежи и многое другое. Мы научились собирать целые цепочки задач, и сегодня у нас уже около 300 функций!

⏳ Время идет, и теперь chatGPT 4-omni поддерживает распознавание голоса и изображений. OpenAI развивает функционал своих моделей, а мы успеваем расширять их возможности, используя LLM.

🤖 Как мы заставили нейросеть выполнять функции?

Каждой функции мы добавляем мини-инструкцию. Нейросеть, помимо вашего промпта, получает код функции с пояснением, как ей пользоваться. Весь этот массив данных она перерабатывает и выполняет код функции, передавая нужные параметры. Функции закрыты для редактирования и являются отдельными модулями к ботам ProTalk.

Однако для многих нейросетей наши боты с множеством функций могут быть сложной задачей, что иногда приводит к некорректному выполнению функций. Нейросеть не заточена строго следовать командам, и это может быть проблемой.

❓ Как добиться стабильности работы ботов с функциями?

Как писать промпт, структурировать его и указывать нейросети, когда выполнять определенную функцию? Об этом мы поговорим в следующих постах!

ProTalk #Ai #NoCode #chatGPT #LLM #Функции