Компания Yandex B2B Tech запустила сервис, который позволяет создавать помощников на основе искусственного интеллекта. Теперь компании могут разрабатывать собственных ИИ-ассистентов для своих бизнес-сценариев без необходимости настраивать инфраструктуру и писать большой объём кода. Об этом CNews сообщили представители Yandex Cloud.
Такие помощники обычно используются для автоматизации технической поддержки, умного корпоративного поиска, создания рекомендаций на маркетплейсах и других задач. AI Assistant API позволит ускорить внедрение языковых моделей в бизнес-процессы более чем на 30%.
Воспользоваться сервисом можно уже сейчас на публичной облачной платформе Yandex Cloud. В ближайшее время он станет доступен и для использования на собственной инфраструктуре компаний.
В AI Assistant API уже реализована функциональность ответа LLM на основе данных компании. Это могут быть, например, документы организации или статьи. Можно загрузить файлы в формате PDF, DOC, TEXT или XLS в модель, и она будет отвечать на вопросы пользователей с опорой на них. В будущем в сервисе будет реализована поддержка обращения к внешним базам знаний.
Сервис работает по методу RAG (Retrieval Augmented Generation). Это означает, что задаётся контекст в виде фрагментов текста, на основе которых LLM должна скомпоновать ответ.
Более 150 отечественных производителей электроники представят свои передовые разработки.
«В реальных бизнес-кейсах важно, чтобы модель умела отвечать на вопросы клиентов, основываясь на базе знаний компании. Это позволяет значительно сократить количество ошибок и выдуманных фактов при ответах. При этом не во всех компаниях есть специализированные команды data-science, которые могут адаптировать YandexGPT под конкретные бизнес-сценарии. AI Assistant API помогает упростить этот процесс и легко интегрировать нейросети в приложения», — отметил Григорий Атрепьев, директор по продуктам Yandex Cloud.
Сервис работает с новым поколением языковых моделей YandexGPT 4. Новая линейка включает в себя языковую модель Pro и облегчённую версию Lite. Они превосходят по качеству ответов предыдущие версии, способны рассуждать и обрабатывать запросы в четыре раза большей длины — порядка 60 страниц текста. Кроме того, с помощью моделей последнего поколения скорость генерации ответов увеличилась вдвое.
