Yandex Cloud рассказал об итогах закрытого тестирования YandexGPT

Yandex Cloud подвела итоги закрытого тестирования YandexGPT среди 800 компаний Больше всего технология востребована в IT, ретейле и банках. Закрытое тестирование YandexGPT для бизнеса стартовало в июле 2023 года. По итогам тестирования в сервисе появились новые возможности. Клиенты могут дообучать нейросеть на своих данных, а в YandexGPT появился режим чата, благодаря которому технология может поддерживать текстовый диалог и помнит контекст беседы. Также у YandexGPT в облаке используются эмбеддинги — модель, позволяющая точнее определять значения слов в тексте исходя из частоты их употребления, а пользователям стала доступна новая нейросеть — YandexGPT 2. Об этом информационной службе Хабра рассказали в пресс‑службе облачного провайдера.

Специалисты платформы Yandex Cloud проанализировали более 6 тысяч заявок. Коммерческий директор Yandex Cloud Александр Черников заявил, что IT, ретейл и банки оказались в числе первых участников тестирования, компании из этих групп оказываются ранними пользователями новых технологий. Значительную долю участников составили представители и других отраслей, включая промышленность и медиа. Заметная часть компаний включилась в закрытое тестирование с уже сформированным пониманием задач, это даёт и хорошую основу для получения первых результатов, так и качественную обратную связь для дальнейшего развития продукта.

Компании тестировали возможности YandexGPT в десятках сценариев применения больших языковых моделей. Специалисты облачного провайдера поделили эти сценарии на шесть основных групп: контентные задачи, создание чат‑ботов и виртуальных ассистентов, обобщение и агрегация данных по рабочим чатам, отзывам, анализ и классификация запросов пользователей, ответы на вопросы пользователей и выделение сущностей из текстов.

На основе этих запросов в «YandexGPT для бизнеса» добавились возможности:

• режим чата, когда в ходе текстового диалога с пользователем YandexGPT помнит контекст, например, если пользователь задал вопрос, получил ответ и затем просит дополнительно уточнить информацию по тому же вопросу;

• Fine Tuning в сервисе Yandex Datasphere, который представляет собой возможность использовать в YandexGPT модель, дообученную на пользовательских данных. Например, это может быть полезно в областях, которые оперируют специфическими понятиями и терминами.

• эмбеддинги представляет собой способ представления слов в виде числовых векторов, благодаря которому сервис лучше понимает значения слов в зависимости от контекста;

• YandexGPT 2 — новая нейросеть, которая намного лучше справляется с задачами стилизации, пересказа и анализа, создания текстов и ответов на вопросы, чем предшественница.

Участники тестирования использовали YandexGPT в необычных задачах. Один из заказчиков из e-com придумывал с помощью технологии стихотворные рекламные слоганы.  YandexGPT тестировали в роли ассистента юридической службы, консультанта по психологическим темам, SMM-менеджера и представителей других профессий. Уже в конце года возможности технологии смогут протестировать все клиенты Yandex Cloud.