Обучение трансформеров, зоопарк ML-моделей, RAG-подходы, железо для LLM и другие темы на Conversations 2023

8 декабря в Москве и в онлайн-формате состоится Conversations – ежегодная конференция по разговорному, а теперь и генеративному AI для разработчиков и бизнеса.

Вызовы и достижения разработки LLM, диалоговые платформы и новые фреймворки, инфраструктура для запуска LLM, нейросетевая обработка и модели распознавания речи, обучение трансформеров, RAG-подходы и многое другое в лайнапе Conversations в этом году. 

Вас ждет экспертиза от команд GigaChat и YaGPT, ВКонтакте, Selectel, MTS AI, Лаборатория Касперского, Тинькофф, Zerocracy, Yandex Cloud, Boto, 3itech и других. Для подогрева интереса делимся некоторыми подробностями докладов, а еще промокодом на скидку!

AI-технологии, инструменты, челленджи разработки

Эксперты Selectel, Владислав Кирпинский и Ефим Головин, расскажут о том, какое железо нужно для работы собственной LLM, и как рассчитать ресурсы на перспективу. Поднимут актуальную тему про ограничения GPU и рассмотрят варианты функционирования LLM на собственных серверах.

Про ограничения больших языковых моделей и способ их обхода с помощью SDK расскажет Константин Крестников из команды GigaChat, SberDevices.

Виталий Шутов из ВКонтакте поделится методами нейросетевой обработки для реалтайм-приложений. Также расскажет, как работает потоковое распознавание речи, шумоочистка, эхоподавление, восстановление потерянных аудиопакетов и раскроет другие профессиональные секреты.

Как обучить трансформер понимать, чем на самом деле недовольны клиенты? Что такое аспектный анализ комментариев, и что делать, если данных для обучения очень мало? Ответят Галина Прохорова и Павел Подберезко, MTS AI.

Илья Маслюков, Reezonly, расскажет про автоматизацию Job To Be Done сценариев с помощью AI без привлечения разработки. Из доклада вы узнаете, как использовать no-code инструменты для повышения ценности и улучшения пользовательского опыта своих продуктов, экономя время и ресурсы команды разработки.

Как сделать речевую аналитику своими руками на базе open source и отказаться от seq2seq? Опытом поделится Виктория Кондрашук, Открытие Инвестиции. 

О новых подходах в RAG и о том, как избавиться от галлюцинаций и решить проблему ограничения контекста LLM  – Виктор Носко, FractalGPT.

В Zerocracy считают, что Codepilot и Whisperer – это только начало эры Авто-агентов, которые постепенно займут роли в командах разработки. Егор Бугаенко расскажет, как программисты Zerocracy уживаются с AI-компаньонами и к чему готовятся в ближайшем будущем.

Дискуссия «Изнанка LLM: как устроены разработка, внедрение и эксплуатация больших языковых моделей»

Какими пользовались адаптерами, кроме LoRA? Какие из похожих подходов планируете применить или применяли? Как оптимизируете модель? Как подбираете скорость обучения? Делали ли свой внутренний бенчмарк для оценки генеративных способностей LLM? Ограничивались ли только SBS-тестированием?  – эти и многие другие вопросы мы обсудим с российскими создателями нейросетевых моделей в рамках дискуссии про вызовы разработки LLM.  

Больше спикеров и тем – на сайте Conversations! Присоединяйтесь! Участвовать можно и офлайн, и онлайн.

Промокод на скидку 10% для читателей Хабра: CNVS23BhR, билеты здесь. Стоимость билетов вырастет 1 декабря, успевайте!

Узнать о том, как это было в прошлом году, можно по ссылке.