Привет! Меня зовут Женя, я деврел в Банки.ру.
Слушайте новый выпуск нашего подкаста на платформах:
В третьем выпуске в гости пришел Рушан (тимлид ML-команды в Банки.ну), а я завалил его вопросами про чат-боты.
Просто и доступно обсудили изнанку LLM в проде: скрытые агенты под капотом, реальные косты на GPU, почему заставить бота вовремя замолчать сложнее, чем научить его отвечать.
Будет интересно всем, кто хочет понять общую картинку работы современных чат-ботов и наконец-то узнать, сколько раз надо написать «позови человека», чтобы бот подключил оператора.
Давайте пообщаемся в комментах: вы сразу пишете боту «позови человека», или даете ему шанс решить вашу проблему?
Новый выпуск — каждые две недели 😎
ссылка на оригинал статьи https://habr.com/ru/articles/1071970/