22 июля 2026 года состоялся релиз открытого проекта локального ИИ-сервера Lemonade 11.5. Этот выпуск вышел спустя неделю после релиза Lemonade 11.0. Проект поддерживается командой AMD в рамках мероприятия AMD Advancing AI. Исходный код решения написан на С++ и Python и опубликован на GitHub под лицензией Apache License 2.0.
Локальный ИИ-сервер Lemonade позволяет развёртывать рабочие нагрузки LLM на NPU Ryzen AI, графических процессорах Radeon и ЦП как под Windows, так и под Linux. Наиболее значительным изменением в Lemonade 11.5 является завершение разработки Lemonade Router, который можно использовать для автоматической маршрутизации запросов к соответствующим моделям на основе определённых политик — или даже LLM в качестве маршрутизатора, используя небольшой LLM для определения того, к какой модели следует направить конкретный запрос.
Стабильный компонент Lemonade Router позволяет направлять запросы на основе правил, классификаторов, семантического сходства или политик LLM-as-router. Политики определяются в JSON-файлах или могут быть созданы через графический интерфейс Lemonade. Более подробная информация об этих возможностях маршрутизатора доступна в этом коммите.
Также в Lemonade 11.5 доабавлен серверный механизм обработки заданий, позволяющий клиентам отправлять многошаговые запросы и управлять ими через эндпойнты /jobs. С этих эндпойнтов многошаговые запросы можно приостанавливать/прерывать/возобновлять/удалять. Кроме того, демон lemond теперь может выступать в качестве хоста клиента MCP для подключения к внешним серверам stdio MCP.
ссылка на оригинал статьи https://habr.com/ru/articles/1062094/