️Google выпустила ультракомпактную модель Gemma 3 270M

В линейке Gemma 3 появилась новая версия — Gemma 3 270M, рассчитанная на выполнение локальных задач прямо на устройствах. Несмотря на небольшой размер (270 млн параметров), модель демонстрирует уверенно е следование инструкциям и хорошо подходит для дообучения под узкие домены.

Основные особенности:

• Структура: около 170 млн параметров выделено под эмбеддинги (поддержка до 256k токенов), остальное — трансформерные блоки.

• Производительность и автономность: в режиме INT4 на смартфоне Pixel 9 Pro обработка ~25 диалогов потребляет менее 1% заряда.

• Доступность: предлагается как в предобученном варианте, так и с инструкционной настройкой.

• Оптимизация: есть чекпоинты для INT4, позволяющие снизить ресурсоёмкость без серьёзной потери качества.

• Применение: классификация и анализ текста, извлечение сущностей, маршрутизация запросов, структурирование данных, проверка на соответствие требованиям, офлайн-генерация контента.

🔗 HF — клик
🔗 А так же в Ai Studio

✔️ Все полезные нейронки тут (umaai.site)

👾 Друг Опенсурса (тг)