Google представляет Gemma 3 270M: компактный AI для локальных задач с высокой производительностью

В линейке моделей Gemma 3 представлена новая версия — Gemma 3 270M, предназначенная для решения локальных задач непосредственно на устройствах. При относительно компактном размере (270 миллионов параметров) данная модель эффективно выполняет инструкции и идеально подходит для дообучения в специализированных областях.

Ключевые характеристики:

Архитектура: около 170 миллионов параметров выделено для эмбеддингов (поддерживает до 256 тысяч токенов), остальная часть — это трансформерные блоки.

Эффективность и автономность: в режиме INT4 на смартфоне Pixel 9 Pro обработка примерно 25 диалогов требует менее 1% заряда.

Доступность: доступна как в варианте с предварительным обучением, так и с настройкой по инструкциям.

Оптимизация: существуют чекпоинты для INT4, которые помогают уменьшить ресурсоёмкость без значительных потерь в качестве.

Применение: включает классификацию и анализ текста, извлечение сущностей, маршрутизацию запросов, структурирование данных, проверку соответствия требованиям и офлайн-генерацию контента.

🔗 HF – перейдите по ссылке
🔗 Также доступна в Ai Studio

✔️ Все полезные нейронные сети здесь (umaai.site)

👾 Друг Опенсурса (тг)