Компанія Google представила нові можливості для моделі штучного інтелекту Gemma 4 12B, яка тепер може працювати безпосередньо на звичайних ноутбуках із 16 ГБ оперативної пам’яті. Рішення орієнтоване на локальне виконання AI-завдань без необхідності надсилати дані до хмарних сервісів.
Ставка на локальний ШІ
Gemma 4 12B позиціонується як відкрита мультимодальна модель нового покоління, здатна працювати з текстом, зображеннями та іншими типами даних. За словами розробників, вона поєднує відносно невеликі вимоги до апаратного забезпечення з можливостями, які раніше були доступні переважно для значно більших моделей.
Особливістю новинки стала орієнтація на так звані агентні сценарії використання. Це означає, що модель може не лише відповідати на запитання, а й виконувати багатоетапні дії: аналізувати інформацію, створювати код, працювати з інструментами та допомагати автоматизувати робочі процеси.
Google AI Edge Gallery отримала підтримку Gemma 4 12B
Одним із перших застосунків, що отримали інтеграцію нової моделі, стала платформа Google AI Edge Gallery для macOS. Вона дозволяє запускати ШІ локально та виконувати різні завдання через природні текстові запити.
Наприклад, користувач може надати набір файлів із даними та попросити систему побудувати графік, провести аналіз або підготувати візуалізацію. Модель самостійно генерує необхідний код, запускає його на пристрої та формує результат.
За інформацією Google, Gemma 4 12B також демонструє покращені можливості програмування. У складних сценаріях модель здатна створювати код, виявляти помилки та виправляти їх у межах одного діалогу.
Голосове керування та редагування тексту без хмари
Ще одним напрямком використання стала програма Google AI Edge Eloquent. Вона працює повністю локально та дозволяє перетворювати голос на текст, а також редагувати документи за допомогою голосових команд.
Користувачі можуть виділити текст і просто продиктувати завдання на кшталт створення короткого резюме, зміни стилю викладу або перекладу іншою мовою. Усі операції виконуються без передачі даних на зовнішні сервери, що може бути важливим для корпоративних користувачів та тих, хто працює з конфіденційною інформацією.
LiteRT-LM перетворює ноутбук на локальний AI-сервер
Разом із запуском Gemma 4 12B компанія також розширила можливості інструмента LiteRT-LM. Нова команда serve дозволяє розгорнути локальний сервер із сумісним API для роботи з великими мовними моделями.
Завдяки цьому розробники можуть підключати локально запущену модель до різних застосунків, агентів та інструментів розробки без використання хмарної інфраструктури. Фактично ноутбук перетворюється на автономну платформу для запуску AI-сервісів.
Чому це важливо
Тренд на локальний штучний інтелект продовжує набирати обертів. Замість залежності від віддалених серверів користувачі отримують можливість запускати потужні моделі безпосередньо на своїх пристроях, що забезпечує кращу конфіденційність, менші затримки та відсутність витрат на API-запити.
Gemma 4 12B стала ще одним кроком у цьому напрямку. За задумом Google, модель має надати широкому колу користувачів доступ до сучасних агентних та мультимодальних можливостей ШІ навіть на звичайних ноутбуках із помірними технічними характеристиками.
Gemma 4 12B стала доступна на huggingface.co
Джерело: Google Developers Blog
