Hugging Face показали, як можна запускати моделі машинного навчання безпосередньо всередині Chrome-розширення, використовуючи бібліотеку Transformers.js. Це дозволяє виконувати AI-обробку локально — без серверів і без відправки даних у хмару.
🚀 Що таке Transformers.js
Transformers.js — це JavaScript-бібліотека, яка дає можливість запускати популярні моделі Hugging Face прямо в браузері або в Node.js. Вона підтримує різні задачі, зокрема:
- обробку природної мови
- класифікацію тексту
- генерацію тексту
- роботу з embeddings
- комп’ютерний зір
Головна перевага — виконання моделей локально, що забезпечує швидкість і приватність.
🧩 Архітектура Chrome-розширення
У статті розглядається приклад створення Chrome-розширення, яке використовує Transformers.js. Воно складається з трьох основних частин:
1. Background (Service Worker)
Це основний процес, який відповідає за виконання моделі. Саме тут ініціалізується AI та обробляються запити.
2. Content Script
Цей компонент взаємодіє зі сторінкою — наприклад, може отримувати текст або змінювати DOM.
3. Side Panel (інтерфейс)
Інтерфейс користувача, через який відбувається взаємодія з AI (наприклад, чат або панель інструментів).
⚙️ Особливості Manifest V3
Chrome використовує Manifest V3, який має ряд обмежень:
- заборонено виконання довільного коду
- обмежена робота з віддаленими ресурсами
- необхідність явно вказувати доступ до файлів
Через це моделі та всі залежності потрібно включати безпосередньо в розширення.
📦 Завантаження моделей
Transformers.js зазвичай завантажує моделі з Hugging Face Hub, але у випадку з Chrome-розширенням це не завжди можливо.
Тому пропонується:
- попередньо завантажити модель
- зберігати її локально в extension
- використовувати локальні шляхи для доступу
Це дозволяє обійти обмеження безпеки браузера.
🧠 Приклад використання
У прикладі показано, як створити простий AI-інструмент, який:
- приймає текст від користувача
- передає його в модель
- повертає результат (наприклад, класифікацію або відповідь)
Модель ініціалізується один раз, після чого може використовуватись повторно для швидких запитів.
⚡ Продуктивність і оптимізаці
Оскільки все виконується на стороні користувача, важливо враховувати:
- розмір моделей
- час завантаження
- обмеження пам’яті
Для покращення продуктивності використовуються:
- квантизовані моделі
- WebGPU (якщо доступний)
- кешування
🔐 Приватність і безпека
Одна з ключових переваг такого підходу — це приватність:
- дані не передаються на сервер
- вся обробка відбувається локально
- користувач контролює свої дані
Це особливо важливо для інструментів, які працюють із чутливою інформацією.
Transformers.js відкриває нові можливості для створення AI-додатків прямо в браузері. Chrome-розширення можуть стати повноцінними AI-інструментами без залежності від серверної інфраструктури.
Це означає:
- швидші рішення
- менші витрати
- більше приватності
І головне — простіший доступ до AI для розробників і користувачів.
➡️ Спробувати: https://chromewebstore.google.com/detail/transformersjs-gemma-4-br/dhaknnnkcdkjhcclchmnfdhddoehoool
➡️ GitHub: https://github.com/nico-martin/gemma4-browser-extension
➡️ Детальніше: https://huggingface.co/blog/transformersjs-chrome-extension
