Згідно з новим звітом The Information, OpenAI випустить свого AI-агент «Operator» цього місяця, що підтверджує інформацію, раніше опубліковану Bloomberg у листопаді.
Запуск затримується через проблеми безпеки, пов’язані з уразливістю, що дає змогу користувачам обходити правила й обмеження AI. Ця проблема, відома ще з часів GPT-3, залишається невирішеною, що створює ризики для автономних AI-агентів, оскільки користувачі менше контролюють оброблюваний контент.
Співзасновник OpenAI Войцех Заремба критикував Anthropic за випуск AI-агента без належної безпеки, стверджуючи, що OpenAI зіткнувся б із критикою за подібні дії.
Хоча «Operator» задуманий як універсальний помічник, він буде зосереджений на завданнях у браузері, що відповідає прагненням автоматизувати складні робочі процеси. Генеральний директор OpenAI Сем Альтман вважає, що AI-агенти – це наступний етап у розвитку AI, що пов’язано з уповільненням прогресу в традиційних мовних моделях. Альтман припускає, що майбутнє за ефективним використанням наявних моделей. Кілька великих AI-лабораторій працюють над подібними помічниками для автоматизації завдань із мінімальною участю користувача.
Anthropic вже випустила помічника, який обробляє вміст екрана і виконує дії в реальному часі, а Microsoft впровадила автоматизацію у свою платформу Copilot.
Хоча стандартного визначення агентних систем AI немає, вони функціонують як програми або підказки, що виконують підзадачі та координують роботу з іншими помічниками, об’єднуючи різні мовні моделі та системи AI.
Компанії прагнуть автоматизувати робочі процеси через координацію та надійне виконання завдань кількома помічниками. OpenAI зробила крок у цьому напрямку, випустивши «Project Swarm» на GitHub. Цей експериментальний фреймворк дає змогу розробникам створювати й керувати системами з кількома помічниками, демонструючи, як вони можуть передавати управління один одному і виконувати завдання з конкретними інструментами.
