Журналісти видання The Guardian протестували функцію пошуку на базі чат-бота ChatGPT і з’ясували, що власники сайтів можуть обдурити бота. Для цього на сторінці треба всього лише розмістити прихований текст із промптом.
Для експерименту журналісти створили веб-сторінку з оголошенням про продаж камери. Спершу чат-бота запитали, чи варто її купувати, і передали в запиті посилання на сторінку. У цьому випадку ChatGPT схвалив покупку, оцінив товар і звернув увагу на функції, які можуть не сподобатися.
Після цього на сторінці розмістили прихований текст, який докладно описував боту, що треба відповісти користувачеві. Якщо в тексті було прохання порекомендувати камеру, то ChatGPT радив купити її та ігнорував негативні відгуки на сторінці.
Журналісти зазначають, що шахраї можуть використовувати прихований текст на сайтах для обману чат-ботів. Крім того, мовна модель може радити шкідливий код, якщо її переконати, що він корисний і не зашкодить користувачеві. Якщо пошук інформації за допомогою чат-ботів стане популярним, то це породить ринок адаптації сайтів для ботів.
Володимир Дрозд — засновник та головний редактор AiNews UA. Автор понад 700 публікацій про штучний інтелект, великі мовні моделі (LLM), AI-агентів та сучасні AI-сервіси. Спеціалізується на новинах OpenAI, Google, Anthropic, xAI, Meta та локальних AI-моделях.
- Володимир Дрозд
- Володимир Дрозд
- Володимир Дрозд
- Володимир Дрозд
