Журналісти видання The Guardian протестували функцію пошуку на базі чат-бота ChatGPT і з’ясували, що власники сайтів можуть обдурити бота. Для цього на сторінці треба всього лише розмістити прихований текст із промптом.
Для експерименту журналісти створили веб-сторінку з оголошенням про продаж камери. Спершу чат-бота запитали, чи варто її купувати, і передали в запиті посилання на сторінку. У цьому випадку ChatGPT схвалив покупку, оцінив товар і звернув увагу на функції, які можуть не сподобатися.
Після цього на сторінці розмістили прихований текст, який докладно описував боту, що треба відповісти користувачеві. Якщо в тексті було прохання порекомендувати камеру, то ChatGPT радив купити її та ігнорував негативні відгуки на сторінці.
Журналісти зазначають, що шахраї можуть використовувати прихований текст на сайтах для обману чат-ботів. Крім того, мовна модель може радити шкідливий код, якщо її переконати, що він корисний і не зашкодить користувачеві. Якщо пошук інформації за допомогою чат-ботів стане популярним, то це породить ринок адаптації сайтів для ботів.
Залишити коментар