Apple підписала добровільне зобов’язання американського уряду щодо розроблення безпечного, надійного штучного інтелекту, що заслуговує на довіру. Раніше аналогічне зобов’язання підписали 15 інших розробників ШІ-сервісів, зокрема Amazon, Anthropic, Google, Inflection, Microsoft і OpenAI.
Правила уряду щодо розробки генеративного ШІ було представлено в липні 2023 року. У той час Apple не розкривала, наскільки глибоко вона планує впровадити ШІ в iOS, тому не підписувала зобов’язання. Проте, компанія заявила, що робить ставку на ШІ, під час WWDC у червні.
Зобов’язання вимагає, щоб розробники ШІ проводили перевірку безпеки моделей перед запуском з використанням Red Team і ділилися результатами з громадськістю. Тестування має охоплювати ризики для суспільства і національної безпеки, такі як розробка біологічної зброї, кібератаки тощо. Інформацією про ризики ШІ компанії зобов’язуються ділитися одна з одною і з регуляторами.
Друга вимога полягає в тому, щоб розробка ШІ-моделей велася в безпечних середовищах, і доступ до ваг моделей був у якомога меншої кількості співробітників. Нарешті, компанії зобов’язуються розробляти системи маркування контенту, такі як водяні знаки, щоб користувачі могли визначати контент, створений ШІ.
