Губернатор Каліфорнії Гевін Ньюсом у понеділок підписав указ, який зобов’язує компанії, які працюють зі штучним інтелектом (ІІ) та претендують на державні контракти, демонструвати надійні стандарти безпеки та конфіденційності. Цей крок знаменує собою важливий етап у регулюванні ІІ на рівні штату, створюючи новий прецедент для взаємодії урядів з технологіями ІІ, що швидко розвиваються.
Перевірка підрядників, що розробляють ІІ
Згідно з новими правилами, компанії, які беруть участь у державних тендерах, мають надати свої політики безпеки та конфіденційності ІІ заздалегідь. Каліфорнія ретельно вивчатиме ці політики, щоб переконатися, що вони активно запобігають зловживанням, включаючи поширення незаконного контенту, такого як матеріали про сексуальне насильство над дітьми. Штат також оцінить, чи використовуються ІІ-системи для необґрунтованого стеження чи цензури, і чи вживають розробники заходів щодо пом’якшення упередженості у своїх алгоритмах.
Це не просто формальність. Процес перевірки критично важливий, оскільки ІІ-системи все частіше розгортаються в чутливих областях, і безконтрольні перекоси або порушення конфіденційності можуть мати далекосяжні наслідки. Без прозорості ризик зловживань різко зростає.
Незалежність від Федеральних Стандартів
Каліфорнія не автоматично покладатиметься на федеральні оцінки компаній, що працюють з ІІ. Навіть якщо Пентагон позначить компанію як ризиковану в ланцюжку постачання (як нещодавно сталося з компанією Anthropic), штат проведе власну незалежну оцінку. Цей крок сигналізує про готовність Каліфорнії йти своїм шляхом у нагляді за ІІ, навіть якщо це суперечить федеральній політиці.
Суперечки Пентагону з Anthropic – яскравий приклад. Міністерство оборони розірвало зв’язки з компанією після того, як Anthropic відмовилася дозволити використання своїх моделей для масового внутрішнього стеження або розгортання автономної зброї. Це підкреслює фундаментальну напругу між агресивним військовим застосуванням ІІ та етичними міркуваннями.
Водяні знаки для ІІ-генерованого контенту
Указ також наказує державним установам ставити водяні знаки на будь-яке відео, створене чи оброблене за допомогою ІІ. Цей захід спрямовано боротьбу з дезінформацією, спрощуючи громадськості визначення справжності контенту. Наголошуючи на ІІ-контенті, виробленому державою, Каліфорнія визнає зростаючу загрозу дипфейків і синтетичних медіа.
Це проактивний крок до зміцнення довіри до цифрових медіа. Поширення зображень, згенерованих ІІ, означає, що споживачам потрібні надійні інструменти для автентифікації, а водяні знаки — один з таких інструментів.
Виконавчий указ Каліфорнії – це не просто бюрократична зміна; ця заява про те, що інновації в галузі ІІ мають бути відповідальними. Штат сигналізує про свій намір встановити умови для роботи ІІ в межах своїх кордонів, віддаючи пріоритет безпеці, конфіденційності та прозорості над безконтрольним розгортанням.
