Губернатор Калифорнии Гэвин Ньюсом в понедельник подписал указ, обязывающий компании, работающие с искусственным интеллектом (ИИ) и претендующие на государственные контракты, демонстрировать надёжные стандарты безопасности и конфиденциальности. Этот шаг знаменует собой важный этап в регулировании ИИ на уровне штата, создавая новый прецедент для взаимодействия правительств с быстро развивающимися технологиями ИИ.
Проверка Подрядчиков, Разрабатывающих ИИ
Согласно новым правилам, компании, участвующие в государственных тендерах, должны предоставить свои политики безопасности и конфиденциальности ИИ заранее. Калифорния будет тщательно изучать эти политики, чтобы убедиться, что они активно предотвращают злоупотребления, включая распространение незаконного контента, такого как материалы о сексуальном насилии над детьми. Штат также оценит, используются ли ИИ-системы для необоснованной слежки или цензуры, и принимают ли разработчики меры по смягчению предвзятости в своих алгоритмах.
Это не просто формальность. Процесс проверки критически важен, поскольку ИИ-системы всё чаще развёртываются в чувствительных областях, и бесконтрольные перекосы или нарушения конфиденциальности могут иметь далеко идущие последствия. Без прозрачности риск злоупотреблений резко возрастает.
Независимость от Федеральных Стандартов
Калифорния не будет автоматически полагаться на федеральные оценки компаний, работающих с ИИ. Даже если Пентагон обозначит компанию как рискованную в цепочке поставок (как недавно произошло с компанией Anthropic), штат проведёт собственную независимую оценку. Этот шаг сигнализирует о готовности Калифорнии идти своим путём в надзоре за ИИ, даже если это противоречит федеральной политике.
Споры Пентагона с Anthropic — яркий пример. Министерство обороны разорвало связи с компанией после того, как Anthropic отказалась разрешить использование своих моделей для массовой внутренней слежки или развёртывания автономного оружия. Это подчёркивает фундаментальное напряжение между агрессивным военным применением ИИ и этическими соображениями.
Водяные Знаки для ИИ-Генерируемого Контента
Указ также предписывает государственным учреждениям ставить водяные знаки на любое видео, созданное или обработанное с помощью ИИ. Эта мера направлена на борьбу с дезинформацией, упрощая для общественности определение подлинности контента. Отмечая ИИ-контент, произведённый государством, Калифорния признаёт растущую угрозу дипфейков и синтетических медиа.
Это проактивный шаг к укреплению доверия к цифровым медиа. Распространение изображений, сгенерированных ИИ, означает, что потребителям нужны надёжные инструменты для проверки подлинности, а водяные знаки — один из таких инструментов.
Исполнительный указ Калифорнии — это не просто бюрократическое изменение; это заявление о том, что инновации в области ИИ должны быть ответственными. Штат сигнализирует о своём намерении установить условия для работы ИИ в пределах своих границ, отдавая приоритет безопасности, конфиденциальности и прозрачности над бесконтрольным развёртыванием.
