Разрыв в вопросах ответственности: противостояние Anthropic и OpenAI по поводу подотчетности ИИ

Между двумя ведущими разработчиками ИИ в мире, Anthropic и OpenAI, возник серьезный раскол относительно того, какую степень юридической ответственности должны нести компании, если их технологии наносят катастрофический ущерб.

В центре этого спора находится законопроект Сената 3444 в штате Иллинойс — законодательная инициатива, которая предоставила бы лабораториям ИИ определенный уровень юридического иммунитета в случае масштабных катастроф. Хотя принятие законопроекта остается под вопросом, эта дискуссия подчеркивает растущее идеологическое противостояние: должна ли индустрия регулироваться самостоятельно или же она должна нести строгую ответственность перед судом.

Суть спора: SB 3444

Предлагаемый закон Иллинойса освободил бы разработчиков ИИ от ответственности, если их системы будут использованы для причинения «критического ущерба», под которым понимаются массовые жертвы или материальный ущерб, превышающий 1 миллиард долларов.

Спорная «лазейка» в законопроекте заключается в следующем:
— ИИ-лаборатория может избежать юридической ответственности за катастрофу (например, создание биологического оружия).
— При условии, что лаборатория разработала собственную систему безопасности и опубликовала ее на своем веб-сайте.

OpenAI активно поддерживает этот законопроект, утверждая, что подобные меры защиты необходимы для стимулирования инноваций. Они настаивают на том, что ограничение ответственности позволяет как малому бизнесу, так и крупным предприятиям использовать передовые технологии ИИ, не опасаясь постоянной угрозы разорительных судебных исков. OpenAI заявляет, что стремится к созданию «гармонизированного» подхода к регулированию в различных штатах, который в конечном итоге ляжет в основу федерального законодательства.

Anthropic, напротив, ведет агрессивную лоббистскую деятельность, чтобы изменить или полностью отменить законопроект. Их позиция заключается в том, что прозрачность без подотчетности бесполезна. Anthropic утверждает, что разработчики должны нести частичную ответственность за вред обществу, который могут спровоцировать их модели, а не получать то, что они называют «бесплатным билетом на свободу».

Почему это важно: эрозия общего права

Разногласия касаются не просто одного законопроекта штата; речь идет о фундаментальных правовых принципах, управляющих технологиями.

Юристы, включая экспертов из Secure AI Project, предупреждают, что SB 3444 может разрушить существующие механизмы защиты. Согласно действующему общему праву, компании уже имеют стимул предотвращать предсказуемые риски, поскольку в случае невыполнения этих обязательств на них могут подать в суд. Закрепляя иммунитет на законодательном уровне, законопроект может:
1. Снизить стимул для компаний вкладывать значительные средства в тщательное тестирование безопасности.
2. Переложить бремя риска с многомиллиардных корпораций на общество и жертв несчастных случаев, вызванных ИИ.
3. Создать регуляторный вакуум, в котором «системы безопасности» контролируются самими разработчиками и лишены независимого надзора.

Реакция политиков и исполнительной власти

Дебаты уже достигли высших эшелонов власти штата. Пока законодатели Иллинойса изучают предложение, позиция офиса губернатора дает представление о политическом климате:

«Губернатор Прицкер не считает, что технологическим гигантам следует предоставлять полный иммунитет, позволяющий уклоняться от обязанностей по защите общественных интересов». — Пресс-секретарь губернатора JB Pritzker

Сводка позиций

Заключение: По мере того как технологии ИИ приближаются к уровню «передовых» возможностей, индустрия раскалывается на два лагеря: одни отдают приоритет быстрому внедрению через правовую защиту, другие настаивают на строгой ответственности для обеспечения безопасности общества. Исход этих законодательных баталий, вероятно, определит правовой ландшафт для искусственного интеллекта на десятилетия вперед.