Kalifornský guvernér Gavin Newsom v pondělí podepsal exekutivní příkaz požadující, aby společnosti s umělou inteligencí (AI) soupeřily o vládní zakázky, aby prokázaly přísné standardy zabezpečení a soukromí. Tento krok představuje významný milník v regulaci umělé inteligence na státní úrovni a vytváří nový precedens pro to, jak se vlády mohou zapojit do rychle se vyvíjejících technologií umělé inteligence.
Recenze dodavatelů AI
Podle nových pravidel musí společnosti účastnící se vládních výběrových řízení předem poskytnout své zásady zabezpečení a ochrany soukromí v oblasti AI. Kalifornie pečlivě zkontroluje tyto zásady, aby zajistila, že aktivně zabraňují zneužívání, včetně distribuce nezákonného obsahu, jako je materiál obsahující sexuální zneužívání dětí. Stát také vyhodnotí, zda jsou systémy umělé inteligence využívány k neoprávněnému sledování nebo cenzuře a zda vývojáři podnikají kroky ke zmírnění zkreslení ve svých algoritmech.
Není to jen formalita. Proces prověřování je kritický, protože systémy umělé inteligence jsou stále častěji nasazovány v citlivých oblastech a nekontrolované předsudky nebo porušení soukromí mohou mít dalekosáhlé důsledky. Bez transparentnosti se riziko zneužití dramaticky zvyšuje.
Nezávislost na federálních standardech
Kalifornie se nebude automaticky spoléhat na federální hodnocení společností AI. I když Pentagon označí společnost za rizikovou v dodavatelském řetězci (jak se nedávno stalo u Anthropic), stát provede vlastní nezávislé hodnocení. Tento krok signalizuje ochotu Kalifornie jít vlastní cestou v dohledu nad AI, i když je to v rozporu s federální politikou.
Spor Pentagonu s Anthropic je ukázkovým příkladem. Ministerstvo obrany přerušilo styky se společností poté, co společnost Anthropic odmítla povolit použití jejích modelů k hromadnému domácímu sledování nebo k nasazení autonomních zbraní. To zdůrazňuje základní napětí mezi agresivními vojenskými aplikacemi umělé inteligence a etickými ohledy.
Vodoznaky pro obsah generovaný umělou inteligencí
Nařízení také nařizuje vládním agenturám, aby vodoznakem jakékoli video vytvořené nebo zpracované pomocí AI. Opatření má za cíl bojovat proti dezinformacím tím, že veřejnosti usnadní určování pravosti obsahu. Oslavou vládního obsahu umělé inteligence si Kalifornie uvědomuje rostoucí hrozbu deepfakes a syntetických médií.
Jedná se o proaktivní krok k budování důvěry v digitální média. Vzestup obrázků generovaných umělou inteligencí znamená, že spotřebitelé potřebují spolehlivé nástroje pro ověřování a vodoznaky jsou jedním z těchto nástrojů.
Kalifornský výkonný příkaz není jen byrokratická změna; je to prohlášení, že inovace AI musí být zodpovědná. Stát signalizuje svůj záměr nastavit podmínky pro fungování umělé inteligence v rámci svých hranic, přičemž upřednostňuje bezpečnost, soukromí a transparentnost před nekontrolovaným zaváděním.
