L’Assemblea dello Stato di California ha approvato il Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (SB 1047). Il disegno di legge è una delle prime normative significative sull’intelligenza artificiale negli Stati Uniti e nel mondo.
Il disegno di legge, che è stato un punto focale per il dibattito nella Silicon Valley e oltre, obbligherebbe le aziende di intelligenza artificiale che operano in California a implementare una serie di precauzioni prima di addestrare un sofisticato modello di base.
Tra queste, rendere possibile la chiusura rapida e completa del modello, garantire che il modello sia protetto da “modifiche post-addestramento non sicure” e mantenere una procedura di test per valutare se un modello o i suoi derivati siano particolarmente a rischio di “causare o consentire un danno critico”.
Il senatore Scott Wiener, autore principale del disegno di legge, ha affermato che la SB 1047 è una legge altamente ragionevole che chiede ai grandi laboratori di intelligenza artificiale di fare ciò che si sono già impegnati a fare: testare i loro grandi modelli per rischi di sicurezza catastrofici.
“Abbiamo lavorato duramente tutto l’anno, con sostenitori dell’open source, Anthropic e altri, per perfezionare e migliorare la legge. La SB 1047 è ben calibrata su ciò che sappiamo sui rischi prevedibili dell’intelligenza artificiale e merita di essere promulgata”.
I critici della SB 1047, tra cui OpenAI e Anthropic , i politici Zoe Lofgren e Nancy Pelosi e la Camera di commercio della California , hanno sostenuto che è eccessivamente focalizzata sui danni catastrofici e potrebbe danneggiare indebitamente i piccoli sviluppatori di IA open source.
Il disegno di legge è stato modificato in risposta, sostituendo le potenziali sanzioni penali con quelle civili, restringendo i poteri di esecuzione concessi al procuratore generale della California e adeguando i requisiti per entrare a far parte di un “Board of Frontier Models” creato dal disegno di legge.
Dopo che il Senato dello Stato avrà votato il disegno di legge emendato (una votazione che dovrebbe essere approvata), il disegno di legge sulla sicurezza dell’intelligenza artificiale verrà inoltrato al governatore Gavin Newsom, che avrà tempo fino alla fine di settembre per deciderne il destino, secondo il New York Times .
Il sospetto che alle factory di IA questa legge non piaccia molto è abbastanza concreto. Anthropic ha rifiutato di commentare, oltre a indicare una lettera inviata dal CEO di Anthropic Dario Amodei al governatore Newsom la scorsa settimana. Anche OpenAI ha rifiutato di commentare e ha indicato una lettera del responsabile della strategia di OpenAI Jason Kwon inviata al senatore Wiener, sempre la scorsa settimana.
