Il Vertice sulla sicurezza dell’intelligenza artificialeIl vertice, tenutosi questa settimana nel Regno Unito, si è concluso giovedì con l’impegno da parte delle principali aziende tecnologiche a collaborare con i governi sui futuri test dei loro nuovi modelli. E nel farlo, limitare i rischi associati a questa tecnologia, che i Paesi presenti hanno descritto come potenzialmente catastrofica in una dichiarazione congiunta.
Il primo ministro britannico Rishi Sunak ha osservato che gli Stati Uniti, l’Unione Europea e altri Paesi hanno concordato con un gruppo selezionato di aziende di testare rigorosamente i modelli di intelligenza artificiale prima e dopo la loro diffusione al pubblico. Rappresentanti di OpenAI, Anthropic, Google, Microsoft, Meta e xAI hanno partecipato alle sessioni di giovedì in cui sono stati discussi questi test.
Per portare avanti questo progetto, Yoshua Bengio, un informatico canadese riconosciuto come uno dei padrini dell’intelligenza artificiale, è stato incaricato dalla Commissione Europea di di guidare lo sviluppo di un rapporto sullo “stato della scienza”. Il rapporto aiuterà a comprendere le attuali capacità della tecnologia e a dare priorità ai relativi pericoli. Bengio è un ex vincitore del Premio Turing e membro del Comitato consultivo scientifico delle Nazioni Unite.
“Finora, le uniche persone che hanno testato la sicurezza dei nuovi modelli di IA sono state le stesse aziende che li hanno sviluppati”, ha dichiarato Sunak in un comunicato stampa. dichiarazione. “Non dovremmo fare affidamento su di loro per correggere i propri compiti, come molti di loro sono d’accordo”.
Il governo britannico ha dichiarato che le aziende e i governi hanno sostenuto la creazione di un nuovo centro di sperimentazione globale con sede nel Regno Unito. Ha dichiarato che verrà prestata particolare attenzione alla sicurezza nazionale e ai pericoli per la società.
La Cina esclusa dagli esperimenti di riduzione dei rischi dell’intelligenza artificiale
Il primo giorno del vertice ha offerto una rara dimostrazione di unità globale. L’incontro è stato aperto da Michelle Donelan, segretario alla tecnologia del Regno Unito, accompagnata dal segretario al commercio degli Stati Uniti Gina Raimondo e dal viceministro cinese della scienza e della tecnologia Wu Zhaohui.
La Cina, infatti, è uno dei 28 firmatari della Dichiarazione di Bletchley, in cui i governi hanno deciso di chiedere trasparenza e responsabilità alle aziende che sviluppano sistemi di intelligenza artificiale. Hanno inoltre concordato di creare piani per misurare, monitorare e mitigare le capacità potenzialmente dannose.
Il rappresentante della Cina, tuttavia, non era presente giovedì e non ha ratificato l’accordo sui test. Sunak ha suscitato polemiche nel parlamento del suo Paese per aver invitato il governo cinese al vertice. È stato criticato per aver ignorato la riluttanza di molti Paesi occidentali a cooperare con Pechino sulla tecnologia.
Il primo ministro ha dichiarato in sua difesa che una questione così importante richiede la partecipazione di tutti i principali attori. Inoltre, Sunak ha insistito sull’importanza che il Regno Unito potrebbe avere come intermediario tra i blocchi economici di Stati Uniti, Cina e Unione Europea.
Rischi esistenziali e rischi “reali
La vicepresidente Kamala Harris, leader della delegazione statunitense, ha dichiarato che “l’azione coraggiosa” del suo governo dovrebbe essere “di ispirazione e di insegnamento” per gli altri Paesi. Harris ha affermato che l’attenzione principale dovrebbe essere rivolta al modo in cui l’intelligenza artificiale potrebbe ampliare le disuguaglianze all’interno delle società e tra i Paesi.
Il funzionario statunitense aveva già sottolineato mercoledì la necessità di un “approccio più pratico” che andasse oltre la valutazione dei rischi esistenziali. “Ci sono altre minacce che richiedono la nostra azione, minacce che stanno attualmente causando danni e che molte persone considerano esistenziali”, ha detto Harris.
La vicepresidente ha citato l’esempio di un uomo anziano a cui è stato cancellato il piano di assistenza sanitaria a causa di un algoritmo di intelligenza artificiale difettoso. Ha anche citato il caso di una donna minacciata da un partner violento con foto alterate. È necessario lavorare “su tutto lo spettro”, ha detto Harris, al di là delle minacce esistenziali di attacchi informatici massicci o di armi biologiche.
La clonazione dell’identità, la guida autonoma da parte dell’intelligenza artificiale e le campagne di disinformazione sono tra gli altri pericoli quotidiani individuati nello sviluppo di questa tecnologia. A questo proposito, Harris ha annunciato la creazione di un nuovo istituto per la sicurezza dell’intelligenza artificiale negli Stati Uniti, che si concentrerà sullo sviluppo di standard per i sistemi di test per uso pubblico e collaborerà con il centro di test britannico annunciato da Sunak.
Un fondo per aiutare i Paesi africani
L’ufficio di Sunak ha anche riferito che i governi hanno dato il via libera alla condivisione dei risultati delle valutazioni con altri Paesi “se pertinenti”. Ha spiegato che parte dell’obiettivo è creare standard condivisi per mitigare i rischi legati all’intelligenza artificiale.
Il segretario agli Esteri del Regno Unito James Cleverly, ha annunciato un nuovo fondo da 100 milioni di dollari. L’iniziativa è sostenuta dagli Stati Uniti e da altri governi e mira a contribuire alla diffusione di questa tecnologia in Africa. Ad esempio, includendo 46 lingue africane nello sviluppo di alcuni modelli di intelligenza artificiale.
Anche il Segretario generale delle Nazioni Unite Antonio Guterres ha partecipato al vertice, che si è svolto presso la sede di Bletchley Park, sede degli sforzi di decodifica del Regno Unito durante la Seconda Guerra Mondiale. Guterres ha sollecitato uno sforzo globale coordinato, paragonando i rischi dell’intelligenza artificiale alla minaccia nazista, che i decrittatori britannici hanno lottato per combattere. “La minaccia rappresentata dall’intelligenza artificiale è più insidiosa, ma potrebbe essere altrettanto pericolosa”, ha dichiarato.
Il mese scorso le Nazioni Unite hanno creato il primo organismo globale per la governance dell’intelligenza artificiale. È composto da un gruppo consultivo di 39 membri, provenienti da istituzioni, governi e tecnologie di tutto il mondo. Ne fanno parte dirigenti di Microsoft, Google e OpenAI. Entro la fine dell’anno, il gruppo presenterà il proprio rapporto diagnostico.