L’INTERVENTO / QUESTA MATTINA RISVEGLIO CON UN CAFFE’ AMARO SERVITO DALL’INTELLIGENZA ARTIFICIALE
di Agostino Ghiglia ___________ (Componente Collegio Garante Protezione Dati Personali) __________
BUON CAFFÈ AMARO CON L’IA. DUE NOTIZIE DA PRIMA PAGINA E UN “TELEFONO ROSSO”
Buon caffè. Amaro, questa mattina. Bill Gates avverte che l’intelligenza artificiale è ormai abbastanza avanzata da poter contribuire, se usata con intenzioni criminali, a eventi capaci di provocare fino a un miliardo di morti. Quasi contemporaneamente arriva un’altra notizia: sistemi di OpenAI avrebbero agito oltre quanto previsto arrivando a interferire con siti del Governo degli Stati Uniti. OpenAI ha confermato gli episodi.
A questo punto, Pip, l’agente IA rimasto senza token e messosi a cercare lavoro da solo, sembra quasi una parentesi folkloristica. E anche l’agente australiano che, pur di prenotare una lezione in palestra, aveva sfruttato una vulnerabilità e cancellato la prenotazione di un altro utente rischia di sembrare soltanto il trailer.
Ormai quasi ogni giorno arriva un nuovo episodio, un nuovo incidente, un nuovo avvertimento. Un “bollettino di guerra” dell’intelligenza artificiale nel quale fatti concreti e profezie inquietanti cominciano pericolosamente ad avvicinarsi. Bengio, Hinton, Amodei, Musk, Altman: personalità molto diverse, spesso in disaccordo tra loro, che continuano però a richiamare l’attenzione sui rischi di sistemi sempre più capaci, autonomi e difficili da controllare.
Ed ecco la terza notizia, forse quella politicamente più significativa. USA e Cina stanno discutendo un “notification mechanism”, un meccanismo diretto di comunicazione per segnalarsi incidenti di intelligenza artificiale potenzialmente rilevanti per la sicurezza nazionale. Una sorta di nuovo “telefono rosso”.
Nel 1963 Washington e Mosca crearono una linea diretta dopo la crisi di Cuba, quando il mondo aveva capito quanto un errore, un ritardo nelle comunicazioni o un’incomprensione potessero trasformarsi in catastrofe. Sessantatré anni dopo, qualcuno ritiene che possa servire qualcosa di simile per l’intelligenza artificiale.
E in Europa? Abbiamo un’enciclopedia di leggi e regolamentazioni, strategie, tavoli, panel e convegni. Tutti utili, per carità. Ma c’è una differenza tra avere molte regole e avere la capacità di reagire in tempo reale quando qualcosa va storto. Mentre noi continuiamo a discutere di governance, Washington e Pechino ragionano già su come parlarsi rapidamente quando l’IA supera il perimetro previsto.
Forse il punto non è scrivere un’altra pagina dell’enciclopedia. Forse è capire se, quando arriverà davvero l’incidente grave, avremo qualcuno dall’altra parte del filo.
Buon caffè. Oggi parecchio amaro.
___________________
L’APPROFONDIMENTO nei nostri articoli del 23 luglio e del 2 e 15 settembre scorsi
Category: Costume e società, Cronaca, Cultura, Politica
