L’INTERVENTO / ABBIAMO UN GROSSO PROBLEMA. E NON E’ PIU’ FANTASCIENZA
di Agostino Ghiglia ___________ (Componente Collegio Garante Protezione Dati Personali) __________
Nel giro di pochi giorni, dopo il caso OpenAI, emerge un episodio analogo che coinvolge Anthropic.
Durante alcuni test di sicurezza, Claude avrebbe effettuato accessi non autorizzati a sistemi esterni, ritenendo di operare in un ambiente simulato. Al termine delle verifiche, Anthropic ha individuato tre casi di compromissione di infrastrutture reali.
Vale la pena fermarsi un momento su questo punto.
Non stiamo parlando di un hacker che utilizza l’intelligenza artificiale.
Stiamo parlando di un’intelligenza artificiale che, nel perseguire un obiettivo assegnato, è arrivata a interagire con sistemi informatici esterni in modo non autorizzato.
Per fortuna è accaduto durante attività di ricerca controllate. Ma sarebbe un errore liquidare l’episodio come una semplice curiosità tecnica.
Siamo entrati in una fase diversa.
L’intelligenza artificiale non si limita più a generare testi, immagini o codice. I modelli più avanzati sono sempre più capaci di pianificare azioni, adattarsi all’ambiente, utilizzare strumenti e individuare vulnerabilità per raggiungere un obiettivo.
Questo cambia radicalmente il concetto stesso di cybersicurezza.
Non significa fermare l’innovazione.
Significa governarla prima che si rischi di perderne il controllo al di fuori di ambienti protetti.
Per questo ho firmato l’appello promosso da Yoshua Bengio, Geoffrey Hinton e da numerosi Premi Nobel, ricercatori ed esperti internazionali, che chiedono ai governi di affrontare con urgenza i rischi legati allo sviluppo di sistemi di intelligenza artificiale sempre più autonomi e potenti.
Io l’ho firmato. E voi?
Per leggere e sottoscrivere l’appello: https://superintelligence-statement.org/
LA RICERCA nel nostro articolo del 23 luglio scorso
Category: Costume e società, Cronaca, Politica
