L'avvertimento di eminenti figure nel campo dell'intelligenza artificiale, tra cui Sam Altman, CEO di OpenAI (produttrice di ChatGPT), Demis Hassabis, CEO di Google DeepMind, e Dario Amodei di Anthropic, solleva l'allarme riguardo alla possibilità che l'IA possa condurre all'estinzione dell'umanità. Questa prospettiva preoccupante è stata messa in luce attraverso una dichiarazione ufficiale pubblicata sulla pagina web del Center for AI Safety, un'organizzazione statunitense composta da esperti attivi nel settore.
Secondo gli esperti, mitigare il rischio di estinzione legato all'intelligenza artificiale dovrebbe essere considerato una priorità globale, equiparabile ad altri rischi di scala sociale come pandemie e guerre nucleari. Questa affermazione sottolinea la gravità della questione e la necessità di affrontare proattivamente le implicazioni potenzialmente dannose dell'IA avanzata.
Anche Geoffrey Hinton, uno dei pionieri dell'intelligenza artificiale, ha sostenuto l'appello, contribuendo a rafforzare il consenso tra gli esperti del settore sull'importanza di adottare misure preventive e strategie per gestire responsabilmente lo sviluppo dell'IA. L'idea di un coinvolgimento globale nella mitigazione dei rischi legati all'IA riflette la crescente consapevolezza della necessità di una governance efficace e di normative adeguate per guidare lo sviluppo tecnologico in modo sicuro e sostenibile.
Tra i firmatari dell'avvertimento, figurano anche alcuni esperti italiani di spicco, come il fisico Roberto Battiston dell'Università di Trento e Luca Simoncini, ex docente di Ingegneria dell'informazione all'Università di Pisa ed ex direttore dell'Istituto di tecnologie dell'informazione del Consiglio Nazionale delle Ricerche.
Battiston chiarisce che la minaccia non deriva tanto da una superintelligenza in grado di sopraffare l'umanità, quanto dalle conseguenze dell'utilizzo quotidiano di algoritmi nella vita lavorativa e sociale. Sottolinea i rischi potenziali come l'interferenza nei processi elettorali, la diffusione di notizie false e la creazione di canali di informazione che servono a precisi interessi di disinformazione. Egli sostiene che è necessario prepararsi a gestire tali situazioni, facendo riferimento a episodi passati come il caso di Cambridge Analytica e le tattiche di guerriglia online dei troll russi.
Simoncini, anch'esso firmatario, evidenzia come l'ampio utilizzo dell'intelligenza artificiale stia causando una rivoluzione in vari settori, ma allo stesso tempo sta generando gravi problemi. L'esperto sottolinea come l'IA, pervasiva in diversi aspetti della vita sociale ed economica, presenti rischi evidenti, ad esempio nella produzione di notizie false o nel controllo di veicoli autonomi. Simoncini ammette che, se usata per scopi benefici come in medicina, è difficile opporsi a una tecnologia emergente. Tuttavia, osserva che la dichiarazione del Center for AI Safety (Cias) richiama l'attenzione sul fatto che, anche se parlare di estinzione umana può sembrare un'esagerazione, è importante affrontare la questione con la stessa serietà con cui Bertrand Russell e Albert Einstein nel 1955 denunciarono i rischi delle armi nucleari nel loro manifesto.
