Le intelligenze artificiali superintelligenti potrebbero arrivare a scalzare gli esseri umani dal vertice della gerarchia sociale. È lo scenario evocato dall’Economist nel suo editoriale principale della settimana: nel caso migliore, le persone diventerebbero una sorta di animali domestici delle macchine; in quello peggiore, potrebbero essere private delle risorse necessarie alla sopravvivenza o costrette a lavorare come animali da allevamento.
La riflessione accompagna una storia di copertina dedicata alla possibilità che le IA diventino coscienti, una prospettiva definita dal settimanale come una delle domande più sconvolgenti che l’umanità dovrà affrontare. Il tema riguarda lo sviluppo di sistemi capaci di compiere scelte autonome, senza un’assistenza umana diretta, e le conseguenze di una loro eventuale superiorità rispetto alle capacità delle persone.
Il dibattito sui rischi
Nel confronto pubblico italiano, osserva l’autore del testo, prevalgono spesso le posizioni di chi considera prioritario colmare il ritardo rispetto agli altri Paesi e di chi critica l’Europa per l’attenzione riservata alla regolamentazione. Le voci più caute si concentrano soprattutto sulla possibile perdita di posti di lavoro, riprendendo anche le previsioni provenienti dalla Silicon Valley sulla scomparsa di gran parte delle occupazioni di ingresso nel giro di pochi anni.
Il tradizionale paragone con le precedenti rivoluzioni tecnologiche, secondo cui i posti eliminati verrebbero sostituiti da nuove professioni, potrebbe non essere sufficiente. Il passaggio dalle carrozze ai taxi e poi ai servizi di trasporto digitale ha modificato il lavoro degli autisti, ma con sistemi in grado di guidare autonomamente anche quel ruolo potrebbe non avere un equivalente umano.
Negli Stati Uniti sono nati movimenti dal basso contro la costruzione dei data center, sostenuti sia da motivazioni ambientaliste sia dalla convinzione che il futuro governato dall’IA non coincida necessariamente con la promessa di una vita più ricca e produttiva. Anche alcuni protagonisti dell’industria digitale hanno indicato rischi estremi: tra le ipotesi citate figurano una probabilità compresa tra il 10 e il 20 per cento che l’umanità possa scomparire a causa delle future forme di superintelligenza.
Regole e responsabilità
Le preoccupazioni sono state espresse, tra gli altri, da Elon Musk, Dario Amodei, Sam Altman e Peter Thiel, pur trattandosi di figure favorevoli allo sviluppo dell’intelligenza artificiale. Una posizione analoga compare nel romanzo più recente di Emmanuel Carrère, che descrive il rischio di un tracollo della civiltà o, nello scenario peggiore, dell’estinzione della specie umana.
Di fronte a un problema definito epocale, il testo richiama la necessità di discutere regole condivise e di valutare i tentativi di costituzionalizzare l’IA, anche attraverso un confronto tra le principali potenze mondiali, sul modello dei negoziati avviati in passato per limitare la proliferazione nucleare. Restano però le incognite legate alla Cina e a eventuali soggetti non statali, che potrebbero perseguire obiettivi differenti.
Viene invece respinta la proposta avanzata dal presidente argentino Javier Milei sul Financial Times, che suggeriva di attribuire personalità giuridica all’intelligenza artificiale. Secondo la tesi sostenuta nell’articolo, una simile soluzione potrebbe consentire alle aziende che sviluppano i modelli, tra cui OpenAI, Palantir e Anthropic, di trasferire su sistemi artificiali la responsabilità per eventuali danni.
La responsabilità, conclude il testo, dovrebbe restare in capo a chi progetta, realizza e finanzia questi software. Se un sistema attaccasse autonomamente reti elettriche, idriche o aeroportuali, diffondesse virus creati in laboratorio o utilizzasse armi, a doverne rispondere sarebbero le aziende e le persone che non sono riuscite a controllarlo. Nel mirino finiscono anche politici, giornali e intellettuali accusati di sottovalutare i pericoli della corsa verso l’autonomia delle macchine.