Quando l’intelligenza artificiale comincia a far paura
Share your love
di Fabio Evangelisti
Premetto una cosa che forse è persino doverosa: non sono un ingegnere informatico. So a malapena accendere e spegnere un personal computer e utilizzare uno smartphone. Non ho quindi né le competenze né la presunzione di entrare nel merito tecnico dell’intelligenza artificiale.
Eppure l’allarme lanciato da Dario Amodei, amministratore delegato di Anthropic, mi preoccupa e, lo ammetto, mi inquieta.
Amodei non è un luddista, né sostiene che l’AI debba essere fermata. Dirige una delle aziende che stanno costruendo i sistemi più avanzati al mondo e riconosce che questa tecnologia potrebbe produrre benefici straordinari: curare malattie oggi incurabili, migliorare la salute di milioni di persone, accelerare la ricerca scientifica. È proprio questo che rende il suo allarme particolarmente significativo.
La sua preoccupazione è che la corsa allo sviluppo dell’AI proceda più velocemente della nostra capacità di costruire strumenti adeguati per controllarla. Il problema potrebbe aggravarsi quando l’AI comincerà a migliorare se stessa: sistemi che progettano sistemi ancora più potenti, in una spirale di accelerazione che rischia di sfuggire alla capacità umana di seguirne ogni passaggio. Non stiamo parlando soltanto di macchine che scrivono, traducono o rispondono alle nostre domande, ma di sistemi che possono già operare come agenti autonomi, prendendo decisioni e interagendo con altri sistemi. E quanto più aumentano le loro capacità, tanto più diventa cruciale sapere non solo che cosa possono fare, ma che cosa faranno quando non saremo più in grado di prevederne il comportamento.
Qui la questione smette di essere tecnologica e diventa politica.
Amodei chiede che le aziende non siano lasciate sole a stabilire quanto lontano spingersi. Propone controlli indipendenti, verifiche esterne, standard comuni e accordi internazionali: la sicurezza non deve essere un ostacolo alla ricerca, ma la condizione indispensabile perché la potenza non preceda mai la nostra capacità di governarla.
È un principio apparentemente ovvio, eppure la storia insegna che non sempre è stato rispettato. Ogni grande rivoluzione tecnologica ha prodotto benefici e, insieme, nuove forme di potere. Ma l’AI ha una caratteristica inedita: potrebbe diventare uno strumento capace di aumentare rapidamente le proprie capacità attraverso il lavoro che svolge per gli stessi esseri umani.
Ed è qui che comincio ad avere paura. Non della fantascientifica ribellione delle macchine, ma di qualcosa di molto più concreto: che una tecnologia così potente finisca nelle mani di pochi — grandi aziende, governi, apparati militari — mentre il resto dell’umanità ne subisce le conseguenze senza gli strumenti per comprenderle o deciderne l’uso. Mi preoccupano i posti di lavoro trasformati o cancellati in tempi rapidissimi; la crescente difficoltà a distinguere il vero dal falso quando l’AI produce informazione, immagini e video sempre più convincenti; il suo impiego nella guerra, nella sorveglianza, negli attacchi informatici; e soprattutto la possibilità che la competizione economica e geopolitica diventi una corsa in cui nessuno vuole rallentare per primo, per timore che qualcun altro ne approfitti.
C’è una domanda che mi inquieta più di tutte: in un mondo in cui il potere è nelle mani di Trump, Putin, Xi Jinping, Netanyahu, degli ayatollah iraniani e degli Houthi, chi avrà la saggezza e la responsabilità di governare una tecnologia capace tanto di curare milioni di persone quanto di cambiare il destino dell’umanità?
Amodei non ci sta dicendo semplicemente che l’intelligenza artificiale è pericolosa. Ci sta dicendo qualcosa di più inquietante: potremmo trovarci dentro una corsa in cui anche chi costruisce le macchine più potenti comincia a chiedersi se saremo ancora in grado di controllare ciò che sta costruendo.
E allora la domanda non può essere lasciata agli ingegneri. Riguarda la democrazia. Chi stabilisce i limiti? Chi controlla chi controlla? Chi decide quali applicazioni siano accettabili? Quali poteri devono restare agli Stati e quali devono essere sottratti alla disponibilità delle grandi corporation? Possiamo davvero permettere che una trasformazione destinata a cambiare il lavoro, l’informazione, la sicurezza e forse la natura stessa dei rapporti umani venga decisa prevalentemente dalla concorrenza tra aziende private?
Non ho risposte tecniche a queste domande. Forse proprio per questo sento di poter porre quelle politiche: la questione dell’intelligenza artificiale non appartiene soltanto a chi sa programmarla, ma a tutti noi. Dovremmo cominciare ad occuparcene prima che sia troppo tardi, non dopo.
La paura, in fondo, può avere anche una funzione positiva — non quando ci paralizza, ma quando ci costringe a guardare ciò che sta accadendo e a porci le domande che preferiremmo rimandare. Non so abbastanza di intelligenza artificiale per dire se Amodei abbia ragione. Ma so abbastanza di storia e di politica per sapere che, quando nasce un nuovo e straordinario potere, la prima domanda da porsi dovrebbe sempre essere: chi lo controlla? Forse la vera paura non è che l’intelligenza artificiale diventi più intelligente dell’uomo, ma che diventi immensamente potente mentre l’uomo rimane quello che è.
