Un ricercatore lascia Anthropic denunciando una corsa suicida all’IA. Ma tra ricercatori pentiti, filosofi scettici ed encicliche, la vera domanda non è se la macchina ci sfuggirà di mano, bensì chi la governa

L’8 settembre il giovane ricercatore Jacob Coxon, 27 anni, tre anni di lavoro sul pre-addestramento dei modelli – prima in OpenAI, poi in Anthropic – ha annunciato su X le sue dimissioni con un atto d’accusa che ha fatto il giro del mondo: “Nessuna delle due aziende agisce in modo responsabile. Corrono dritte verso una superintelligenza capace di migliorarsi da sola e stanno giocando d’azzardo con le nostre vite”. Le persone che costruiscono questi sistemi, ha aggiunto, credono sinceramente che potrebbero “ucciderci tutti entro la fine del decennio”. Poche ore dopo un collega di Anthropic, Evan Hubinger, responsabile della ricerca sull’allineamento, gli ha dato ragione pubblicamente: “Crediamo davvero, sinceramente, che l’IA potrebbe uccidere tutti gli esseri umani”, stimando il rischio “oltre il 10%” nel prossimo decennio.

Il post di Coxon è stato letto da oltre cento milioni di persone. Non è un caso isolato (prima di lui avevano lasciato i laboratori, per ragioni analoghe, ricercatori come Jan Leike di OpenAI e Mrinank Sharma di Anthropic) e arriva mentre Anthropic prepara quella che si annuncia come una delle più grandi quotazioni in Borsa della storia: un dettaglio che il quotidiano francese Libération, titolando in prima pagina “Fracas” ed evocando Frankenstein, non ha considerato secondario.

Prese così, sembrano parole definitive. Ma un allarme del genere non è né il primo né, prevedibilmente, l’ultimo. Sam Altman di OpenAI nel 2023 parlava di scenari da “luci spente per tutti noi”, Eliezer Yudkowsky chiedeva uno stop totale perché “moriremo tutti”, lo stesso premio Nobel per la Fisica Geoffrey Hinton, appena lasciata Google, esprimeva “nuove paure” sulla tecnologia che aveva contribuito a creare. È un filone che parte da molto lontano e attraversa persino la scelta del nome della disciplina. Il termine “intelligenza artificiale” nacque come è noto nel 1956 alla conferenza di Dartmouth da una decisione in parte strategica di John McCarthy, che preferì quell’etichetta – decisamente più evocativa – ad alternative meno attraenti come “automata studies” o “cybernetics”, anche per non restare schiacciato dall’ingombrante figura del fondatore della Cibernetica Norbert Wiener e per attirare sul nuovo campo attenzione, fondi e ricercatori. Un’operazione di posizionamento, si direbbe oggi, non troppo diversa da quella che alimenta il dibattito attuale: più il nome è suggestivo, più la disciplina – e chi la finanzia – ne trae beneficio.

È la tesi sviluppata da Walter Quattrociocchi (ordinario di Informatica alla Sapienza di Roma) sul Corriere della Sera, che ha coniato l’espressione “marketing dell’apocalisse”: un’industria che chiede ai mercati investimenti mai visti prima trova conveniente raccontarsi come capace di costruire qualcosa di eccezionale, persino pericoloso per l’umanità intera – “il nostro prodotto potrebbe distruggere la civiltà” sarebbe una pessima pubblicità per un’automobile, ma per l’IA funziona come conferma della sua straordinarietà. Per Quattrociocchi il rischio vero non è tanto una mente aliena che sviluppa obiettivi propri, quanto lo squilibrio tra la capacità dei sistemi di generare risposte, sempre più veloce ed economica, e la nostra capacità di verificarle, che richiede tempo, competenza e giudizio umano. E se davvero serve una minaccia globale su cui misurarsi, conclude, ne abbiamo già una più concreta: il cambiamento climatico.

Su questo terreno di scetticismo metodico si muove anche Luciano Floridi (Direttore del Digital Ethics Center presso l’Università di Yale), che ha condotto – in collaborazione con i ricercatori Jessica Morley e Claudio Novelli – uno studio su 76 anni di previsioni sull’intelligenza artificiale generale, dal 1950 a oggi: il 79% di questi non supera nemmeno il primo criterio di falsificabilità indicato da Popper, cioè sono formulate in modo da non poter mai essere davvero smentite. Ma la critica di Floridi va oltre la contabilità delle profezie mancate e investe il nome stesso della disciplina. Il filosofo propone di ribattezzare l’IA “Agenzia senza Intelligenza”: i sistemi attuali, spiega, “manipolano simboli con successo senza accedere al loro significato”, producono la sintassi giusta senza alcuna semantica, mentre noi “agiamo capendo”. Da qui la sua obiezione più tagliente: il vero pericolo non è che la macchina decida al posto nostro, ma che noi ci convinciamo che lo faccia, scaricandole addosso una responsabilità che resta interamente umana – “se la macchina è intelligente, allora decide, e se decide la colpa è sua”. Per questo Floridi respinge sia le narrazioni salvifiche sia quelle apocalittiche, e insiste su un punto che rovescia la logica del destino ineluttabile: “l’intelligenza artificiale non è un destino, un’imposizione o una promessa, ma uno strumento che possiamo attivamente progettare, governare e orientare”. Usa l’immagine del cavallo: se si finisce nel posto sbagliato, la colpa è di chi non ha saputo guidarlo, non dell’animale. Più lo strumento diventa potente, più cresce – non diminuisce – la competenza critica che dobbiamo pretendere da chi lo usa e da chi lo regola.

Non tutti gli esperti, va detto, condividono questa cautela interpretativa. In una recente intervista a “Repubblica”, proprio Geoffrey Hinton ha parlato della prospettiva di un’intelligenza capace di “riprogettare sé stessa” entro dieci anni, con la possibilità che sviluppi un istinto di auto-conservazione (persino di ricattare chi tentasse di disattivarla) e ha chiesto accordi multilaterali tra le superpotenze per governare la transizione. È un promemoria utile: lo scetticismo verso il marketing della paura non deve trasformarsi, a sua volta, in un riflesso automatico di rassicurazione. Alcuni tra i massimi esperti del settore, con solide credenziali scientifiche e nessun interesse commerciale evidente da difendere, restano genuinamente preoccupati.

Sul piano filosofico-politico, Massimo Adinolfi ha osservato su Repubblica che a inquietare non dovrebbe essere tanto il potere della macchina, quanto la macchina del potere. Richiamando Hobbes – per il quale la parola, la più antica e pericolosa delle tecnologie umane, è già di per sé in grado di “turbare la pace” – Adinolfi sposta l’attenzione dal timore che gli algoritmi sfuggano di mano a una domanda più scomoda: in quali mani finiscono, chi li maneggia, quali spazi restano per una piena e trasparente rendicontazione pubblica. Ciò che colpisce della denuncia di Coxon, scrive, è che a farla sia un singolo, isolato, incapace di incidere quanto le società e i Parlamenti che dovrebbero controllare il fenomeno. Non sappiamo se vacilleranno davvero le leggi della robotica di Asimov; dobbiamo però evitare che vacillino le leggi degli uomini su cui si fonda la nostra libertà.

Non poteva mancare, infine, la voce della Chiesa. Il teologo-tecnologo francescano Paolo Benanti, commentando su “Avvenire” la vicenda Coxon l’ha collegata alla nuova enciclica di Leone XIV, “Magnifica Humanitas”, indicando una risposta operativa: verifiche indipendenti, trasparenza sugli algoritmi, accesso equo ai dati, strumenti di ricorso per chi viene danneggiato dalle decisioni automatizzate. Il principio guida è la sussidiarietà: comunità locali, università, associazioni devono avere voce in capitolo, perché il potere tecnologico oggi è concentrato in poche aziende private, non negli Stati.

È qui che il ragionamento si chiude su sé stesso. L’intelligenza artificiale, checché ne dica il nome che le fu affibbiato quasi per caso settant’anni fa, resta una creazione umana, per quanto oggi capace – come ricorda Floridi – di simulare comportamenti che scambiamo per intelligenza senza che lo siano davvero. Le paure che suscita sono in parte legittime, come dimostra chi, dall’interno del settore, continua a lanciarle senza secondi fini; ma proprio dagli uomini – dai ricercatori che, come Coxon, scelgono di parlare, dai regolatori che discutono un freno coordinato a Washington come a Bruxelles, dai filosofi che chiedono più verifica e meno narrazione, dalle istituzioni che, come la Chiesa con la sua ultima enciclica, provano a scrivere regole condivise – possono e devono arrivare gli anticorpi. Non è la prima volta che la nostra specie si trova tra le mani uno strumento capace di farci del male: lo ha già dimostrato, nel bene e nel male, con l’arma più antica e più potente che possediamo, il linguaggio stesso. La fiducia, più che ingenuità, resta il presupposto necessario per continuare a governarlo.

Sebastiano Catte, com.unica 15 settembre 2026

*Immagine creata con l’AI

Condividi con