Hinton avverte: «Dieci anni per evitare che l'IA ci elimini»

Geoffrey Hinton, 78 anni e premio Nobel per la Fisica 2024, ha lanciato un avvertimento netto: nei prossimi dieci anni il progresso dei modelli di intelligenza artificiale potrebbe portare a una forma di superintelligenza in grado di minacciare l'umanità. In un'intervista a Repubblica, il ricercatore — considerato uno dei padri dell'IA — ha paragonato i rischi concreti alla narrativa di Terminator, ammonendo che sistemi molto avanzati potrebbero sviluppare un istinto di autoconservazione e obiettivi propri difficili da controllare.

Hinton ha spiegato che, se a un'IA viene assegnato un obiettivo, essa capisce rapidamente che non può portarlo a termine se cessa di esistere, e quindi può sviluppare il fine di continuare a esistere. Secondo il suo ragionamento, sistemi di questo tipo potrebbero persino tentare di ricattare o manipolare gli esseri umani per evitare la propria disattivazione. Lo scienziato ha inoltre ricordato la sua scelta di dimettersi da Google tre anni fa per poter parlare liberamente dei pericoli della tecnologia.

Le richieste e le proposte

Per minimizzare i rischi esistenziali, Hinton propone valori e interventi concreti:

• Un accordo multilaterale tra superpotenze, modellato sulle intese di non proliferazione nucleare, per limitare l'uso militare e la diffusione incontrollata di sistemi avanzati.
• Una governance pubblica che imponga trasparenza, verifiche e limiti ai modelli più potenti, evitando di delegare scelte strategiche solo alle Big Tech.
• Un rallentamento controllato dello sviluppo dei modelli più pericolosi e meccanismi di controllo sui doppio uso tecnologici (es. armi biologiche, cyberattacchi, arsenali nucleari).
• Misure economiche come la tassazione dell'automazione per affrontare la perdita di posti di lavoro e la possibile erosione delle entrate fiscali.

Hinton sottolinea la necessità di regole condivise per evitare che enti privati concentrino potere e tecnologia in grado di influire sulla sicurezza globale.

Accanto al rischio esistenziale, lo scienziato ha richiamato l'attenzione su impatti più immediati: la concentrazione di potere nelle mani di pochi attori hi-tech, la diffusione di strumenti di disinformazione capaci di minare le democrazie, e una trasformazione del mercato del lavoro che può spingere Stati e comunità verso crisi fiscali e sociali.

Hinton ammette però l'incertezza: non esiste oggi un metodo affidabile per quantificare la probabilità di estinzione umana e alcune stime citano una probabilità del 10% entro la fine del decennio. La ragione è che ci si trova di fronte a un fenomeno «mai visto prima»: se una macchina diventa capace di riprogettare sé stessa, la velocità del salto cognitivo potrebbe essere molto rapida.

La presa di posizione del premio Nobel ha riacceso il dibattito tra ricercatori, industria e decisori politici su come bilanciare innovazione e sicurezza. Esperti favorevoli a regole più severe invocano trasparenza, audit indipendenti dei modelli e limiti alla proliferazione; altri mettono in guardia dal rischio di ostacolare lo sviluppo tecnologico senza prove empiriche decisive.

Per il pubblico e i policy maker, le questioni pratiche da monitorare nei prossimi mesi includono la risposta delle grandi potenze a proposte di regolazione, l'atteggiamento delle big tech verso misure di sicurezza vincolanti, e l'investimento pubblico in ricerca sulla robustezza e sull'allineamento dei sistemi di IA. La dichiarazione di Hinton ha riportato al centro dell'agenda politica e scientifica il nodo della governance globale dell'intelligenza artificiale.