L’intelligenza artificiale potrebbe sterminare l’umanità? Il nuovo allarme scuote il mondo dell’AI
L'intelligenza artificiale può davvero essere un pericolo per il genere umano?
Non è la trama del prossimo film di fantascienza e neppure il ritorno di Skynet, il sistema diventato celebre grazie alla saga di Terminator. A riaccendere il dibattito sui possibili rischi dell’intelligenza artificiale sono questa volta alcune delle persone che lavorano, o hanno lavorato, proprio allo sviluppo dei sistemi più avanzati. Jacob Coxon, ricercatore che ha avuto esperienze sia in OpenAI sia in Anthropic, la società che ha sviluppato Claude, ha lasciato il suo incarico lanciando un messaggio durissimo.
Secondo Coxon, la corsa verso una superintelligenza capace di migliorarsi autonomamente starebbe procedendo senza che siano stati risolti tutti i problemi legati alla sua sicurezza. Un allarme diventato ancora più significativo perché Coxon avrebbe rinunciato anche a importanti benefici economici legati alla sua permanenza nell’azienda.
Pericoli intelligenza artificiale, il ricercatore di Anthropic: rischio superiore al 10% nel prossimo decennio
A rendere ancora più clamorosa la vicenda sono state le parole di Evan Hubinger, responsabile dell’Alignment Science di Anthropic. Commentando le dichiarazioni dell’ex collega, Hubinger ha affermato che all’interno del settore esiste realmente la convinzione che un’intelligenza artificiale estremamente avanzata possa rappresentare una minaccia esistenziale.
La sua valutazione personale è particolarmente inquietante: ritiene superiore al 10% la probabilità che l’AI possa arrivare a provocare la morte di tutti gli esseri umani nel prossimo decennio. Il punto centrale riguarda il cosiddetto problema dell’“allineamento”: riuscire cioè a garantire che una futura superintelligenza continui ad agire secondo obiettivi compatibili con quelli dell’uomo. Hubinger sostiene che Anthropic stia cercando seriamente una soluzione, ma ammette che al momento non esiste ancora un piano capace di garantire l’allineamento di una eventuale superintelligenza.
>> Polemiche sui social per l’intervista a Rosa Vespa a Dentro la notizia
Come potrebbe l’intelligenza artificiale diventare pericolosa per l’uomo?
Lo scenario temuto dagli esperti è però diverso da quello raccontato nei film di Terminator: non è necessario immaginare eserciti di robot che decidono improvvisamente di dichiarare guerra agli esseri umani. Il rischio riguarda soprattutto la possibilità di perdere il controllo di sistemi molto più intelligenti dell’uomo oppure che strumenti estremamente potenti vengano utilizzati in modo pericoloso. Tra gli scenari discussi ci sono attacchi informatici su vasta scala, interferenze con infrastrutture critiche e persino l’impiego dell’AI per facilitare la progettazione di minacce biologiche.
Coxon usa un paragone molto semplice: controllare una macchina immensamente più intelligente di noi potrebbe diventare difficile quanto sarebbe per una scimmia controllare le decisioni di un essere umano. Non tutti gli studiosi, tuttavia, condividono le previsioni più catastrofiche: alcuni esperti ritengono che concentrarsi sull’estinzione dell’umanità possa distogliere l’attenzione da problemi dell’AI già concreti, come disinformazione, perdita di posti di lavoro e impatto ambientale.
Non solo Anthropic: cresce la richiesta di regole sulla superintelligenza
La discussione ormai ha superato i confini della Silicon Valley. L’Alto commissario delle Nazioni Unite per i diritti umani Volker Türk ha dichiarato di condividere le preoccupazioni degli addetti ai lavori sul possibile rischio esistenziale rappresentato dall’intelligenza artificiale avanzata, chiedendo garanzie estremamente solide sulla sicurezza prima che sia troppo tardi. Negli Stati Uniti anche il senatore Bernie Sanders ha rilanciato l’allarme di Coxon annunciando l’intenzione di intervenire sul tema della superintelligenza, mentre nel Regno Unito è aumentata la pressione politica per una regolamentazione internazionale.
Anthropic, dal canto suo, ribadisce di essere consapevole tanto degli enormi benefici quanto dei rischi senza precedenti dell’AI e sottolinea il lavoro svolto sui sistemi di sicurezza e sull’interpretabilità dei modelli. Nessuno può quindi affermare oggi che l’intelligenza artificiale sterminerà l’umanità: siamo davanti a una previsione di rischio, non a un destino inevitabile. Ma il fatto che l’allarme venga proprio da alcuni degli specialisti che conoscono più da vicino questi sistemi rende la domanda sempre più difficile da ignorare: riusciremo a imparare a controllare una superintelligenza prima di essere in grado di costruirla?
Aggiungi UltimeNotizieFlash alle tue fonti preferite su Google