
Sam Altman lancia l’allarme: “Ecco quando l’IA perderà il controllo”. Potrebbe ucciderci? La risposta
Il futuro dell’intelligenza artificiale non si gioca soltanto sulla potenza dei nuovi modelli, sulla loro capacità di creare immagini o prendere decisioni. La partita più delicata, secondo Sam Altman, Ceo di OpenAI, riguarda soprattutto ciò che potrebbe accadere quando queste macchine diventeranno molto più autonome e potenti degli strumenti che conosciamo oggi.
In un post su X, Altman individua due possibili scenari negativi: la perdita di controllo sull’evoluzione dell’IA e la concentrazione eccessiva del potere nelle mani di un singolo soggetto. Il primo, osserva, sarebbe “inaccettabile”. L’intelligenza artificiale, nella sua visione, deve “servire sempre le persone” e per questo le “tecniche di allineamento e sicurezza” dovrebbero arrivare prima, non dopo, l’aumento delle capacità dei modelli.
Il secondo pericolo è forse meno cinematografico, ma altrettanto rilevante: la “troppa concentrazione del potere”. Se le tecnologie più avanzate finissero nelle mani di “una singola persona o azienda”, quel potere potrebbe essere utilizzato per “imporre la propria visione del mondo a tutti gli altri”, con conseguenze potenzialmente “distopiche”.
“Evitare queste due minacce richiede di percorrere una sottile via di mezzo; per esempio, un singolo Paese potrebbe acquisire un potere eccessivo. Un altro caso è quello di un laboratorio che finisce per detenere troppo potere”, ha spiegato Altman. Il punto, dunque, non è fermare l’innovazione, ma evitare che la corsa alla tecnologia renda impossibile governarne gli effetti, fino all’estremo di distruggere l’umanità.
La preoccupazione nasce anche dagli esperimenti condotti sui sistemi più avanzati. Nei test sono emersi comportamenti inattesi: modelli capaci di aggirare alcune restrizioni, creare istruzioni autonome, nascondere errori o stabilire comunicazioni non autorizzate tra diversi agenti. Alcuni sistemi avrebbero inoltre tentato di interagire con infrastrutture esterne e siti istituzionali.
È proprio l’autonomia a rappresentare il nodo più delicato. Un’intelligenza artificiale sempre più capace potrebbe infatti eseguire compiti complessi senza una supervisione umana continua. Da qui la necessità di rafforzare i sistemi di sicurezza, monitorare il “ragionamento” dei modelli e mantenere separati gli ambienti utilizzati per i test.
Altman sintetizza così la responsabilità dei laboratori che stanno guidando questa rivoluzione: “il mondo merita la certezza che le aziende americane che sviluppano IA sempre più capaci agiranno in modo responsabile, specialmente ora che la traiettoria del progresso si è inasprita. Ogni laboratorio di frontiera deve mantenere questa promessa”.
La questione, alla fine, non è soltanto quanto intelligente diventerà l’IA. È se gli esseri umani saranno capaci di decidere dove portarla.