LET’S TALK & CONNECT

Bisogna rallentare lo sviluppo dell’AI per scongiurare la minaccia esistenziale che per qualcuno questa tecnologia rappresenta? O magari per evitare bolle speculative che, scoppiando, facciano troppo male ai vendor quotati in Borsa e agli investitori? Ma soprattutto, rallentare è davvero possibile? Per rispondere a queste domande servirebbe la sfera di cristallo o magari una microspia piazzata in qualche “stanza dei bottoni”, dove si decidono le sorti del mondo. Intanto, però, diverse voci autorevoli si stanno schierando in un dibattito che nelle ultime settimane ha preso slancio.

Dopo un’estate in cui l’Agentic AI ha ben dimostrato di poter sfuggire al controllo umano (anche a quello degli stessi sviluppatori, come OpenAI, Meta e Anthropic, e a quello delle società che per lavoro gestiscono test di sicurezza), i media hanno dato spazio all’allarme dell’ex ricercatore di OpenAI e Anthropic Jacob Coxon, che in un’intervista si è detto onestamente convinto che l’intelligenza artificiale “potrebbe ucciderci tutti entro la fine del decennio”, quando l’evoluzione tecnologica avrà prodotto sistemi totalmente autonomi e capaci di automigliorarsi. L’ipotetica capacità di recursive self-improvement annullerebbe l’opera di contenimento del rischio a monte, i famigerati guardrail dell’intelligenza artificiale di cui oggi si discute. A stretto giro, le affermazioni di Coxon hanno ottenuto il supporto di altri addetti ai lavori. “Crediamo davvero, e sinceramente, che l’AI possa uccidere tutti gli esseri umani! Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio”, ha scritto su X Evan Hubinger, giovane ex collega di Coxon e da quasi quattro anni manager dello staff tecnico di Anthropic. “A titolo personale, anche io penso che dobbiamo rallentare”, ha twittato Julie Steele, giovane ricercatrice e membro dello staff tecnico di OpenAI.

OpenAI e Anthropic si schierano
A distanza di giorni, sul suo blog personale il Ceo e fondatore di Anthropic, Dario Amodei, ha pubblicato un appello alla moderazione in cui l’intelligenza artificiale viene dipinta come salvifica (“Credo che l’AI potrebbe curare la maggior parte delle principali malattie nei prossimi cinque o dieci anni anni, accelerare notevolmente i tassi di crescita economica, creare un mondo di abbondanza e di maggiore autonomia per le persone, e inaugurare un rinascimento della democrazia e della libertà”) ma in cui, anche, si fa appello alla prudenza. Se Anthropic si è sempre impegnata a studiare i rischi legati all’AI, a informare l’opinione pubblica e a promuovere una “regolamentazione ponderata della tecnologia”, scrive Amodei, ora alla luce degli incidenti di quest’estate è chiaro che tutto questo non sia sufficiente. “Negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora più prudenza: non basta investire nella prevenzione dei rischi, occorre anche modulare la velocità di sviluppo delle capacità, affinché la prevenzione abbia il tempo di stare al passo. Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli AI”, si legge nel blogpost.

Il numero uno di OpenAI ha scelto di fare fronte comune: “Ritengo che, alla luce di tutto ciò che sta accadendo sul fronte della sicurezza, questo non sia il momento opportuno per quotarsi in borsa. Non avvertiamo alcuna pressione in tal senso”, ha dichiarato Sam Altman alla rivista economica Fortune. “Che la percentuale sia del 10%, dell’8% o del 6%, il punto fondamentale è che tutti noi abbiamo un’enorme responsabilità e non possiamo permettere che ego, incentivi al profitto o altri fattori ostacolino il nostro operato”.

Che i due imprenditori siano più preoccupati di rischi esistenziali, o piuttosto del pericolo di scivoloni di reputazione e di mercato per la propria azienda, non possiamo dirlo. Probabilmente, dopo i recenti episodi di AI fuori controllo un totale silenzio da parte di chi tiene le redini dello sviluppo dell’AI sarebbe parso inaccettabile. Ma altrettanto pare sospetto il tempismo dei due Ceo nel replicare quasi istantaneamente alle dichiarazioni di un signor nessuno. C’è chi ha ipotizzato si tratti di strategie di comunicazione studiate a tavolino per far calare momentaneamente il valore delle azioni legate all’AI (come effettivamente è successo all’indomani delle dichiarazioni di Amodei e Altman), in questo modo sgonfiando una bolla altrimenti pronta a scoppiare ma anche attraendo una più ampia schiera di investitori al ribasso. Sia come sia, di fatto oggi i protagonisti del mercato AI esibiscono segnali di cautela più che in passato.

Estremismi e dualismi

“L’attuale corsa verso un’AI ancora più potente rappresenta una svolta verso maggiori rischi esistenziali per ogni aspetto delle nostre vite”, ha scritto a fine agosto, in una lettera aperta, l’alto commissario delle Nazioni Unite per i diritti umani Volker Türk. “Nessun Paese può governare questa tecnologia da solo. Nessuna azienda dovrebbe poter decidere autonomamente quali rischi il mondo debba accettare”. A metà settembre, poi, l’AI è stata protagonista dell’annuale discorso della Commissione Europea, Ursula Von der Leyen, all’europarlamento a Strasburgo. “I Ceo delle aziende più avanzate ci dicono che è ora di rallentare sui modelli self-recursive. Di regolare il passo della frontiera”, ha detto Von der Leyen. “I modelli in fase di sviluppo consentiranno di effettuare attacchi informatici a livelli che non avremmo mai ritenuto possibili; inoltre, finiranno presto nelle mani di avversari che hanno una visione del mondo profondamente diversa dalla nostra”.
All’estremo opposto di questa visione di cautela e cooperazione internazionale c’è Donald Trump. Il tycoon ha definito “una farsa” le paure espresse dai leader di OpenAI e Anthropic e ha promesso che sotto al suo mandato lo sviluppo tecnologico non sarà ostacolato da “forze distruttive”, perché la minaccia esistenziale non esiste e perché un rallentamento avrebbe il solo effetto di favorire la Cina nella competizione in corso. Ciliegina sulla torta, Trump ha liquidato il tema della regolamentazione dell’AI, affermando che l’unica misura di sicurezza necessaria è un “presidente forte e furbo”, con un “alto quoziente intellettivo”. Per inciso, ma nemmeno troppo, notiamo che sulla concorrenza cinese Trump ha ragione a essere preoccupato: l’accelerata della Repubblica Popolare nell’intelligenza artificiale ha portato, in pochi anni, aziende (giovani e meno giovani) come Alibaba, Baidu, Moonshot AI e Deepseek a tallonare i campioni statunitensi, lanciando sul mercato a prezzi inferiori Large Language Model altrettanto validi o quasi. I tempi dell’innovazione, specie quella non regolamentata, si sono accorciati. Nell’attiguo campo della robotica AI, poi, il sorpasso sugli Usa c’è già stato e per capirlo basti guardare all’ultima edizione dell’Ifa di Berlino: alla grande fiera internazionale della tecnologia, su 1900 espositori provenienti da una cinquantina di Paesi, oltre 900 erano cinesi.

La minaccia reale
Privacy, cybersicurezza, tutela dell’identità, lotta alla disinformazione sono certamente pilastri di una società democratica e moderna, che è necessario tutelare anche con un artificioso rallentamento dell’innovazione informatica. Ma la posta in gioco è ancora più alta, e basti pensare ai robot terrestri e ai droni (per lo più a controllo remoto, ma già si sperimenta l’uso di sistemi parzialmente autonomi) diventati una componente chiave delle operazioni militari in Ucraina, Striscia di Gaza e Mar Rosso. Tecnologie come queste e la loro disponibilità sull’uno e sull’altro fronte rischiano di condizionare gli equilibri tra guerra e pace nel mondo di domani. Se non altro, influiranno sul fattore tempo, come scrive sul Sole 24 Ore l’esperto di cybersicurezza e consulente esterno del Ministero della Difesa Pierguido Iezzi: “Sensori, droni, sistemi autonomi e AI vedono, correlano e suggeriscono risposte con una velocità incompatibile con i tempi tradizionali della politica. È dentro questa finestra che si concentra il rischio più nuovo: non tanto l’allargamento geografico dei conflitti, quanto il fatto che il tempo tattico possa trascinare quello politico dentro il proprio ritmo”.

Un futuro da scrivere
Non c’è una morale in fondo alla favola, al momento, né una formula semplice per risolvere un’equazione affollata di troppe variabili. Le regole sullo sviluppo e sull’impiego dell’AI – cioè regole sufficientemente ampie, chiare e condivise, complete di divieti e sanzioni – saranno uno strumento necessario ma non sufficiente. Innanzitutto, perché l’evoluzione delle tecnologie è troppo rapida e imprevedibile rispetto ai tempi e alle rigidità della macchina legislativa. E poi perché, diventando sempre più autonoma, l’AI diventa anche più capace di scavallare tanto i guardrail tecnici quanto le buone intenzioni di chi la crea o utilizza. Al di sotto c’è, probabilmente, un mondo sommerso, ma è comunque apprezzabile che un’azienda come OpenAI stia cercando di favorire la trasparenza e la condivisione di informazioni sul problema dei comportamenti inattesi dei modelli AI, il cosiddetto “disallineamento” (misalignment). In settembre l’azienda ha reso pubblici sei episodi in cui, durante testi di sviluppo, i modelli hanno violato le regole per raggiungere l’obiettivo. Inoltre ha proposto un framework utile per monitorare, indagare e divulgare i casi di disallineamento.

Valentina Bernocco
Content Manager, TIG – The Innovation Group