Fonte immagine di copertina: Shutterstock
Mercoledì 9 settembre, Jacob Coxon, un neo-impiegato di Anthropic, ha annunciato su X le proprie dimissioni, dichiarando che i leader del settore stanno agendo irresponsabilmente e stanno correndo verso una superintelligenza capace di sfuggire al controllo umano.
Dopo meno di 72 ore il post ha raggiunto le 150 milioni di visualizzazioni.
In seguito, Coxon ha precisato che la sua dichiarazione non ha alcun fine pubblicitario e che lui non ci guadagna nulla, non avendo equity in Anthropic.
L’episodio è anomalo. La comunicazione di Anthropic per lungo tempo è stata curata per dimostrarsi più etica e attenta alla sicurezza rispetto ai rivali.
Forse, però, qualcosa si è rotto.
Un rischio raccontato dagli esperti
Le dichiarazioni di Coxon hanno basi solide.
Secondo le stime rese pubbliche in seguito al post, il rischio di una catastrofe globale provocata dall’IA si aggira intorno al 10%, con alcuni esperti che reputano possa esserci una probabilità anche più alta.
In risposta a Coxon è intervenuto, nello stesso thread, Evan Hubinger, a capo del Scientific Allignment Team’ di Anthropic.
Come riportato da Axios, Hubinger ha confermato la fondatezza delle dichiarazioni di Coxon, dichiarando che Anthropic non ha ancora sviluppato una procedura di emergenza per mantenere la superintelligenza sotto controllo umano.
Lo stesso giorno, anche Paul Christiano, per anni a capo della ricerca sull’allineamento in OpenAI e appena nominato nel comitato per la sicurezza della fondazione dell’azienda, ha dichiarato che senza maggiori procedure di emergenza potremmo perdere il controllo.
In risposta agli eventi, il New York Times ha pubblicato un saggio di Steven Adler, ricercatore che ha lavorato in OpenAI dal 2020 al 2024, secondo cui neanche i ricercatori delle aziende di IA conoscono i limiti e i confini che questa tecnologia potrebbe superare.
Secondo Adler il problema riguarda soprattutto la fiducia tra utenti e provider, più che un limite tecnologico. Se le compagnie non agiscono, il pubblico smetterà di fidarsi, così come i lavoratori del settore.
Questo problema è diventato centrale proprio in seguito alla dichiarazione di Coxon.
Dario Amodei. Fonte: Wikimedia Commons
Reazione a catena
Inevitabilmente, in seguito al post di Coxon, la comunità attiva su X è esplosa.
Un commento in particolare è risaltato all’attenzione dei media internazionali: “Jacob ha reso pubblica la chat interna di Anthropi”, postato da un dipendente dell’azienda californiana.
Non è l’unico commento di questo genere.
Il post di Coxon, infatti, ha scatenato una reazione a catena per cui diversi ricercatori ed esperti sono venuti allo scoperto, rendendo pubblici i timori che da mesi circolavano nelle chat interne alle aziende.
Sara Fischer, giornalista di Axios esperta di media e comunicazione, ha aggiunto una lettura dell’evento: X è diventata la piattaforma dove i guru dell’IA si scambiano opinioni e discutono, creando un circolo chiuso.
Negli ultimi due anni, la piattaforma di Elon Musk è diventata il forum live del progresso dell’IA.
Di conseguenza, media specializzati nel settore, come TBPN, sono sbarcati su X da quando la piattaforma ha iniziato a puntare sui video in diretta.
Le dirette di questi media non raggiungono gli stessi numeri di visualizzazioni che hanno su altri canali come YouTube, ma restano lì per via dell’audience. Su X, infatti, sono i ricercatori e i lavoratori del settore ad interagire con questi contenuti.
Il post di Coxon ne è l’esempio perfetto: dalla sua dichiarazione si è aperto un dibattito in cui diversi lavoratori del settore hanno esposto le proprie idee.
E da questo rapido scambio di post è partito un ciclo di notizie che dura da una settimana.
Il grande divario
L’annuncio di Coxon rivela qualcosa oltre alla minaccia tecnologica: dimostra che le persone dietro a queste tecnologie si stanno chiudendo in una torre d’avorio, e il pubblico sta perdendo fiducia in loro.
Il problema è che le persone che costruiscono queste tecnologie dovrebbero spiegarle, non uscire con sentenze apocalittiche. Si sono allontanate dai media e hanno scelto di raccontare la tecnologia a modo loro: in un circolo chiuso, con concetti difficili da capire, discutendo tra di loro più che con il pubblico.
Di conseguenza, si sta creando un distacco enorme tra il pubblico e le aziende che sviluppano l’IA: utenti e provider stanno vivendo questo progresso in due maniere opposte.
Le persone esterne al settore usano l’IA in maniera limitata e si preoccupano che questa tecnologia possa togliere loro il lavoro o alzare le bollette dell’energia.
I lavoratori del settore, invece, sperimentano tutto il giorno con questi modelli e si scambiano opinioni su come questa tecnologia possa aiutarci a risolvere i più grandi problemi globali, creandone allo stesso tempo di nuovi.
I laboratori di IA vogliono comunicare al grande pubblico, che però non risponde alle notizie positive perché le legge come trovate di marketing, e si spaventa davanti alle notizie negative senza capirne il reale significato.
Questa dinamica sta creando le basi per un’ondata di un nuovo genere di populismo.
Gli elettori già si preoccupavano per l’IA, per il mercato del lavoro e per i costi dell’energia. Ora la possibilità di un’estinzione rischia di accelerare il panico.
Sam Altman. Fonte: Shutterstock
Politica ed elettori divisi
In seguito al post di Coxon sono arrivate anche le risposte della politica, mentre, parallelamente, il dibattito restava acceso nel circolo chiuso di X.
Domenica, Mike Johnson, speaker della Camera dei Rappresentanti, ha professato calma ai microfoni di Meet the Press.
Ha dichiarato che, di fronte alle dichiarazioni sulla possibilità di una catastrofe, il Congresso dovrebbe prestare attenzione e lavorare per un mondo più sicuro. Ha però ricordato che rallentare il progresso nel campo dell’IA rappresenta un rischio, soprattutto in relazione alla competizione con la Cina.
Sulla questione è intervenuto anche Scott Bessent, segretario del Tesoro americano, dichiarando ad Axios che non esclude un dialogo con la sua controparte cinese sui rischi condivisi dalle due nazioni legati all’intelligenza artificiale.
David Sacks, consigliere per la tecnologia di Trump, ha invece dichiarato a Fox News che il post di Coxon serviva semplicemente a creare panico e a obbligare il Congresso a regolare il settore, così da poter creare le condizioni per un oligopolio, eliminando la concorrenza delle aziende più piccole.
Sulla stessa linea di Sacks, lunedì il Presidente ha annunciato su Truth che l’obiettivo deve essere quello di vincere la gara dell’IA a discapito della Cina, e che per farlo in sicurezza l’unica maniera è quella di avere in carica “un presidente forte e intelligente”, anziché creare misure ad hoc.
Un’altra posizione è stata presa da Bernie Sanders che ha spinto per maggiori azioni da parte della politica, e ha preso parte a un incontro organizzato dal Future of Life Institute nella mattina di martedì per discutere sull’argomento. Evento a cui ha partecipato anche Steve Bannon, ex consigliere del presidente Trump.
Sanders ha poi organizzato un incontro mercoledì con i colleghi del Congresso per discutere un potenziale ban sulla superintelligenza, aprendo una spaccatura nel fronte progressista. La stessa giornata, infatti, Axios ha rivelato che la senatrice democratica Elizabeth Warren vorrebbe rallentare lo sviluppo della tecnologia, ma non condivide la proposta di Sanders.
La risposta di Anthropic
Per capire la crisi comunicativa dell’IA è necessario guardare alle azioni di Anthropic in seguito al post di Coxon.
Il giorno seguente infatti l’azienda californiana ha rilasciato due report sui potenziali rischi legati all’uso dell’IA da parte di attori ostili: uno per la creazione di armi convenzionali, il 10 settembre, e uno per le armi cognitive, il 9 settembre.
Un tempismo pessimo, che sembra non curarsi del fatto che il pubblico andrebbe considerato di più: l’IA ha bisogno di comunicarsi meglio.
Allo stesso tempo, visto l’avvicinarsi dell’IPO di Anthropic, gli osservatori si chiedono se questa sia stata semplicemente una gaffe comunicativa o una mossa di marketing.
Un ex dipendente di Anthropic intervistato dal Financial Times, ha invece proposto una lettura diversa.
Secondo quanto appreso dal giornale inglese, infatti, le dichiarazioni apocalittiche potrebbero servire semplicemente a distrarre il pubblico dalle questioni immediatamente rilevanti, come quella dei dati e della privacy.
Che sia una strategia di marketing, uno scivolone comunicativo, o un tentativo di distrazione, l’ultima settimana ha dimostrato una cosa precisa: la corsa all’IA sta accelerando sempre di più, ma la sua comunicazione non sta andando allo stesso passo.
Si sta creando un divario troppo grande tra provider e utenti, un divario che si riflette nell’elettorato e nelle risposte della politica, la quale, in vista delle mid-term, persegue spot elettorali più che azioni concrete, senza chiedersi davvero quali siano i passi da compiere alla luce di questo rapido progresso.
