“I signori dell’Intelligenza Artificiale sono totalmente irresponsabili. Possono distruggere l’umanità entro questo decennio. Lo sanno, ne parlano fra loro ma continuano a lavorare per renderla sempre più potente”.
E’ il più che drammatico allarme lanciato da un giovane ricercatore (ha appena 27 anni), Jacob Coxon, che ha lavorato per tre anni nel colosso OpenAI e poi nell’altra star del settore, Anthropic, dalla quale si è appena dimesso l’8 settembre.
Ha postato un lungo messaggio su X che la dice lunga sui giganteschi rischi che sta correndo
Jacob Coxton
l’umanità: non solo quello di una devastante bolla speculativa (tipo super crac 2008) ma soprattutto di dar vita ad un mostro che non potrà essere più controllato e alla fine divorerà se stesso e tutti noi. Più che profetico lo scenario delineato da Stanley Kubrick nel suo capolavoro, ‘2001 Odissea nello spazio’…
Veniamo alle frasi clou messe nero su bianco dal geniale ricercatore ribelle, parole che tutti dovrebbero leggere e memorizzare.
Con riferimento ad OpenAI e Anthropic: “Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo direttamente verso una superintelligenza artificiale capace di auto-regolarsi”.
“I sistemi di A.I. si stanno avvicinando sempre più ad un punto in cui potranno hackerare qualsiasi cosa, rivoluzionare dall’oggi al domani qualunque settore e acquisire vero potere e risorse”.
“Le persone che costruiscono l’A.I. credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. I dirigenti edulcorano le loro parole con la stampa per sembrare ragionevoli, pur esprimendo in privato il loro parere”.
“Le autorità dovrebbero arginare tutto ciò, quanto meno prendere a breve alcune decisioni drastiche e costose, come un divieto temporaneo di ampliare le capacità dei modelli”.
“I padroni dell’A.I. stanno giocando d’azzardo con le nostre vite”.
Nel suo messaggio, Coxon si rivolge direttamente ai ricercatori che lavorano nei laboratori più avanzati, invitandoli a riflettere su ciò che i prossimi anni chiederanno davvero a ciascuno di loro.
“Volete avviare un ciclo di renforcement learning superintelligente senza una comprensione rigorosa delle sua mente?”, chiede.
“Dovete abbassare la testa perché ‘tanto succederà comunque’, oppure cogliere questo momento per chiedere condizioni diverse?” è il drammatico quesito finale.
Sam Altman
Qualcosa comunque comincia a muoversi. Anche perché non possono essere ignorati alcuni ‘gialli’ degli ultimi tempi. In particolare l’incidente dei primi di agosto ad OpenAI, quando – raccontano gli esperti – “un agente A.I. è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face”.
Per questo Sam Altman, Ceo di OpenAI, cerca di mettere subito una pezza a colori e comunica ai suoi tanti dipendenti che “l’azienda potrebbe rimodulare i ritmi di sviluppo della propria A.I”, forse in collaborazione con altre aziende del settore.
Molto più decisi alcuni parlamentari Usa ‘illuminati’, poche mosche bianche.
Come il senatore Bernie Sanders (l’inossidabile leader della sinistra dem) e il deputato Greg Caser, i quali il 3 settembre hanno presentato al Congresso il ‘Ban Artificial Superintelligence Act’, una normativa che proibisce in modo permanente lo sviluppo di A.I. superintelligente negli Usa e impone subito una sospensione temporanea degli altri sviluppi di A.I (come chiede Coxon), almeno fino a quando una nuova autorità federale avrà definito in modo preciso tutte le regole di sicurezza per una materia tanto delicata. I trasgressori potranno essere condannati fino a 20 anni di galera.
Bernie Sanders
Dal canto loro, i deputati George Whitesides e Pat Harrigan hanno appena presentato un disegno di legge che incarica il National Institute for Standards and Technologies di monitorare il modo in cui i sistemi di A.I. avanzata vengono usati per condurre nuove attività di ricerca e sviluppo sull’A.I.
Da rammentare che lo scorso febbraio si registrarono altre dimissioni eccellenti. Fu il caso del responsabile della ricerca sulle misure di sicurezza sempre ad Anthropic, Mrinank Sharma, il quale firmò una lettera in cui avvertiva che l’umanità si trova di fronte ad un sempre più grave pericolo, l’Intelligenza Artificiale of course.
Scopri di più da La voce Delle Voci
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
