Tutta la stampa e i media ne parlano. Riprendiamo da il Corriere.it quanto scritto da Roberto Cosentino:
"Dopo le dimissioni, Jacob Coxon, l'ex dipendente della società che ha sviluppato Claude ha deciso di raccontare pubblicamente che «Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio». La conferma da altri due suoi ex colleghi
 |
| Jacob Coxon ha 26 annisi è dimesso da Anthropic di cui abbiamo parlato tempo fa |
L'ennesimo allarme arriva da Anthropic, la società che ha sviluppato il chatbot Claude: «Sì, l’AI potrebbe sterminare l’umanità». Ciclicamente gli esperti di intelligenza artificiale avvertono di quella catastrofica eventualità secondo cui l’AI potrebbe diventare un grosso pericolo per la nostra stessa esistenza. Decenni di antologia cinematografica non sono bastate: tutto ad un tratto, Skynet potrebbe non essere più relegata alla fortunata serie cinematografica Terminator.
Il nuovo allarme viene scritto e pubblicato da tre ricercatori che lavoravano nella società dei fratelli Amodei. Dopo aver rassegnato le dimissioni, hanno deciso di esternare le loro preoccupazioni sul social X. Uno di questi, Jacob Coxon, ha affermato che «le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello».
Confermano i rischi anche Samuel Marks, supervisore di Anthropic, e Evan Hubinger, responsabile scientifico per l'ALLINEAMENTO della IA.
Per ALLINEAMENTO si intende il processo per guidare i sistemi di IA affinché i loro comportamenti, obiettivi e output siano conformi ai valori, alle intenzioni e alle esigenze degli essere umani.
"Non abbiamo ancora un piano per risolvere il problema dell'allineamento" hanno tristemente ammesso gli esperti.
L'appello alla valutazione dei rischi è stato rivolto alle Nazioni anche dall'Alto Commissario ONU per i Diritti Umani, Volker Turk: intervenire prima che l'IA vada fuori controllo e che diventi "un rischio esistenziale per l'Umanità."
