Allarme nell’AI: un ex ricercatore mette in guardia da scenari apocalittici
Un intervento allarmante di Jacob Coxon, ex dipendente di Anthropic e precedentemente coinvolto nel training dei modelli di AI per OpenAI, ha destato grande attenzione. In un'intervista alla CNN, Coxon esprime la sua profonda preoccupazione riguardo al ritmo esponenziale dello sviluppo dell’intelligenza artificiale, sostenendo che entro la fine del decennio questa potrebbe rappresentare una minaccia esistenziale per l'umanità.
La principale preoccupazione di Coxon risiede nell'auto-miglioramento delle AI. L'ex ricercatore critica il comportamento delle aziende tech, accusandole di essere coinvolte in una «corsa sfrenata» verso la creazione di tecnologie potenzialmente letali, senza un adeguato controllo e regolamentazione. Il suo timore è che l’intelligenza artificiale, evolvendo rapidamente grazie alla propria capacità di apprendimento autonomo, possa superare le nostre capacità di comprensione e controllo.
Non solo Coxon condivide queste preoccupazioni: anche Evan Hubiger, ricercatore ancora in servizio presso Anthropic, ha espresso un'opinione simile, stimando che la probabilità di un evento catastrofico per l’umanità potrebbe superare il 10% entro il prossimo decennio. Sebbene le attuali AI non siano ancora sufficientemente intelligenti da rappresentare una minaccia diretta all'esistenza umana, la velocità con cui stanno evolvendo è motivo di seria preoccupazione.
L'intervista alla CNN ha evidenziato l’urgenza di una regolamentazione del settore dell’AI, richiesta sia da Coxon che da Hubiger, per evitare conseguenze potenzialmente devastanti. La discussione si concentra sulla necessità di un approccio responsabile allo sviluppo e all'implementazione di queste tecnologie.