Un Ciclo di Feedback Autonomo: Anthropic e l’Uso di Claude
Anthropic, la società dietro il modello linguistico Claude, sta adottando un approccio radicale per accelerare lo sviluppo dell'IA: utilizza Claude stesso per addestrare le versioni successive. La rivelazione, contenuta nella documentazione S-1 depositata alla Securities and Exchange Commission (SEC), evidenzia una strategia di ‘chiusura del ciclo’ che ha implicazioni significative per la sicurezza e il controllo dello sviluppo dell'IA.
L'Uso Diffuso di Claude
- Addestramento e Generazione Dati: Claude è impiegato per generare dati di training, eseguire esperimenti e automatizzare valutazioni di sicurezza.
- Miglioramento degli Algoritmi: L'IA sta ottimizzando l'uso delle risorse informatiche, rendendo il processo più efficiente.
- Aumento Produttività: Gli ingegneri producono oltre 45 volte di più codice al giorno grazie a Claude Code, con i dipendenti che supervisionano principalmente gli agenti.
Il valore dell'utilizzo interno di Claude è aumentato di oltre 250 volte da gennaio a settembre, superando le spese per il personale. Questo trend sta portando a un’accelerazione senza precedenti nello sviluppo del modello.
Rischi di Sicurezza e Ritmo dell'Innovazione
Nonostante l'azienda sottolinei i vantaggi di questo approccio, si aprono preoccupazioni. Man mano che Claude contribuisce a costruire le sue versioni future, il rischio aumenta che l’IA evolva troppo rapidamente, superando la capacità di Anthropic di mantenere il controllo sulla sicurezza. I difetti presenti nelle versioni attuali potrebbero essere ereditati da quelle successive, rendendo difficile individuare e correggere gli errori.
L'azienda riconosce questo rischio, chiedendo un’iniziativa a livello di settore per regolare il ritmo dell'innovazione e consentire revisioni indipendenti della sicurezza. Prevede inoltre di investire 1 miliardo di dollari nei prossimi cinque anni per sviluppare capacità di revisione esterna in collaborazione con Accenture.
Concorrenza e la Necessità di Regolamentazione
Anthropic non è l'unica azienda a utilizzare IA per addestrare altre IA. L’azienda sottolinea che, se non lo facesse, potrebbe rimanere indietro rispetto ai concorrenti. L'azienda si aspetta anche una regolamentazione del ritmo dell'innovazione.