Marchi Statistici nell’IA: Un Tentativo di Tracciare i Testi Generati
L’utilizzo dell’intelligenza artificiale generativa sta rivoluzionando la creazione di contenuti, ma solleva anche preoccupazioni riguardo alla disinformazione e alla difficoltà nel distinguere tra testi scritti da umani e da macchine. Per affrontare questa sfida, diverse aziende stanno sperimentando l'introduzione di ‘watermark’, ovvero segnali statistici invisibili all’occhio umano, nei testi generati dall’IA.
L’iniziativa più avanzata è quella di Anthropic, che ha lanciato un sistema nel 2026 per i suoi modelli Claude. Questo sistema inserisce una ‘chiave segreta’ in ogni testo prodotto, modificando leggermente le scelte del modello durante la generazione delle parole. In pratica, il large language model (LLM) genera una parola alla volta, scegliendo tra diverse opzioni plausibili, ma la chiave segreta introduce una variazione statistica impercettibile al lettore. Questo permette di tracciare l'origine del testo, anche se l’efficacia di questo metodo è ancora oggetto di dibattito.
Come Funziona il Watermark
Il meccanismo si basa sul fatto che gli LLM generano parole in base alla probabilità. Ogni volta che una macchina completa la frase “Il racconto di fantascienza horror più famoso di Harlan Ellison si intitola Non ho”, sceglie tra diverse opzioni, come “ bocca” o “ cuore”. Il watermark introduce una leggera deviazione da questa probabilità, creando un’impronta statistica. Più il testo è lungo e complesso, più questa impronta diventa leggibile per chi possiede la chiave segreta.
Oltre Anthropic: Altre Iniziative
Non solo Anthropic sta lavorando su questo fronte. Anche Substack, con l’aiuto di Pangram, ha sviluppato un rilevatore di intelligenze artificiali basato sull'analisi di schemi di parole e stili ricorrenti – come l'epanortosi enfatica. Tuttavia, il sistema di Pangram è considerato meno affidabile e più suscettibile a manipolazioni.
Nonostante i progressi, la tecnologia dei watermark presenta ancora delle limitazioni. L’efficacia diminuisce con testi brevi e con vincoli di parole, rendendo difficile l'individuazione dell'intervento dell'IA. Inoltre, il sistema di Pangram ha generato controversie, alimentando la cultura del sospetto senza risolvere i problemi legati alla sovrapproduzione di contenuti.