OpenAI ha annunciato l’introduzione di una filigrana invisibile e leggibile solo dalle macchine nei testi prodotti da ChatGPT e Codex. Il debutto riguarderà, per il momento, esclusivamente gli utenti dell’Unione Europea, che nelle prossime settimane vedranno attivarsi la funzione su tutti i piani, gratuiti e a pagamento. La società ha precisato di non voler rendere la filigrana un’impostazione predefinita a livello globale al lancio: l’approccio regionale, spiega, serve a raccogliere indicazioni dall’uso reale prima di un’eventuale estensione.
Il sistema, battezzato textGrain, secondo OpenAI avrebbe prestazioni «pari o superiori» a quelle di altre soluzioni, tra cui SynthID di Google DeepMind, che è anche alla base della filigrana annunciata ad agosto da Anthropic. Come già accaduto per quest’ultima, la mossa risponde ai requisiti di trasparenza previsti dall’AI Act europeo, anche se la novità non è stata accolta con favore da tutti. L’azienda ha pubblicato inoltre i risultati di alcuni benchmark, che mostrano prestazioni analoghe tra i testi con filigrana e quelli senza.OpenAI è tuttavia esplicita sui limiti della tecnologia. Il sistema, avverte, “non garantisce un rilevamento affidabile”, e una filigrana testuale non permette di verificare l’accuratezza di un contenuto, stabilirne la proprietà, misurare l’apporto di una persona né dimostrare che un testo sia stato scritto da un essere umano.Per quanto riguarda le API, da oggi i clienti di tutto il mondo possono attivare in modo facoltativo l’opzione per alcuni modelli, decidendo così come inserirla nei propri obblighi di trasparenza e nelle esperienze offerte agli utenti. OpenAI sta inoltre lavorando con i partner cloud per rendere la funzione disponibile anche per i modelli accessibili tramite le loro piattaforme, con tempi indicati in poche settimane.Resta infine la questione del rilevamento. Ricercatori e organizzazioni specializzate possono già fare richiesta di accesso allo strumento di verifica, che sarà concesso caso per caso in linea con il Codice di condotta europeo. Il detector segnalerà soltanto se rileva una filigrana di OpenAI, senza identificare l’utente né rivelare prompt o conversazioni. Per il rischio di marcature non rilevate e di falsi positivi, lo strumento non sarà pubblico al lancio.
