L’entrata in vigore progressiva delle disposizioni contenute nell’AI Act dell’Unione Europea sta spingendo i principali player dell’intelligenza artificiale ad adattare i propri strumenti alle nuove norme di trasparenza. In risposta a queste esigenze normative, OpenAI ha avviato il rilascio di un sistema di marcatura invisibile, denominato textGrain, progettato per contrassegnare sia i testi sia il codice sorgente generati da ChatGPT e Codex all’interno del territorio europeo.
Come funziona la marcatura invisibile textGrain
Diversamente da quanto avviene per i contenuti multimediali come immagini o video, applicare un contrassegno a un testo o a uno snippet di codice richiede un approccio differente. La tecnologia textGrain agisce a livello algoritmico durante la fase di generazione: modifica in modo impercettibile la sequenza e la distribuzione statistica delle parole o dei costrutti sintattici, senza alterare la chiarezza o il significato del risultato finale.
Per l’utente che legge o per lo sviluppatore che esegue lo script, il contenuto appare del tutto naturale. Tuttavia, un software di analisi specifico è in grado di rilevare la presenza di questi pattern matematici sottostanti, confermando che l’output è stato prodotto da un modello di intelligenza artificiale. L’azienda ha sottolineato che l’efficacia del sistema è paragonabile a soluzioni concorrenti, come SynthID di Google DeepMind, pur ammettendo che modifiche manuali rilevanti da parte dell’utente possono rendere la filigrana più difficile da identificare.
Le implicazioni per lo sviluppo software e la conformità
L’introduzione della filigrana digitale nel codice generato da sistemi come Codex rappresenta un passaggio di grande interesse per gli sviluppatori e per i team di ingegneria software attivi in Europa. Questa misura punta a risolvere diversi aspetti legati alla governance dei dati e alla trasparenza:
- Tracciabilità del codice: Offre uno strumento utile alle organizzazioni per identificare le porzioni di software sviluppate con il supporto dell’IA generativa.
- Adeguamento normativo: Aiuta le aziende a rispettare gli obblighi d’informazione previsti dai nuovi quadri normativi europei.
- Standard di sicurezza: Pone le basi per una futura integrazione tra strumenti di verifica automatizzata dell’origine dei dati e pipeline di sviluppo.
Questo cambiamento evidenzia come il settore dell’IA stia rapidamente evolvendo da una fase di pura innovazione funzionale a una di maturità regolamentata, dove la provenienza del dato e la trasparenza diventano requisiti essenziali anche nella scrittura del codice aziendale.