Le regole europee puntano a rendere rilevabili i contenuti generati o modificati artificialmente. Il cosiddetto “bollino” sarà soprattutto un segnale tecnico, con effetti sui processi editoriali e sulla verifica dei testi.
OpenAI sta lavorando a sistemi che aiutino a riconoscere quando un testo è stato generato o modificato attraverso i suoi modelli. L’iniziativa si inserisce nell’applicazione graduale dell’AI Act europeo, che introduce obblighi di trasparenza per i fornitori di sistemi di intelligenza artificiale generativa e per alcuni soggetti che ne pubblicano i risultati.
L’espressione “bollino” rende immediata l’idea, anche se può suggerire un’etichetta grafica visibile accanto a ogni contenuto. Il quadro europeo parla soprattutto di marcature in formato leggibile dalle macchine e di sistemi capaci di rilevare l’origine artificiale di un contenuto. L’obiettivo è consentire a piattaforme, servizi e strumenti di verifica di individuare un segnale tecnico associato alla generazione o alla modifica del testo.
Questa distinzione è importante per comprendere gli effetti concreti della misura. Un indicatore di provenienza può accompagnare il contenuto senza apparire come un avviso evidente per il lettore. L’eventuale presentazione di un’etichetta visibile dipenderà dalle modalità adottate dai servizi, dalle piattaforme di pubblicazione e dai processi editoriali che utilizzano quelle informazioni.
Che cosa richiede l’AI Act
Il regolamento europeo prevede che i fornitori di sistemi generativi capaci di produrre testi, immagini, audio o video adottino soluzioni che rendano gli output rilevabili come generati o manipolati artificialmente. La marcatura deve essere efficace, interoperabile, affidabile e adeguata allo stato della tecnologia, tenendo conto anche delle caratteristiche specifiche dei diversi formati.
Per i testi esiste un ulteriore livello di trasparenza. Quando un contenuto generato o modificato dall’AI viene pubblicato per informare il pubblico su questioni di interesse generale, il regolamento contempla una divulgazione della sua origine artificiale. Il trattamento può essere diverso quando il testo è sottoposto a revisione umana o a controllo editoriale e una persona fisica o giuridica assume la responsabilità della pubblicazione.
La responsabilità editoriale acquista quindi un ruolo operativo. Una redazione che utilizza un modello per preparare una prima versione, verifica ogni informazione e approva il testo attraverso un processo definito si trova in una situazione differente rispetto alla pubblicazione automatica di un output. La presenza dell’AI resta rilevante per il flusso di lavoro, mentre il controllo umano documentato contribuisce a chiarire chi risponde del contenuto finale.
OpenAI ha aderito al codice di buone pratiche europeo dedicato alla trasparenza dei contenuti generati dall’AI e ha predisposto risorse specifiche per utenti e clienti nell’Unione europea. Il codice accompagna l’attuazione delle regole e offre indicazioni operative alle aziende. Gli obblighi effettivi continuano a dipendere dal testo del regolamento e dalle modalità con cui sarà applicato.
Perché la provenienza del testo è difficile da conservare
La marcatura dei testi presenta difficoltà differenti rispetto a quella di immagini e file multimediali. Un testo può essere copiato in un altro documento, abbreviato, riscritto o inserito in un sistema di gestione dei contenuti. Ciascuno di questi passaggi può modificare o eliminare informazioni associate alla versione iniziale.
OpenAI riconosce che gli strumenti di rilevazione non sono infallibili e che alcune soluzioni di provenienza prevedono limiti legati alla lunghezza del contenuto. Per esempio, il sistema descritto dall’azienda non richiede l’impiego di watermark sotto una determinata soglia testuale. Questi vincoli mostrano perché la marcatura vada considerata un segnale tecnico da interpretare all’interno di un processo più ampio.
La rilevazione automatica non coincide con l’attribuzione della paternità di un’opera. Una marcatura può indicare il coinvolgimento di un modello nella produzione o nella trasformazione del testo. La valutazione dell’apporto creativo, della responsabilità e del lavoro di revisione richiede informazioni aggiuntive sul processo seguito dall’autore o dalla redazione.
Anche i falsi positivi meritano attenzione, soprattutto quando una classificazione automatica può incidere sulla reputazione di uno scrittore, di uno studente o di un professionista. Un sistema di trasparenza affidabile dovrebbe permettere di contestare una valutazione e di esaminare elementi ulteriori, come le versioni precedenti del documento, la cronologia delle modifiche e i materiali preparatori.
Le conseguenze per autori ed editori
Per chi produce contenuti, la novità incoraggia una maggiore tracciabilità dei flussi di lavoro. Conservare bozze, indicare gli strumenti utilizzati e definire le fasi di revisione può aiutare a ricostruire il percorso che conduce alla pubblicazione. Queste pratiche sono utili anche quando il contributo dell’AI riguarda attività circoscritte, come la riorganizzazione di un testo o il miglioramento della leggibilità.
Le redazioni dovranno inoltre valutare come i segnali di provenienza attraversano i propri sistemi. Il passaggio da un assistente di scrittura a un elaboratore di testi, seguito dall’inserimento in un CMS, può coinvolgere ambienti tecnici differenti. Sarà necessario verificare quali informazioni vengono conservate e quali si perdono durante la copia, l’esportazione o la conversione dei contenuti.
Un altro aspetto riguarda le regole interne. Le organizzazioni possono stabilire quando l’uso dell’AI richiede una dichiarazione, quale livello di revisione deve essere applicato e chi assume la responsabilità finale. Procedure semplici e comprensibili riducono l’incertezza per collaboratori, autori esterni e lettori.
La distinzione tra testo generato e testo modificato richiede particolare precisione. L’assistenza linguistica, la traduzione e la riscrittura possono coinvolgere un modello in misura diversa. Un’indicazione generica rischia di riunire processi molto distanti tra loro. Informazioni più granulari aiuterebbero a capire se l’AI ha prodotto la struttura del contenuto, ha rielaborato un testo umano oppure ha svolto una funzione limitata di supporto.
Un segnale tecnico, non un verdetto sull’autore
La trasparenza prevista dall’AI Act può favorire un uso più maturo degli strumenti generativi, soprattutto nei settori in cui accuratezza e responsabilità editoriale hanno un peso rilevante. La sua efficacia dipenderà dalla qualità delle soluzioni tecniche, dalla compatibilità tra piattaforme e dalla possibilità di gestire correttamente i casi incerti.
Per i lettori, la marcatura potrà offrire un’informazione aggiuntiva sul processo di produzione. Per autori ed editori, aumenterà l’importanza di documentare il contributo umano e di organizzare la revisione in modo verificabile. Il valore del contenuto continuerà a dipendere dalla qualità delle informazioni, dalla chiarezza del testo e dalla responsabilità di chi decide di pubblicarlo.
Il cosiddetto bollino va quindi letto come una componente di un’infrastruttura di provenienza. Non certifica da solo l’autenticità, l’accuratezza o la paternità di un testo. Inserito in procedure editoriali trasparenti, può contribuire a distinguere meglio i diversi impieghi dell’AI e a rendere più comprensibile il percorso che porta dalla generazione alla pubblicazione.
Fonti
- Our approach to EU text provenance rules | OpenAI
- Regolamento (UE) 2024/1689 (AI Act) – EUR-Lex
- EU AI Act: OpenAI Resources and Customer Guidance | OpenAI Help Center
