Pechino: marchio obbligatorio per contenuti da intelligenza artificiale

Una bozza prevede per la prima volta regole specifiche per il settore, valide per aziende e creatori di contenuti. I video dovranno contenere una etichetta “esplicita”. Gli esperti prevedono difficoltà nell’applicazione.

Pechino (AsiaNews) - Pechino ha proposto una nuova normativa che prevede l’obbligo di identificare con chiarezza tutti i contenuti generati dall’intelligenza artificiale, nel tentativo di arginare l’aumento delle frodi legate all’uso di questa nuova tecnologia. La bozza contenente le linee guida, pubblicata il 14 settembre scorso e aperta ai commenti del pubblico per un mese, prevede che tutte le immagini, i video e gli audio generati dall’Ia siano chiaramente etichettati con un watermark (o filigrana elettronica) e metadati incorporati. È la prima volta che l’Amministrazione cinese per il cyberspazio propone regole specifiche per la definizione e l’inquadramento di contenuti generati dall’intelligenza artificiale.

Secondo le linee guida, i video generati devono contenere un’etichetta “esplicita” visualizzata all’inizio della clip e visibile in ogni momento in un angolo dello schermo. Vi è inoltre la forte raccomandazione a far lampeggiare l’etichetta stessa in alcuni momenti definiti “appropriati” del video stesso. Anche i metadati che registrano la fonte del file e le informazioni sul copyright - indicati come etichetta “implicita” - devono essere registrati al momento della creazione.

Le regole si applicherebbero non solo alle aziende di Ia, ma anche ai singoli creatori di contenuti, alle piattaforme online, agli app store e a qualsiasi altro distributore di contenuti. Sempre secondo le linee guida, le piattaforme di distribuzione dei contenuti hanno l’obbligo di etichettare i file sospettati di essere generati dall’intelligenza artificiale, nel caso in cui vengano a mancare i metadati. Infine, gli app store sono tenuti a garantire che i fornitori di contenuti etichettino correttamente i contenuti generati dall’Ia.

Le proposte sono l’ultimo sforzo delle autorità cinesi per combattere l’aumento dei casi di frode legati alla nuova tecnologia. Secondo la start-up cinese RealAI, nei primi cinque mesi del 2024 in Cina sono stati sottratti oltre 185 milioni di yuan (26 milioni di dollari) utilizzando l’Ia, rispetto ai soli 16,7 milioni di yuan dell’intero 2023. La tecnologia Deepfake, la sintesi vocale e i chatbot AI sono elencati come “scenari applicativi tipici ad alto rischio” nelle linee guida, evidenziando il loro potenziale utilizzo per frodare gli utenti.

Tuttavia, analisti ed esperti sottolineano che le nuove direttive potrebbero non essere così facili da applicare all’atto pratico. Fra le voci critiche vi è quella di Ma Ce, avvocato dello studio legale Zhejiang Kinding, specializzato in diritto di Internet, secondo cui le linee guida mancano di una chiara definizione di ciò che costituisce “contenuto generato dall’intelligenza artificiale che richiede la filigrana”. L’obbligo per i creatori e le piattaforme online di aggiungere correttamente i metadati ai file generati “porrà delle sfide tecniche”, ha aggiunto l’esperto. Le linee guida non specificano inoltre le sanzioni per i creatori e i distributori di contenuti che violano le regole.

La Cina non è l’unico Paese che sta cercando di garantire che i contenuti generati dall’intelligenza artificiale siano chiaramente etichettati. L’Unione europea, gli Stati Uniti, Singapore e il Canada si stanno muovendo per regolamentare questo settore. Tuttavia, rimangono diversi interrogativi sulle modalità di attuazione delle norme che impongono il watermarking dei contenuti online.