La regolazione cinese dell’Ia è una sfida per l’Occidente

Lo sviluppo e l’uso di sistemi di intelligenza artificiale, ormai presenti in diverse applicazioni, rappresentano un sempre più elevato livello di rischio per i cittadini e per la sicurezza nazionale.

L’utilizzo dell’IA deve essere attentamente regolamentato per evitare di creare nuove criticità, vulnerabilità, problemi etici, di trasparenza, di controllo della giurisdizione, di disinformazione, di tenuta sociale, di integrità delle istituzioni democratiche.

La competizione per lo sviluppo dell’intelligenza artificiale è di carattere globale e le sue implicazioni per gli utenti stanno assumendo aspetti preoccupanti dal punto di vista della privacy e della sicurezza.

L’uso non regolamentato di App che sfruttano la manipolazione comportamentale cognitiva di persone o specifici gruppi vulnerabili, che incoraggiano comportamenti pericolosi nei minori, che classificano le persone in base al comportamento, al livello socio-economico, alle caratteristiche personali, che utilizzano l’identificazione biometrica in tempo reale e a distanza come il riconoscimento facciale, comportano rischi ai quali gli utenti sono inconsapevolmente esposti.

Di recente abbiamo visto la forte reazione di diverse organizzazioni e categorie professionali che richiedono norme chiare e stringenti per l’utilizzo di strumenti di IA generativa usata per chatbot, video, audio, marketing, design, scrittura, ecc. che permettono la generazione di contenuti illegali, di pubblicare una quantità enorme di dati che violano diritti d’autore e proprietà intellettuale, mettendo a rischio non solo l’industria tech, la cybersecurity e la privacy, ma anche milioni di posti di lavoro.

In attesa dell’emanazione dell’approvazione della regolamentazione UE sull’intelligenza artificiale, le imprese devono già iniziare ad adeguare i sistemi di IA prodotti, utilizzati, distribuiti e soprattutto se importati da Stati autocrati, perché l’entrata in vigore dell’AI Act europeo spingerà sempre di più verso l’esigenza di fornire prodotti IA che garantiscano la sicurezza dei cittadini.

Inoltre, diventa sempre più urgente la necessità di una riforma dell’attuale Sistema di informazione per la sicurezza della Repubblica, che auspico possa vedere anche la costituzione di un Consiglio di Sicurezza Nazionale, necessario per adeguare la protezione della nazione alle minacce ibride che determinano una tipologia di rischi e potenziali conflitti senza regole e limiti che, come abbiamo potuto constatare con l’aggressione russa all’Ucraina, estendono le loro conseguenze alle reti ed alle popolazioni civili a livello globale.

Al fine di contribuire alla comprensione dell’approccio a livello strategico, operativo e tattico di uno dei Paesi più avanzati al mondo nello sviluppo di sistemi di intelligenza artificiale generativa, l’Istituto Italiano di Studi Strategici “Niccolò Machiavelli” ha tradotto in lingua italiana ed analizzato le “Misure provvisorie per la gestione dei servizi di intelligenza artificiale generativa” che sono state esaminate e approvate durante la 12a riunione dell’ufficio dell’Amministrazione cinese per il cyberspazio (CAC) il 23 maggio 2023, promulgate lo scorso 10 luglio e che entreranno in vigore il 15 agosto 2023.

Di seguito la traduzione in italiano dell’Ordine Numero 15: “Misure provvisorie per la gestione dei servizi di intelligenza artificiale generativa”, emanato dal Governo di Pechino e strutturato in 5 Sezioni e 24 Articoli, che è stato elaborato, esaminato e ratificato da:
Zhuang Rongwen – Direttore dell’Amministrazione Cinese per il Cyberspazio
Zheng Shanjie – Direttore della Commissione Nazionale per lo Sviluppo e le Riforme
Huai Jinpeng – Ministro dell’Istruzione
Wang Zhigang – Ministro della Scienza e della Tecnologia
Jin Zhuanglong – Ministro dell’Industria e della Tecnologia dell’Informazione
Wang Xiaohong – Ministro della Pubblica Sicurezza
Cao Shumin – Direttore dell’Amministrazione Nazionale della Radio e della Televisione

Sezione 1 Disposizioni generali

Articolo 1 – Le presenti misure sono stabilite per promuovere il sano sviluppo e l’applicazione standardizzata dell’intelligenza artificiale dell’intelligenza artificiale generativa, di salvaguardare la sicurezza nazionale e gli interessi pubblici sociali, e proteggere i diritti e gli interessi legittimi dei cittadini, delle persone giuridiche e di altre organizzazioni, in conformità con: la “Cyber-intelligence”, la “Legge sulla sicurezza informatica della Repubblica Popolare Cinese”, la “Legge sulla sicurezza dei dati della Repubblica Popolare Cinese”, la “Legge sulla protezione delle informazioni personali della Repubblica Popolare Cinese”, la “Legge sul progresso scientifico e tecnologico della Repubblica Popolare Cinese” e le altre leggi e regolamenti amministrativi.

Articolo 2 – Le presenti misure si applicano ai servizi che utilizzano la tecnologia dell’intelligenza artificiale generativa per generare testi, immagini, audio, video e altri contenuti (di seguito denominati servizi di intelligenza artificiale generativa) al pubblico nel territorio della Repubblica Popolare Cinese.

Se lo Stato ha altri regolamenti sull’uso dei servizi di intelligenza artificiale generativa per intraprendere attività quali la pubblicazione di notizie, la produzione cinematografica e televisiva e la creazione letteraria e artistica, tali regolamenti prevarranno. Le organizzazioni industriali, le imprese, le istituzioni educative e di ricerca scientifica, le istituzioni culturali pubbliche e le istituzioni professionali pertinenti che sviluppano e applicano la tecnologia di intelligenza artificiale generativa, ma non forniscono servizi di intelligenza artificiale generativa al pubblico nazionale, non sono soggette alle disposizioni di queste misure.

Articolo 3 – Lo Stato, aderendo ai principi di equo valore dello sviluppo e della sicurezza e di unione degli ideali di promozione dell’innovazione e di governo secondo la legge, adotta misure efficaci per incoraggiare l’innovazione e lo sviluppo dell’intelligenza artificiale generativa e attua una supervisione dei servizi di intelligenza artificiale generativa che sia inclusiva e prudente, oltre che differenziata e gerarchica.

Articolo 4 – La fornitura e l’utilizzo dei servizi di intelligenza artificiale generativa devono essere conformi alle leggi e ai regolamenti amministrativi, rispettare la morale e l’etica sociale e attenersi alle seguenti disposizioni:
(1) Aderire ai valori fondamentali del socialismo e non generare contenuti che incitino alla sovversione del potere statale e al rovesciamento del sistema socialista, che mettano in pericolo la sicurezza e gli interessi nazionali, che danneggino l’immagine nazionale, che incitino alla secessione, che minino l’unità nazionale e la stabilità sociale, che promuovano il terrorismo, l’estremismo, che promuovano l’odio etnico, la discriminazione etnica, la violenza, l’oscenità e le informazioni false e dannose vietate dalle leggi e dai regolamenti amministrativi.
(2) Nel processo di progettazione degli algoritmi, di selezione dei dati di addestramento, di generazione e ottimizzazione dei modelli e di fornitura dei servizi, adottare misure efficaci per prevenire la discriminazione basata su etnia, credo, paese, regione, sesso, età, occupazione, salute, ecc.
(3) Rispettare i diritti di proprietà intellettuale, l’etica aziendale, mantenere i segreti aziendali e non utilizzare algoritmi, dati, piattaforme e altri vantaggi per attuare il monopolio e la concorrenza sleale.
(4) Rispettare i diritti e gli interessi legittimi degli altri, non mettere a repentaglio la salute fisica e mentale degli altri e non violare i diritti di immagine, di reputazione, di onore, di privacy e di informazione personale degli altri.
(5) in base alle caratteristiche del tipo di servizio, adottare misure efficaci per migliorare la trasparenza dei servizi di intelligenza artificiale generativa e migliorare l’accuratezza e l’affidabilità dei contenuti generati.

Sezione 2 Sviluppo tecnologico e governance

Articolo 5 – incoraggiare l’applicazione innovativa della tecnologia di intelligenza artificiale generativa in vari settori e campi, generare contenuti positivi, sani ed edificanti di alta qualità, esplorare e ottimizzare gli scenari applicativi e costruire un ecosistema applicativo.

Sostenere le organizzazioni industriali, le imprese, le istituzioni educative e di ricerca scientifica, le istituzioni culturali pubbliche e le istituzioni professionali pertinenti a collaborare nelle aree della tecnologia di intelligenza artificiale generativa come l’innovazione, la costruzione di risorse di dati, il trasferimento di applicazioni e la prevenzione dei rischi.

Articolo 6 – incoraggiare l’innovazione indipendente delle tecnologie di base come gli algoritmi di intelligenza artificiale generativa, i framework, i chip e le piattaforme software di supporto, effettuare scambi e cooperazioni internazionali su base paritaria e reciprocamente vantaggiosa e partecipare alla formulazione di regole internazionali relative all’intelligenza artificiale generativa.

Promuovere la costruzione di infrastrutture di intelligenza artificiale generativa e di piattaforme pubbliche di risorse di dati di addestramento.

Promuovere la condivisione collaborativa delle risorse di potenza di calcolo e migliorare l’uso efficiente delle risorse di potenza di calcolo.

Promuovere l’apertura differenziata e gerarchica dei dati pubblici e ampliare le risorse di dati di formazione pubblici di alta qualità. Incoraggiare l’adozione di chip, software, strumenti, potenza di calcolo e risorse di dati sicuri e affidabili.

Articolo 7 – I fornitori di servizi di intelligenza artificiale generativa (di seguito denominati fornitori) svolgono le attività di elaborazione dei dati di formazione, quali la formazione preliminare e la formazione di ottimizzazione, in conformità con la legge e rispettano le seguenti disposizioni:
(1) utilizzare dati e modelli di base provenienti da fonti legali;
(2) in caso di diritti di proprietà intellettuale, non devono essere violati i diritti di proprietà intellettuale di altri;
(3) nel caso in cui siano coinvolte informazioni personali, [i fornitori] devono ottenere il consenso dell’individuo o rispettare altre condizioni stabilite dalle leggi e dai regolamenti amministrativi;
(4) adottare misure efficaci per migliorare la qualità dei dati sulla formazione, e rafforzare l’autenticità, l’accuratezza, l’obiettività e la diversità dei dati sulla formazione;
(5) [Rispettare] agire in modo conforme alle altre norme pertinenti di leggi e regolamenti amministrativi come la “Legge sulla sicurezza informatica della Repubblica Popolare Cinese”, la “Legge sulla sicurezza dei dati della Repubblica Popolare Cinese” e la “Legge sulla protezione delle informazioni personali della Repubblica Popolare Cinese”, nonché i requisiti normativi pertinenti dei dipartimenti responsabili.

Articolo 8 – Se l’etichettatura dei dati (data labeling o annotazione dei dati, processo che fa parte della fase di pre-elaborazione quando si sviluppa un modello di machine learning ML ndr.), viene effettuata durante la ricerca e lo sviluppo della tecnologia di intelligenza artificiale generativa, i fornitori devono formulare regole di etichettatura chiare, specifiche e operative che soddisfino i requisiti di queste misure; effettuare una valutazione della qualità dell’etichettatura dei dati e condurre una verifica a campione dell’accuratezza del contenuto dell’etichettatura; condurre la formazione necessaria per il personale addetto all’etichettatura, migliorare la consapevolezza del rispetto e dell’osservanza della legge e supervisionare e guidare il personale addetto all’etichettatura per standardizzare il lavoro di etichettatura.

Sezione 3 Standard di servizio

Articolo 9 – I fornitori devono assumersi la responsabilità legale di essere produttori di contenuti informativi di rete e adempiere agli obblighi relativi alla sicurezza delle informazioni di rete. Se si tratta di informazioni personali, devono assumersi le responsabilità connesse con il trattamento delle informazioni personali ai sensi della legge e adempiere ai propri obblighi di protezione delle informazioni personali. I fornitori devono sottoscrivere contratti di servizio con gli utenti di servizi di intelligenza artificiale generativa (di seguito denominati utenti) che registrano i loro servizi, chiarendo i diritti e gli obblighi di entrambe le parti.

Articolo 10 – I fornitori devono definire chiaramente e divulgare pubblicamente i gruppi di utenti, gli scenari e gli scopi dei loro servizi. Devono guidare gli utenti a utilizzare la tecnologia di intelligenza artificiale generativa in modo scientifico e razionale, nel rispetto della legge. I provider devono inoltre implementare misure efficaci per prevenire un eccessivo affidamento o dipendenza dai servizi di intelligenza artificiale generativa da parte di utenti minorenni.

Articolo 11 – I provider devono adempiere ai loro obblighi legali di protezione delle informazioni di input e dei record di utilizzo degli utenti. Non devono raccogliere informazioni personali non necessarie, né conservare illegalmente informazioni di input e registri di utilizzo identificabili degli utenti, né fornire illegalmente tali informazioni e registri a terzi. I provider devono accettare e gestire tempestivamente le richieste degli utenti in merito all’accesso, alla copia, alla correzione, all’integrazione e alla cancellazione delle loro informazioni personali, in conformità con la legge.

Articolo 12 – I provider devono etichettare le immagini, i video e gli altri contenuti generati in conformità con le “Disposizioni per la gestione della sintesi profonda dei servizi di informazione su Internet”.

Articolo 13 – I provider devono offrire un servizio sicuro, stabile e ininterrotto, garantendo che gli utenti possano utilizzarlo senza interruzioni.

Articolo 14 – Se un fornitore scopre contenuti illegali, deve adottare prontamente misure di eliminazione come l’interruzione della generazione, l’interruzione della trasmissione e l’eliminazione, adottare misure come l’addestramento all’ottimizzazione del modello per la rettifica e riferire all’autorità competente.
Se il fornitore scopre che l’utente utilizza il servizio di intelligenza artificiale generativa per svolgere attività illegali, deve adottare misure quali l’avvertimento, la limitazione delle funzioni, la sospensione o la cessazione della fornitura di servizi in conformità con la legge, conservare le registrazioni pertinenti e riferire all’autorità responsabile competente.

Articolo 15 – I fornitori devono istituire e migliorare un meccanismo per la ricezione di reclami e segnalazioni, creando canali accessibili per tali reclami e segnalazioni. Devono inoltre pubblicizzare le procedure di trattamento e le tempistiche di feedback, accettando e gestendo tempestivamente i reclami e le segnalazioni del pubblico e fornendo un feedback sui risultati delle loro azioni.

Sezione 4 Supervisione, ispezione e responsabilità legali

Articolo 16 – L’Amministrazione del cyberspazio cinese, la Commissione nazionale per lo sviluppo e la riforma, il Ministero dell’istruzione, il Ministero della scienza e della tecnologia, il Ministero dell’industria e della tecnologia dell’informazione, il Ministero della pubblica sicurezza, l’Amministrazione Nazionale della Radio e della Televisione: Amministrazione nazionale della stampa e delle pubblicazioni, ecc. devono rafforzare la gestione dei servizi di intelligenza artificiale generativa in conformità con la legge, secondo le rispettive responsabilità.

Le Autorità nazionali competenti, sulla base delle caratteristiche della tecnologia dell’intelligenza artificiale generativa e delle sue applicazioni nei settori e campi pertinenti, migliorano e innovano i metodi di regolamentazione scientifica adatti al suo sviluppo. Esse stabiliscono inoltre le corrispondenti regole o linee guida normative differenziate e gerarchiche.

Articolo 17 – Se un servizio di intelligenza artificiale generativa possiede attributi di opinione pubblica o capacità di mobilitazione sociale, deve essere sottoposto a una valutazione di sicurezza in conformità con le normative nazionali pertinenti. Inoltre, deve rispettare le “Disposizioni sulla gestione delle raccomandazioni algoritmiche dei servizi di informazione su Internet” per completare le procedure di deposito, aggiornamento e cancellazione degli algoritmi.

Articolo 18 – Gli utenti hanno il diritto di presentare reclami o segnalazioni alle autorità competenti se ritengono che i servizi di intelligenza artificiale generativa non siano conformi alle leggi, ai regolamenti o alle disposizioni stabilite in queste misure.

Articolo 19 – I Dipartimenti competenti conducono la supervisione e l’ispezione dei servizi di intelligenza artificiale generativa in base ai loro compiti, e il fornitore collabora in conformità con la legge, spiegando la fonte, la scala, il tipo, le regole di etichettatura, il meccanismo dell’algoritmo, ecc. dei dati di addestramento come richiesto, e fornendo il supporto e l’assistenza tecnica e di dati necessari.

Le Istituzioni e il personale che partecipano alla valutazione della sicurezza, alla supervisione e all’ispezione dei servizi di intelligenza artificiale generativa sono tenuti a mantenere riservati i segreti di Stato, i segreti commerciali, la privacy personale e le informazioni personali apprese nell’esercizio delle loro funzioni, in conformità con la legge, e a non divulgarle o fornirle illegalmente ad altri.

Articolo 20 – Per coloro che forniscono servizi di intelligenza artificiale generativa dall’esterno del territorio della Repubblica Popolare Cinese e che non rispettano le leggi, i regolamenti amministrativi e le presenti misure, il Dipartimento di Stato per la cybersicurezza e l’informatizzazione deve informare le agenzie competenti affinché adottino misure tecniche e altre misure necessarie per affrontarli.

Articolo 21 – Se i fornitori violano le disposizioni delle presenti misure, le Autorità competenti imporranno sanzioni in conformità alla “Legge sulla sicurezza informatica della Repubblica Popolare Cinese”, alla “Legge sulla sicurezza dei dati della Repubblica Popolare Cinese”, alla “Legge sulla protezione delle informazioni personali della Repubblica Popolare Cinese”, alla “Legge sul progresso scientifico e tecnologico della Repubblica Popolare Cinese” e ad altre leggi e regolamenti amministrativi.

Se la violazione costituisce una violazione della gestione della sicurezza pubblica, saranno imposte sanzioni amministrative in conformità con la legge. Se costituisce un reato, la responsabilità penale sarà perseguita in conformità alla legge.

Sezione 5 Disposizioni complementari

Articolo 22 – I seguenti termini sono da intendersi nel presente provvedimento:
(1) La tecnologia di intelligenza artificiale generativa si riferisce a modelli e tecnologie correlate che hanno la capacità di generare contenuti come testo, immagini, audio e video.
(2) I fornitori di servizi di intelligenza artificiale generativa si riferiscono a organizzazioni o individui che utilizzano la tecnologia di intelligenza artificiale generativa per offrire servizi di intelligenza artificiale generativa, compresa la fornitura di tali servizi attraverso interfacce programmabili o altri mezzi.
(3) Gli utenti di servizi di intelligenza artificiale generativa si riferiscono alle organizzazioni e agli individui che utilizzano i servizi di intelligenza artificiale generativa per generare contenuti.

Articolo 23 – Se le leggi e i regolamenti amministrativi stabiliscono che la fornitura di servizi di intelligenza artificiale generativa richiede l’ottenimento delle relative licenze amministrative, i fornitori devono ottenere i permessi necessari in conformità con la legge. Gli investimenti stranieri nei servizi di intelligenza artificiale generativa devono essere conformi alle leggi e ai regolamenti amministrativi pertinenti in materia di investimenti stranieri.

Articolo 24 – Queste misure entreranno in vigore il 15 agosto 2023.

Sfide Strategiche per l’Occidente

Il Partito Comunista Cinese (PCC) continua a impegnarsi per realizzare la visione del presidente Xi Jinping di rendere la Cina la potenza preminente dell’Asia orientale e una grande potenza sulla scena mondiale.

Tra gli obiettivi del suo terzo mandato alla guida della Cina, ci sono: imporre l’unificazione con Taiwan; indebolire l’influenza degli Stati Uniti, alimentando le divisioni tra Washington e i suoi partner; promuovere un nuovo ordine mondiale multipolare e normative per rafforzare il suo sistema autoritario.

Da queste “misure per la gestione dei servizi di intelligenza artificiale generativa” è sempre più evidente la strategia di Pechino, che oltre a rappresentare la più aggressiva, attiva e persistente minaccia di spionaggio informatico per le reti dei governi e del settore privato occidentali, utilizza le nuove tecnologie per condurre intrusioni informatiche mirate a colpire cittadini sia all’interno che al di fuori dei propri confini – tra cui giornalisti, dissidenti e individui considerati una minaccia – per contrastare opinioni e politiche che considera critiche.

La Cina sta rapidamente espandendo, migliorando e soprattutto proteggendo le sue capacità di sviluppare sistemi di intelligenza artificiale (AI) e di analisi dei big data, già massicciamente utilizzati per la soppressione del libero flusso di informazioni nel cyberspazio, per contrastare narrazioni, politiche e azioni che considera critiche del PCC e per l’espansione dell’autoritarismo guidato dalla tecnologia a livello nazionale e globale.