EDPS Esprime Preoccupazione sul Progetto di Convenzione Quadro sull'Intelligenza Artificiale, Diritti Umani, Democrazia e Stato di Diritto

Il 12 marzo 2024, il Supervisore Europeo per la Protezione dei Dati (EDPS) ha rilasciato una dichiarazione sul progetto di Convenzione Quadro sull'Intelligenza Artificiale (IA), Diritti Umani, Democrazia e Stato di Diritto in vista dell'ultimo incontro plenario del Comitato sull'Intelligenza Artificiale (CAI) per finalizzare il progetto di Convenzione.

Secondo l'EDPS, nonostante gli sforzi lodevoli del CAI, il progetto di Convenzione potrebbe rivelarsi un'occasione mancata per stabilire un quadro legale forte ed efficace per lo sviluppo e l'adozione di intelligenza artificiale affidabile .

In particolare, l'EDPS ha sollevato le seguenti preoccupazioni: Il livello molto generale delle disposizioni legali e la loro natura in gran parte dichiarativa porterebbero inevitabilmente a un'applicazione divergente del progetto di Convenzione e minerebbero la certezza del diritto; La limitazione del campo di applicazione del progetto di Convenzione solo alle attività svolte dalle autorità pubbliche o dalle entità che agiscono per conto loro contraddirebbe le istruzioni esplicite del Comitato dei Ministri del Consiglio d'Europa per sviluppare uno "strumento giuridico vincolante di carattere trasversale"; L'assenza di "linee rosse" come il divieto iniziale delle applicazioni di IA che presentano livelli di rischio inaccettabili, criteri chiari e inequivocabili o esempi specifici di utilizzi proibiti dell'IA potrebbe compromettere gravemente la dignità umana, l'autonomia individuale, i diritti umani, la democrazia e lo stato di diritto. Dichiarazione dell'EDPS in vista del 10º e ultimo Incontro Plenario del Comitato sull'Intelligenza Artificiale (CAI) del Consiglio d'Europa per la stesura della Convenzione Quadro sull'Intelligenza Artificiale, Diritti Umani, Democrazia e Stato di Diritto Fin dall'inizio, l'EDPS ha sostenuto l'obiettivo di elaborare il primo strumento internazionale giuridicamente vincolante sull'intelligenza artificiale (IA) sulla base degli standard del Consiglio d'Europa sui diritti umani, la democrazia e lo stato di diritto. L'EDPS ha contribuito in modo coerente e costruttivo ai lavori del Comitato sull'Intelligenza Artificiale (CAI) come parte della delegazione dell'Unione Europea in tale Comitato, insieme alla Commissione Europea e all'Agenzia per i Diritti Fondamentali.

In vista del 10º e ultimo Incontro Plenario del CAI, che mira a finalizzare il lavoro sulla Convenzione Quadro sull'Intelligenza Artificiale, Diritti Umani, Democrazia e Stato di Diritto, l'EDPS ritiene importante condividere la sua valutazione.

Valutazione dell'EDPS Nonostante gli sforzi lodevoli dei Membri, dei Partecipanti e degli Osservatori del CAI, il progetto di Convenzione Quadro, così com'è, potrebbe rivelarsi un'occasione mancata per stabilire un quadro legale forte ed efficace per lo sviluppo e l'adozione di un'IA affidabile. L'EDPS ritiene che tale quadro dovrebbe non solo essere coerente con i valori europei e la protezione dei diritti e delle libertà fondamentali delle persone, ma dovrebbe anche prevedere garanzie chiare e forti per le persone interessate dall'uso dei sistemi di IA.

L'EDPS comprende che il progetto di Convenzione Quadro non sarà direttamente applicabile negli Stati parte della Convenzione. L'EDPS comprende anche che c'è bisogno di una certa flessibilità per accommodare le specificità dei sistemi giuridici nazionali. Tuttavia, l'EDPS è preoccupato che il livello molto generale delle disposizioni legali del progetto di Convenzione Quadro, unitamente alla loro natura in gran parte dichiarativa, porterebbe inevitabilmente a un'applicazione divergente della Convenzione, minando così la certezza del diritto e, più in generale, il suo valore aggiunto. A tal proposito, l'EDPS ricorda che uno degli obiettivi chiave del futuro strumento giuridico vincolante dovrebbe essere quello di garantire un quadro giuridico comune e un terreno di gioco equo per gli attori dell'IA in Europa e oltre.

L'EDPS ricorda inoltre che il Comitato dei Ministri del Consiglio d'Europa ha istruito esplicitamente il CAI, nei termini di riferimento, a sviluppare un "strumento giuridico vincolante di carattere trasversale". Qualsiasi limitazione del campo di applicazione della futura Convenzione Quadro solo alle attività svolte dalle autorità pubbliche o dalle entità che agiscono per conto loro contraddirebbe l'obiettivo politico generale della Convenzione Quadro, come definito dal Comitato dei Ministri.

Infine, sebbene i sistemi di IA possano offrire opportunità senza precedenti, certi utilizzi e attività di IA possono anche comportare rischi molto gravi che potrebbero compromettere gravemente la dignità umana, l'autonomia individuale, i diritti umani, la democrazia e lo stato di diritto. L'EDPS è profondamente preoccupato dall'assenza di "linee rosse" nel progetto di Convenzione Quadro, che vietino fin dall'inizio le applicazioni di IA che presentano livelli di rischio inaccettabili. Inoltre, le ultime bozze della Convenzione Quadro e del suo Rapporto Esplicativo non offrono criteri chiari e inequivocabili, né esempi specifici di utilizzi proibiti dell'IA che potrebbero guidare gli Stati membri nell'attuazione della futura Convenzione. L'EDPS è convinto che l'inclusione nella Convenzione delle "linee rosse", che hanno ricevuto un ampio sostegno nell'Ad Hoc Committee on Artificial Intelligence (CAHAI), trasmetterebbe un forte messaggio politico e garantirebbe anche la necessaria certezza giuridica e prevedibilità per gli sviluppatori, i fornitori e gli utenti delle applicazioni di IA.

In conclusione - La dichiarazione rilasciata dall'EDPS rivela una serie di criticità nel progetto di Convenzione Quadro sull'Intelligenza Artificiale, Diritti Umani, Democrazia e Stato di Diritto. Il mancato soddisfacimento di requisiti fondamentali come la chiarezza delle disposizioni e la copertura delle attività private, oltre alla mancanza di direttive precise su utilizzi proibiti di IA, potrebbe compromettere la sua efficacia nel proteggere i diritti umani e la dignità individuale. È essenziale che gli attori coinvolti riconsiderino il testo proposto e si adoperino per un documento che rispecchi appieno i valori e gli obiettivi dell'Unione Europea in materia di IA e diritti fondamentali.

Glossario EDPS : Supervisore Europeo per la Protezione dei Dati, autorità indipendente dell'Unione Europea responsabile della protezione dei dati personali. IA : Intelligenza Artificiale, campo dell'informatica che si occupa dello sviluppo di sistemi in grado di eseguire compiti che normalmente richiedono l'intelligenza umana. CAI : Comitato sull'Intelligenza Artificiale, organismo incaricato di elaborare linee guida e regolamenti sull'utilizzo responsabile dell'Intelligenza Artificiale nell'ambito del Consiglio d'Europa. Unione Europea : Organizzazione politico-economica formata da 27 Stati membri, impegnata nella promozione della pace, della democrazia e del benessere dei cittadini europei. Consiglio d'Europa : Organizzazione internazionale che promuove la cooperazione tra Stati europei nei settori dei diritti umani, della democrazia e dello stato di diritto. Certezza del Diritto : Principio giuridico che garantisce che le norme siano chiare, coerenti e prevedibili, consentendo ai cittadini di conoscere i loro diritti e obblighi. Rischi dell'IA : Possibili conseguenze negative derivanti dall'uso non etico o non sicuro dell'Intelligenza Artificiale, come discriminazione, perdita di privacy e riduzione dell'autonomia individuale. #EDPS #IntelligenzaArtificiale #DirittiUmani #ConvenzioneQuadro #UnioneEuropea #Democrazia #StatoDiDiritto #CAI #ConsiglioEuropa #IAResponsabile