Il rapporto intitolato “Governare l’Intelligenza Artificiale per l’Umanità“, presentato dall’organo consultivo sull’IA del Segretario Generale delle Nazioni Unite, mette in luce l’urgenza di affrontare le sfide etiche legate a questa tecnologia.
Sebbene l’IA offra indubbi benefici, come scoperte scientifiche e ottimizzazione delle risorse, il documento evidenzia altresì una serie di rischi come i pregiudizi nei modelli ed il pericolo di una sorveglianza diffusa gestita da questi sistemi. C’è anche una questione legata al controllo dei dati e delle competenze, con pochi stati e aziende che ne traggono principalmente vantaggio.
La proposta chiave del rapporto mira a potenziare la governance internazionale dell’IA attraverso sette funzioni critiche, tra cui analisi dei rischi e collaborazione internazionale su dati e capacità di calcolo. Questo sforzo è finalizzato a raggiungere gli obiettivi di sviluppo sostenibile e garantire una distribuzione equa dei benefici.
Il rapporto sottolinea il contributo positivo dell’IA nell’affrontare il cambiamento climatico attraverso l’analisi di dati eterogenei, mentre evidenzia barriere strutturali e rischi, come distorsioni algoritmiche e impatti ambientali. Per superare queste sfide, il documento propone di migliorare la trasparenza dei modelli, diversificare i set di dati e garantire l’accesso all’IA per le comunità vulnerabili.
Il documento inoltre sottolinea un deficit nella governance dell’IA, con benefici concentrati tra pochi attori, nonostante le iniziative di autoregolamentazione e le leggi nazionali. Le Nazioni Unite sono proposte come il luogo adatto per un’azione collettiva, basata sul diritto internazionale.
Sebbene l’IA offra significative opportunità, come l’accesso alla conoscenza, l’efficienza globale e l’innovazione, emerge la necessità di affrontare sfide come la distribuzione equa dei benefici e la gestione degli impatti distruttivi, con particolare riferimento all’occupazione.
L’accesso limitato a dati, calcolo e talento umano ostacola l’uso completo dell’IA, soprattutto nel Sud del mondo. L’apertura dei modelli è stata suggerita come possibile soluzione, ma l’impatto e la sicurezza di questo approccio sono ancora oggetto di analisi e dibattito. L’opportunità dell’IA, pur promettente, si scontra con sfide, e la cooperazione internazionale è essenziale per superarle.
Coinvolgere gli scienziati per affrontare le sfide sociali è considerato un fattore chiave, insieme all’open source e alla condivisione di dati per diffondere i benefici dell’IA a livello mondiale. La governance è identificata come un fattore abilitante per l’utilizzo sostenibile dell’IA. Definire incentivi globali è fondamentale per promuovere obiettivi inclusivi e affrontare compromessi. Vanno affrontate quindi sfide significative, come la discriminazione e la manipolazione, l’opacità dei sistemi avanzati di IA e la governance frammentata.
Riconoscere i rischi è cruciale, ma la mancanza di consenso su valutazione e soluzioni rappresenta un ostacolo. La cooperazione e il coordinamento globali sono necessari, basati su meccanismi di monitoraggio del rischio condivisi.
Le sfide tecniche, politiche e sociali devono essere affrontate per garantire che l’IA sia utilizzata in modo sicuro ed equo, tracciando parallelismi con le lezioni apprese dalle tecnologie precedenti, come i social media.
Il panorama attuale della governance dell’IA è caratterizzato da numerosi documenti e principi provenienti da settori privati, società civile e organizzazioni nazionali, regionali e multilaterali. Gli sforzi si concentrano su dati, modelli, applicazioni e valutazioni, con diverse iniziative di governance settoriale. Mentre esiste un linguaggio comune sull’importanza di equità, responsabilità e trasparenza, manca un allineamento globale sull’attuazione e sugli incentivi per la conformità.
Le raccomandazioni preliminari si concentrano su quattro principi guida:
- l’IA dovrebbe essere governata in modo inclusivo, a beneficio di tutti, riducendo le barriere e affrontando l’esclusione storica.
- la governance deve essere nell’interesse pubblico, superando l’auto-regolamentazione e applicando norme vincolanti.
- la governance dell’IA deve essere costruita insieme a quella dei dati, promuovendo dati comuni.
- la governance deve essere universale, interconnessa e basata sulla collaborazione adattiva. Infine, deve essere ancorata alla Carta delle Nazioni Unite e agli impegni internazionali.
L’obiettivo è garantire un’ampia partecipazione, proteggere gli interessi pubblici, coordinare globalmente e rispettare i diritti umani. Si propone una struttura di governance che coinvolga attivamente diverse parti interessate, inclusi settore privato, accademico e società civile, basata sui principi di inclusività, interesse pubblico, collaborazione e rispetto dei valori delle Nazioni Unite.
Nonostante le sfide, il rapporto chiude con ottimismo, sottolineando che attraverso consultazioni continue con le parti interessate a livello globale, l’IA può diventare un motore per migliorare le condizioni di vita in un mondo sempre più interconnesso.