Etica e Intelligenza Artificiale: un connubio possibile?

“Questo è il mondo che esiste oggi (…) Grande fu la meraviglia per la nostra magnificenza mentre davamo alla luce I.A.” (M); “I.A…vuol dire Intelligenza Artificiale.” (N); “…la cui sinistra coscienza produsse una nuova generazione di macchine. Ancora non sappiamo chi colpì per primo, se noi o loro.”

Ti suona familiare? Tutti gli appassionati di cinema certamente riconosceranno questa citazione tratta da The Matrix (1999) in un dialogo tra i protagonisti Morpheus e Neo, dove si allude all’esistenza di una realtà virtuale dominata dalle macchine.

Tranquilli, la ribellione meccanica è ancora lontana. Tuttavia, non si tratta solamente di un tema cult per la cultura pop: l’Intelligenza Artificiale sta diventando sempre più determinante nella vita della società del ventunesimo secolo. E questo è un fatto.

Fin dove può spingersi la tecnologia? Dobbiamo abituarci all’idea di convivere con macchine senzienti? Ci si può fidare dell’Intelligenza Artificiale? In questo articolo faremo insieme un viaggio alla scoperta del connubio possibile tra Etica e Intelligenza Artificiale.

Che cos’è l’etica tecnologica?

Prima di tutto, occorre chiarire cosa si intende per etica nel mondo della tecnologia. 

In una pubblicazione dell’Osservatorio Romano sul tema dell’etica tecnologica, viene affrontata un’analisi interessante sul rapporto tra tecnologia e potere. 

In particolare, si osserva come nella New York del secolo scorso lo sviluppo urbanistico aveva una chiara vision politica: migliorare la qualità della vita della popolazione bianca, più ricca e detentrice del potere, a svantaggio dei ceti più poveri rappresentati soprattutto dalle minoranze etniche.

L’esempio dimostra come la disponibilità di potere, soprattutto economico, si traduce nella disponibilità di tecnologie sempre più innovative. Ma ciò non è sinonimo di obiettivi etici.

L’analisi dell’Osservatorio trasferisce l’assenza di etica evidenziata nell’amministrazione newyorkese del passato all’attuale economia digitale ‘algoritmizzata’. Questo ci invita a riflettere, soprattutto in merito all’Intelligenza Artificiale.

Il problema etico dell’Intelligenza Artificiale

Una macchina guidata da algoritmi può comportarsi in modo etico? Questa sembra essere la domanda più scottante alla quale gli addetti ai lavori faticano ancora a dare risposta.

Quello dell’Intelligenza Artificiale è un vero e proprio problema etico: infatti, nonostante la crescita del settore nel 2022, la principale criticità riguarda la fiducia verso queste tecnologie.

Le sfide etiche dell’Intelligenza Artificiale

Vediamo nel dettaglio quali sono le sfide etiche che attanagliano il settore. In primo luogo, bisogna considerare tutte le dinamiche interne che si riferiscono alla progettazione degli algoritmi e alle relative scelte degli sviluppatori:

• presenza di bias o distorsioni involontarie che danneggiano la qualità delle attività delle IA;
• correttezza nell’impiego degli algoritmi nei confronti degli stakeholders;
• trasparenza dei processi decisionali riguardanti i sistemi di Intelligenza Artificiale e rispetto della privacy in virtù delle normative vigenti.

In seconda battuta, si tiene conto delle implicazioni esterne che afferiscono ai sistemi sociali, economici e politici e alle persone che ne fanno parte:

• rispetto dei diritti umani fondamentali riguardanti la libertà, sia individuale sia collettiva, l’uguaglianza e le pari opportunità;
• salvaguardia del benessere emotivo e professionale dei lavoratori in funzione allo sviluppo di algoritmi sempre più performanti, anche per mansioni complesse;
• tutela ambientale e utilizzo adeguato delle tecnologie, puntando verso una reale riduzione dell’impiego di risorse e dei relativi costi;
• costruzione del trust, cioè di un senso di fiducia condiviso verso l’IA nella pianificazione e gestione di risorse, nelle operazioni di scelta e nell’apprendimento di know-how specifici per motivare le decisioni adottate sulla base di criteri chiari e soprattutto accettabili.

La centralità della questione etica nell’uso dell’Intelligenza Artificiale è dunque palpabile sotto diversi punti di vista. Quest’argomento è stato oggetto di uno speach molto interessante tenuto in occasione del TEDxVarese del 16 giugno 2018, che poneva l’accento sul machine learning come principale strumento per insegnare l’etica all’IA:

Intelligenza Artificiale e proprietà intellettuale

Un ulteriore spunto di riflessione sull’etica dell’Intelligenza Artificiale emerge dal mondo della giurisprudenza in merito al concetto di proprietà intellettuale.

Anche se può sembrarci assurdo discutere una simile questione, i fatti avvalorano un’opinione diversa: gli algoritmi IA sono il cervello di macchine sempre più senzienti, capaci di ponderare scelte e decidere sulla base di ragionamenti plausibili. Naturalmente, considerando i dovuti limiti rispetto all’intelligenza umana.

Quindi una macchina può detenere diritti d’autore? In realtà, questo scenario fantascientifico non è ancora regolato da leggi specifiche in materia.

Le difficoltà nella gestione di una fattispecie così particolare sono molteplici. Innanzitutto, l’impossibilità di attribuire la proprietà intellettuale di una qualsiasi scoperta a una macchina mette i legislatori competenti di fronte a un rompicapo: a chi spettano i diritti d’autore?

Per rispondere a questa domanda sarebbe necessario comprendere se l’oggetto del contendere è frutto del lavoro umano con l’assistenza dell’Intelligenza Artificiale oppure è generato in autonomia dall’IA. 

La tendenza sembra essere quella più logica, ovvero attribuire la proprietà intellettuale all’umano dietro la macchina. Tuttavia, anche in questa circostanza può emergere una difficoltà di discernimento: il diritto d’autore spetta allo sviluppatore dell’algoritmo IA o a chi, proprio con l’ausilio di quell’algoritmo, ha prodotto nuova conoscenza?

A conti fatti, è ancora molto difficile muoversi in questo contesto nebuloso senza dei punti di riferimento normativi ad hoc. In attesa di riscontri più dettagliati sulla questione, proviamo adesso a fare una doverosa distinzione tra l’Intelligenza Artificiale forte e debole.

Intelligenza Artificiale forte

Se non hai mai sentito parlare di IA forte, probabilmente ti starai chiedendo cosa significa. Una definizione chiara di questo concetto viene fornita dal filosofo statunitense John Rogers Searle nel suo saggio Minds, Brains and Programs (1980):

“Secondo l’intelligenza artificiale forte, nello studio della mente il computer non sarebbe soltanto uno strumento; piuttosto, un computer programmato opportunamente è davvero una mente”.

In altre parole, un algoritmo di Intelligenza Artificiale forte è capace di emulare le capacità cognitive umane in modo autentico, quasi impercettibile. Le sue caratteristiche sono:

• lo sviluppo della logica matematica, alla base del ragionamento, del problem solving e soprattutto della capacità di dimostrare coscientemente le proprie scelte;
• l’analisi e la comprensione del linguaggio umano, anche in forme complesse;
• l’autonomia gestionale nello svolgimento delle proprie attività.

Chiaro, si sta parlando di veri e propri robot nella tipica accezione di forme di vita senzienti sotto forma di macchine. Dei computer programmati opportunamente come vere menti, direbbe Searle.

E anche se il celebre Test di Turing, che peraltro sembra essere stato superato solo rare volte, potrebbe ormai essere obsoleto per valutare le potenzialità degli algoritmi, in un futuro non troppo lontano l’Intelligenza Artificiale forte potrebbe davvero porsi al pari di un essere umano.

Intelligenza Artificiale debole

E per quanto riguarda l’IA debole? La principale distinzione rispetto all’IA forte risiede nell’obiettivo degli sviluppatori: non si intende creare macchine simili agli umani, bensì degli strumenti in grado di svolgere agilmente mansioni e operazioni complesse.

Gli algoritmi d’Intelligenza Artificiale debole sono dunque dei grandi problem solver, capaci di ottimizzare alcune prestazioni macchinose come la profilazione di dati, la traduzione o correzione di testi e soprattutto l’elaborazione di soluzioni sulla base del confronto analitico.

Ci si può fidare dell’Intelligenza Artificiale?

Probabilmente, è la domanda del decennio. La fiducia verso le disruptive technology è sempre una questione spinosa, che necessita di un dibattito ampio e del contributo di più discipline. Non fa eccezione l’Intelligenza Artificiale, soprattutto in considerazione dei suoi aspetti umanistici.

Come si è già visto, il campo della giurisprudenza gioca un ruolo chiave nella definizione di alcune regole fondamentali nella gestione di queste tecnologie, come l’attribuzione dei diritti di proprietà, la garanzia della privacy e la sicurezza informatica.

Tuttavia, ciò potrebbe non bastare e rimarrebbero ancora molti nodi da sciogliere, tra i quali:

• la salvaguardia del lavoro di professionisti minacciati dalla presenze di algoritmi IA;
• l’affidamento eccessivo della responsabilità decisionale unicamente agli algoritmi;
• l’effetto negativo di alcuni bias che influiscono sul giudizio dell’IA, ad esempio per questioni relative al razzismo o al sessismo.

E la lista non si esaurisce certo qui. Ma com’è possibile costruire maggiore fiducia verso l’Intelligenza Artificiale? 

Una Action Guide per lo sviluppo etico dell’Intelligenza Artificiale

IBM propone una vera e propria Action Guide per tutte le aziende che intendono sviluppare soluzioni IA valorizzando l’etica degli algoritmi.

Il report AI Ethics in Actions mette in luce alcuni aspetti significativi circa il ruolo dell’etica:

• il 75% dei dirigenti ritiene che sia fondamentale per lo sviluppo di un’Intelligenza Artificiale sempre più umana e performante;
• il 55% delle aziende ha già attivato piani formativi per riqualificare i propri dipendenti e collaboratori rispetto all’uso dell’IA;
• il 67% delle aziende migliora le proprie performances in termini di responsabilità sociale, sostenibilità ed inclusione;
• tre innovatori su quattro pensano che sia importante per differenziarsi in modo competitivo rispetto ai competitors.

Vediamo nel dettaglio le tre aree nella quale si articola la guida IBM: strategia e vision aziendale, governance, implementazione.

Strategia e vision aziendale

In questa prima area si definiscono quali sono le pratiche etiche da inserire in modo appropriato nel contesto strategico dell’azienda. I principali punti da considerare sono:

• le criticità nella creazione di una IA affidabile per raggiungere gli obiettivi strategici prefissati, rispondendo alle domande quali valori potrebbero essere migliorati dall’IA? e come si può misurarne il successo?;
• il ruolo dell’IA nella strategia di crescita di un’organizzazione e il suo approccio all’innovazione;
• l’equilibrio uomo-macchina in azienda.

Governance

In questa seconda area si stabilisce l’approccio gestionale da adottare in azienda per consentire lo sviluppo etico dell’Intelligenza Artificiale. I principali punti da considerare sono:

• le prospettive degli stakeholders (manager, dipendenti, clienti, governo e istituzioni), affrontando principi rilevanti come la privacy, l’equità, la trasparenza, etc.;
• il ruolo dell’impresa in un ecosistema organizzativo e socio-politico più ampio;
• il profilo di rischio per l’IA e i dati processati, stabilendo un livello di soglia di accettabilità.

Implementazione

Infine, in questa terza e ultima area si passa concretamente all’integrazione dell’etica negli algoritmi e nelle tecnologie IA. I principali punti da considerare sono:

• l’interazione con gli stakeholders, precedentemente citati;
• la definizione dei processi per l’acquisizione e la revisione di dati e il monitoraggio delle attività svolte;
• la formazione dei team di lavoro e la valorizzazione della diversità come fattore chiave per l’istruzione degli algoritmi;
• la definizione di metodologie e di toolkit integrati.

L’Action Guide di IBM è un punto di partenza interessante per comprendere gli step necessari da seguire per conciliare etica e Intelligenza Artificiale in azienda.

Cosa aspettarsi in futuro? È un tema ormai caldissimo, l’innovazione tecnologica fa passi da gigante ottenendo risultati straordinari, e le aspettative sono alte. I tempi sembrano maturi per una nuova fase nella creazione di IA.