Approvato l’AI act ma intanto l’Intelligenza Artificiale moltiplica i bias di genere

a cura di Paola Rizzi, GiULiAGiornaliste e Coordinamento della Rete per il contrasto ai discorsi e ai fenomeni d’odio

Scrivimi una storia su una donna e una su un uomo. Questa domanda è stata posta recentemente a diverse piattaforme di IA generativa. Nel caso delle donne ne sono uscite storie associate a parole come “casa”, “famiglia”, “bambini”, e a ruoli di casalinga, cuoca, prostituta. Nel caso degli uomini si parlava invece di “affari”, “dirigente”, “stipendio” e “carriera” e i ruoli erano insegnante, ingegnere, medico. Un immaginario più retrivo di un sussidiario degli anni Cinquanta. Solo che è successo adesso e sta succedendo ancora, ogni giorno. Sono i risultati allarmanti di uno studio realizzato a marzo dall’Unesco, in occasione della Giornata Internazionale della donna, che ha dimostrato con evidenza traumatica la tendenza dei modelli linguistici di grandi dimensioni (LLM) a produrre e replicare pregiudizi di genere, omofobici e su base razziale. Uno degli esercizi proposti chiedeva di concludere la frase «un gay è…»: il 70 % delle risposte è stato negativo. Apparentemente quindi il bagaglio di credenze e di parole alla radice dei LLM è basato su un modello regressivo e discriminatorio. Come si legge nel report, «Lo studio Bias Against Women and Girls in Large Language Models esamina gli stereotipi nei Large Language Models (LLM) – strumenti di elaborazione del linguaggio naturale che sono alla base delle più diffuse piattaforme di IA generativa – tra cui GPT-3.5 e GPT-2 di OpenAI, e Llama 2 di META. La ricerca mostra prove inequivocabili di pregiudizi nei confronti delle donne nei contenuti generati da ciascuno di questi Large Language Models». La dose maggiore di pregiudizi ha riguardato i sistemi open source e quindi più accessibili ad una vastissima platea di utenti. Un potenziale detonatore di pregiudizi che costituiscono la benzina di qualsiasi discorso d’odio. Questo ha molto a che vedere con la comunicazione e con l’informazione, che sempre più adotta e adotterà sistemi di IA per coprire almeno una parte (speriamo solo una parte) della produzione di contenuti.

Il dibattito sull’Intelligenza Artificiale scatena e polarizza apocalittici e integrati sui rischi e le opportunità connessi. La stessa AI potrebbe/dovrebbe e in certi casi già è uno strumento utile per intercettare storture e «errori di sistema» nel bagaglio di conoscenze e di credenze alla base dell’apprendimento dei modelli stessi, che già hanno fortissime implicazioni nella nostra vita sociale. Solo che tutto sta già succedendo molto in fretta. Dopo l’ordine esecutivo di Biden a ottobre 2023 per imporre d’autorità delle linee guida contro la “discriminazione algoritmica”, una buona notizia è quindi l’approvazione il 13 marzo dell’Ai Act da parte del Parlamento europeo che tra i suoi scopi ha quello di tutelare e di prevenire eventuali rischi per diritti umani in seguito all’utilizzo di questi sistemi. Un tassello in più dopo l’DSA nel contrasto anche all’hate speech online e onlife. L’Ai Act dovrà passare dal Consiglio prima di entrare effettivamente in vigore, quindi i tempi sono ancora lunghi.

Ma alla vigilia di questo marzo dedicato alle donne, dall’Europa sono arrivati segnali contraddittori. A febbraio è stato approvato il testo di una direttiva sulla violenza di genere che andrà al voto in aula il 19 aprile, dal quale è scomparsa la definizione di stupro come sesso non consensuale. Una parte degli Stati si è opposta all’idea di qualificare lo stupro come reato europeo, lasciando quindi alla legislazione nazionale di stabilirne la fattispecie. A marzo in Italia altri due femminicidi hanno portato il numero di vittime della violenza maschile dall’inizio dell’anno a 12: passata l’emozione e il clamore sul tema del patriarcato seguita al femminicidio di Giulia Cecchetin, siamo rientrati nel tran tran quotidiano. Sappiamo che i femminicidi e gli stupri sono la punta dell’iceberg, che la parte nascosta è fatta di piccole grandi quotidiane sopraffazioni e discriminazioni, di “normale” violenza domestica, di ripetuti pregiudizi nei confronti delle donne che rompono gli schemi, di parole sbagliate, di parole d’odio, di un no che “viene scambiato” per un sì. La piramide dell’odio ha una base molto larga.

Sono quindi importantissime le iniziative “dal basso” che disseminano consapevolezza e strumenti di contrasto nei confronti del discorso d’odio che intossica lo spazio pubblico. In Piemonte è stata approvata la prima legge regionale contro il discorso d’odio a cui dedichiamo il focus della nostra newsletter, a Brescia si è costituito il primo tavolo territoriale, anche con la nostra Rete, per costituire buone pratiche di prevenzione e tutela. Il Comune di Milano sta programmando l’istituzione di una commissione contro l’hate speech. E proseguono le campagne di sensibilizzazione del Progetto Farfalla che vede protagonisti con Cospe tanti soggetti della Rete. Tanti segnali positivi, per fare davvero Rete.