L’intelligenza artificiale è inclusiva? Un esperimento

Premessa

Tempo fa avevamo pubblicato un articolo che era una sorta di gioco provocatorio sull’inclusività. Si trattava di una storia scritta volutamente senza alcuna declinazione di genere, nè di nazionalità, insomma avevamo messo alla prova la nostra lingua italiana  (storicamente non molto inclusiva) per sfidare i nostri lettori e insinuare in loro il dubbio di essere o meno inclusivi.

Esiste una gerarchia di inclusività, così come esiste una gerarchia di valore attribuito alle persone sulla base dei pregiudizi. Per cui tra uomo e donna è la seconda a necessitare di una “assicurazione di inclusività” (vedi le quote rosa), a parità di genere si guarda alla provenienza geografica (nord-sud), al colore della pelle (in Occidente: bianca-non bianca), a parità di tratti somatici si indagano le abilità psicofisiche della persona (disabile-normodotata), gli orientamenti sessuali, e da qui le credenze religiose, politiche, in una scala di pregiudizio che, vista al contrario, restituisce lo stato del privilegio.

Per il nostro esperimento ci siamo limitate a cancellare quella che a nostro avviso è la prima distinzione a generare conflitti, la distinzione di genere (scusate il gioco di parole!). Non il più importante ma sicuramente il più complicato campo di inclusione in cui si muove il linguaggio, in una lingua come l’italiano, ricca di declinazioni e povera di aggettivi unisex.

Oggi si fa un gran parlare di intelligenza artificiale, sappiamo benissimo che allo stato attuale delle cose l’intelligenza artificiale crea limitandosi a copiare, prende ciò che trova già disponibile online, lo aggiusta, lo riarrangia e restituisce un risultato più o meno innovativo.

L’esperimento

Abbiamo deciso allora di giocare un po’ con l’IA. Abbiamo preso quel raccontino senza declinazioni (leggilo qui) e l’abbiamo usato come script per la creazione di un video da testo, senza fare alcuna modifica. Lo scopo era vedere come si sarebbe comportata l’IA, misurare quanto l’intelligenza artificiale fosse in grado di pensare in modo inclusivo. Per realizzare il video abbiamo usato Fliki, ma solo perchè è stato uno dei primi risultati restituiti dalla ricerca online. Volevamo simulare la necessità immediata di creazione di contenuti, esigenza ben conosciuta da chi opera online. Del resto, l’IA dovrebbe facilitarci il lavoro, giusto? Vediamo cosa abbiamo ottenuto.

I risultati

Il risultato è questo video qui.

L’intelligenza artificiale ha dato per scontato che il protagonista della storia fosse un uomo, nonostante non fosse specificato. Si parla di manager e di promozioni: per l’IA l’immagine scelta è un uomo piacente in giacca e cravatta applaudito da una pletora di donne sorridenti. Nella storia il manager dà a sua volta una promozione e si parla anche di un bambino appena nato, per l’IA deve essere per forza una donna. Infine, quando si parla di dare il lavoro a una risorsa esterna, l’intelligenza artificiale ci rinuncia e sceglie un’immagine senza persone, non capisce cosa deve fare, poi però si parla ancora di valore nel mondo del lavoro ed ecco che ritorna il nostro uomo in camicia.

Una riflessione

Ci aspettavamo questo risultato? In verità, abbiamo sperato chel’IA richiedesse ulteriori dettagli, prima di fornire il video, ma la velocità ha vinto sull’accuratezza.

È questo che vogliamo faccia per noi l’intelligenza artificiale? Riproporre gli stereotipi che, finalmente, stiamo imparando a scardinare, dopo decenni di lotte e impegno civile?

C’è una domanda da porsi: come stiamo istruendo l’IA? Come la stiamo allenando a ragionare? Certo, questa parola potrebbe suonare paradossale, l’IA non “ragiona” nel senso letterale del termine, eppure ci sembra piuttosto azzeccata, se si mette in relazione a quell’altra parte tanto cara alle dicotomia, cioè il “cuore”, l’emozione. Tra le due, l’IA sta sicuramente dalla parte della ragione, ed è carente di compassione.

L’intelligenza artificiale non è in grado di mettersi nei panni dei personaggi di cui racconta la storia, come facciamo noi umani quando scriviamo o leggiamo un racconto. L’intelligenza artificiale semplicemente la riporta, e se le si chiede di mostrarcela in immagini, replicherà gli stereotipi e le convenzioni sociali di cui abbiamo popolato la rete nel corso del tempo.

C’è da chiedersi se il risveglio della Gen Z,la cultura woke e il fermento linguistico attuale saranno utili per educare l’IA a creare contenuti inclusivi. Come sarebbe recepito lo stesso script se aggiungessimo lo schwa o gli asterischi? Può l’utilizzo delle desinenze neutre, la femminilizzazione degli aggettivi e delle professioni, la riduzione, anzi, la cancellazione e l’abbandono del maschile sovraesteso dell’italiano, aiutare l’intelligenza artificiale a produrre contenuti che siano rispettosi della diversità?

È possibile che, in un futuro non troppo lontano, le generazioni che verranno impareranno, studieranno e si formeranno su contenuti creati dall’IA, e sarà quindi l’IA a educarci a pensare in modo inclusivo? Se vogliamo che sia così, dato che l’intelligenza artificiale lavora sugli script, quindi sugli input forniti da noi, è ovvio che il cambiamento deve avvenire per prima cosa in noi, non solo nel linguaggio ma nell’approccio che abbiamo verso gli altri esseri umani ( e verso noi stessi.)

L’intelligenza artificiale rappresenta una riproduzione della nostra persona, che replicherà all’infinito i nostri difetti, i nostri pregi, le nostre illusioni. Qualunque azione compiamo verso la costruzione di un mondo più inclusivo dovrebbe partire dal desiderio di equità e non dalla necessità di essere alla moda, di cavalcare gli argomenti caldi o dal timore di offendere qualcuno. Non dovrebbe esserci un atteggiamento difensivo nell’utilizzo di un linguaggio inclusivo ma accogliente, un’ammissione di ignoranza (quando è il caso) e un’apertura verso l’altro, l’altra, gli altri, le altre.