Perché le assistenti digitali sono tutte femmine? Cieloterradesign
menu
Federica Mentasti

6 Aprile 2020

Perché le assistenti digitali sono tutte femmine?

Share:

Gli stereotipi di genere perpetuati dalle multinazionali hi-tech. Ma il design ha iniziato a cambiare le cose

“Ehi, Siri, sei maschio o femmina?”.
“Non ho un genere” risponde l’assistente vocale.
Come la maggior parte degli assistenti digitali, Siri non ha un genere specifico, secondo i suoi creatori è semplicemente un insieme di dati informatici.

Eppure la voce di Siri è femminile e anche in lingue come l’inglese – dove sarebbe possibile ricorrere al pronome personale neutro – è ormai comune riferirsi a ‘lei’. Il suo stesso nome, scelto dal co-direttore del progetto Dag Kittlaus, è femminile, e in norvegese significa “bella donna che porta alla vittoria”. Analogamente, anche altri popolari assistenti vocali – come Alexa di Amazon o Cortana di Microsoft – hanno nomi e voci di donna.

Molti articoli negli ultimi anni hanno denunciato come sessiste le implicazioni di genere implicite nello sviluppo di assistenti digitali e altre forme di intelligenza artificiale. Preoccupazioni nate dall’osservazione che le voci femminili sono uno standard per assistenti vocali per la casa come Siri e Alexa. Mentre in altre funzioni, come per esempio le applicazioni delle banche o delle assicurazioni o i navigatori satellitari, si preferiscono voci maschili dal tono autoritario. Esemplare in questi termini un caso della fine degli anni Novanta, quando un sistema di navigazione per le auto BMW venne ritirato dal mercato a causa delle lamentele degli utenti che non volevano ‘sentirsi dare ordini da una donna’.

Un rapporto Unesco del 2019 ha dedicato una larghissima sezione al tema degli assistenti vocali e di come i loro connotati prevalentemente femminili rischino di perpetuare ed esacerbare stereotipi di genere ormai annosi. Il titolo del rapporto – I’d blush if I could, Arrossirei se potessi – è significativo: si riferisce infatti alla risposta predefinita di Siri quando diventa oggetto di attacchi verbali di carattere sessista come “Ehi Siri, sei una tr*ia”. Nel 2019, The Guardian ha pubblicato un articolo che indagava sulle molestie verbali nei confronti di Siri e ne elencava le risposte dal carattere lieve e remissivo, se non addirittura civettuolo. La preoccupazione è che tali dinamiche possano rinforzare modelli comportamentali sessisti e trasmetterli implicitamente alle generazioni future.

Ci sono diverse concause all’origine dello stereotipo femminile per gli assistenti vocali per la casa. Di certo esistono elementi culturali, tra cui l’influenza dei film di fantascienza, che per molti decenni hanno anticipato nell’immaginario collettivo i successivi sviluppi tecnologici. Negli ultimi anni, il cinema ha offerto sempre più rappresentazioni di Intelligenza Artificiale con voci femminili come per esempio Samantha in Her (2013), doppiata in originale da Scarlett Johansson. Il motivo? Fino agli anni ’80, nelle trame dei film l’Intelligenza Artificiale era spesso rappresentata come un pericolo per l’uomo: basti pensare a HAL 9000 in 2001: Odissea nello Spazio (1968) oppure a  Terminator (1984). L’inquietudine associata alle voci robotiche maschili ha spinto in seguito i registi a preferire voci femminili per rappresentare sistemi di Intelligenza Artificiale che aiutano e servono i protagonisti nel corso della trama.

Per quanto riguarda invece lo sviluppo di Alexa, il capo-progetto di Amazon Daniel Rausch ha addotto principalmente ragioni economiche dietro la scelta di una voce di donna. Riferendosi a una ricerca promossa della University of Indiana nel 2008, ha spiegato come le voci femminili siano generalmente più cordiali e quindi gradite sia agli uomini che alle donne. La voce di Alexa ha un impatto diretto sugli affari di Amazon in quanto intermediaria dell’utente al momento dell’acquisto: per questo la compagnia ha studiato appositamente un timbro che suonasse premuroso e comprensivo, quasi come se fosse un’amica o una sorella maggiore con cui si va a fare shopping. La logica di rendere l’esperienza degli utenti il più gradevole possibile, evitando tutti i possibili attriti, ha dato origine a una personalità docile e compiacente che sfrutta gli stereotipi di genere.

Il rapporto Unesco invece attribuisce la principale causa della stereotipizzazione femminile dell’Intelligenza Artificiale a una disparità di genere ancora molto accentuata nel mondo della tecnologia. Le statistiche parlano di una presenza femminile del 15% in ruoli di alto livello nelle grandi aziende tecnologiche e solo del 12% nel campo della ricerca sull’Intelligenza Artificiale. Secondo le conclusioni del rapporto, la scarsa rappresentazione delle donne nei team di progettazione ha involontariamente favorito il perpetrarsi di stereotipi maschilisti nei prodotti finali: dall’implicita associazione della donna con ruoli domestici e di servizio, alle risposte ambigue e sottomesse di Siri agli attacchi verbali.

Ma cosa si può fare a livello di design per promuovere la parità di genere anche nell’ambito dell’Intelligenza Artificiale?

Le soluzioni partono da un aggiornamento dei copioni: la risposta di Siri “Arrossirei se potessi” è stata aggiornata nel 2019 con “Non so come rispondere”. E anche le altre compagnie sembrano aver reagito alle critiche con revisioni analoghe: Alexa per esempio risponde dicendo “Non sono sicura di quale reazione ti aspettassi”.

Si parla della possibilità per l’utente di scegliere se impostare una voce maschile o femminile per il proprio assistente vocale: un’operazione apparentemente semplice ma che in realtà ha richiesto due anni di aggiornamenti per Siri e ancora non è disponibile per Alexa o Cortana. Perché il linguaggio femminile e quello maschile presentano cruciali differenze nelle modalità di espressione: per esempio le donne tendono a quantificare usando termini più generici (un po’, qualche…) mentre gli uomini tendono a preferire termini specifici (uno, cinque, dieci…). Il cambiamento comporta quindi delle modifiche sostanziali a livello di copione affinché la conversazione non suoni ‘strana’.

Un’altra possibilità è rappresentata dallo sviluppo di voci ‘neutre’. Proprio da queste premesse è nato Q, un assistente digitale che si presenta orgogliosamente come “il primo assistente vocale al mondo senza genere” e a cui bisogna pensare “come Siri o Alexa ma senza che sia maschio o femmina”. La sua voce infatti parla in un intervallo tra 145 Hz and 175 Hz, ovvero a metà tra ciò che riconosciamo come maschile e femminile. La maggior parte degli utenti non è in grado di attribuire un genere a Q. Il progetto è nato in forma sperimentale come strumento per sfidare gli stereotipi di genere creatisi nel mondo della tecnologia e per promuovere una percezione di genere non-binaria sia nella società che negli strumenti che accompagnano la nostra vita quotidiana. Q vorrebbe diventare una terza opzione per assistenti vocali come Siri o Alexa con l’intento di offrire una forma di rappresentazione non basata sul genere.

Una possibilità è rappresentata dallo sviluppo di voci ‘neutre’. Proprio da queste premesse è nato Q, un assistente digitale che si presenta orgogliosamente come “il primo assistente vocale al mondo senza genere” e a cui bisogna pensare “come Siri o Alexa ma senza che sia maschio o femmina”.

Nonostante le lacune dimostrate in questi primi anni di sviluppo, il rapporto Unesco si conclude con una nota di ottimismo: tecnologie come gli assistenti vocali e l’Intelligenza Artificiale sono ancora molto nuove all’interno della società. Gli stereotipi che si sono creati non sono ancora fortemente consolidati nell’immaginario collettivo, pertanto siamo in una fase in cui la percezione di queste nuove tecnologie è ancora malleabile. Le critiche prontamente mosse dai giornalisti, gli aggiornamenti effettuati dalle aziende ed esperimenti come Q lasciano sperare che in futuro il tema dell’Intelligenza Artificiale verrà affrontato in maniera sempre aperta e innovativa.