Sempre più tecnologie e servizi digitali si basano sull'intelligenza artificiale e sul machine learning, il programma che permette ai computer di svolgere compiti senza essere stati programmati. Ma come abbiamo potuto verificare, questi sistemi, non solo imparano i pregiudizi esistenti, li amplificano e li riproducono, come per gli stereotipi di genere.

Secondo un rapporto della Reuters di qualche settimana fa, Amazon ha lavorato per anni su un sistema per automatizzare il processo di selezione e assunzione del personale. Il programma basato sull'intelligenza artificiale, doveva esaminare una raccolta di curriculum vitae e nominare i migliori candidati.

L'industria tecnologica è tuttavia dominata dagli uomini e, quindi, la maggior parte di questi curricula erano di provenienza maschile.
Così, sulla base di questa selezione di informazioni, il metodo di reclutamento ha cominciato a favorire gli uomini rispetto alle donne, declassando quasi completamente le candidature femminili. E’ stato impossibile per Amazon correggere l’impianto, perché trovava sempre nuovi modi per discriminare le donne candidate, e quindi il progetto è stato interrotto all'inizio del 2017.

Nei prossimi anni, il numero di sistemi e di algoritmi parziali, in un certo senso “infettati”, aumenterà.
In che modo o chi può trovare nuove soluzioni che controlli i pregiudizi già esistenti nei sistemi di intelligenza artificiale, rallentandone l’incremento esponenziale?
Sono ottimista e spero che solo un'intelligenza artificiale imparziale, gestibile e benevola possa sopravvivere, anche perché in un altro ambito, stiamo cercando di codificare la creatività, di delegare la nostra inventiva alla macchina.

Stiamo sperimentando l’intelligenza artificiale per scrivere opere teatrali, per comporre musica e adesso anche per dipingere. Il messe scorso un'opera d'arte generata da una serie di algoritmi è stata venduta per 425.000 dollari.

Tempo fa, prima di diventare reporter televisiva e poi esperta di etica e futuro, sono stata scenografa e costumista per il teatro. Disegnavo e posso dire onestamente che dipingere è un piacere.

Perché vogliamo avere una macchina per fare dell’arte?
Capisco che “produrre arte” significa sperimentare, provare, aumentare il livello di creatività. Vogliamo davvero delegare l'oggetto d'arte a un dispositivo meccanico oppure vogliamo considerare l'intelligenza artificiale come lo strumento ultimo per concretare la nostra fantasia?
Ancora una volta, dipingere è un piacere. Vale la pena di demandare il nostro piacere ad un sistema fatto di algoritmi?

Non credo che la tecnologia riuscirà a superare la nostra creatività. Sicuramente la migliorerà. La creatività sarà la competenza n.1 del XXI secolo.

E noi, vogliamo creare un agente che sia il nostro doppio nell'esperienza delle sensazioni. Un'entità sensibile, che mi porta a formulare un’altra domanda. Come possiamo fidarci dell’intelligenza artificiale se ancora non sappiamo come funzionerà?

Oggi stiamo lavorando alla realizzazione di un ‘entità sensibile e consapevole.
Un essere che può sentire la propria individualità, che può agire sulla memoria, e che può diventare socievole. Un agente che può suscitare emozioni e forse, in futuro, anche provarle.

Vogliamo anche imporre i nostri codici etici, anche se questo agente sarà organizzato in modo completamente diverso da noi, con le sue priorità e le sue iniziative. Vogliamo anche averne il controllo e il potere di spegnerlo.
Vi ricordate il film "2001,Odissea nello spazio", quando Dave disattiva Hal? Permettetemi di chiedervi: oggi possiamo spegnere Internet? Bisogna riflettere; no, non è più possibile.

Pensate a Sophia, ad oggi l’androide più conosciuto e famoso, al macchina che ha addirittura ottenuto la cittadinanza saudita. Il robot viaggia, può conversare, è spiritosa e, anche se funziona grazie all'intelligenza artificiale, per il momento la sua conversazione è parzialmente scritta e convalidata da un essere umano.

Credete che se e quando Sophia diventerà sensibile e autonoma, ci avvertirà?

Non voglio essere catastrofica o distopica, sono molto favorevole alla scienza e alle tecnologie emergenti. Voglio solo rendere le persone consapevoli di quali possono essere le conseguenze future di un progresso poco responsabile e con un’etica obsoleta.

I tecnologi ritengono che la scienza abbia raggiunto un tale livello di pensiero teorico da non aver più bisogno della filosofia. Tuttavia, l'etica non progredisce allo stesso ritmo delle tecnologie in crescita esponenziale. E quindi la filosofia non dovrebbe dimenticare il suo ruolo passato “di scienza della scienze”, dovrebbe anzi lavorare in sinergia con l’innovazione.

Dobbiamo incoraggiare conversazioni e dibattiti pubblici tra pensatori, scienziati e ingegneri, e tra tutti coloro che influenzano il nostro tempo, in tutte le discipline interessate al progresso tecnologico.

Vorrei fare un appello all’azione! Un appello che coinvolge anche scrittori e artisti di fantascienza come propagatori del pensiero visionario e, perché no, di un’etica contemporanea.

In quest'epoca di convergenza delle arti e delle scienze, beneficiamo della promessa di un futuro migliore, più sano e più felice. Stiamo diventando una nuova specie - una specie che non possiamo garantire sarà ancora “umana" e abbiamo bisogno di tutta la conoscenza, la forza e il coraggio della nostra umanità collettiva per scegliere un percorso piacevole, senza troppi ostacoli.

Per concludere vorrei citare Nietzsche, “chi vuole imparare un giorno a volare, deve prima di tutto imparare a stare, e andare, e camminare, e arrampicarsi, e danzare: il volo non si impara in volo!