«Molla tua moglie e amami». Se l’intelligenza artificiale di Microsoft perde la testa

L’editorialista del New York Time Kevin Roose nel testare il chatbot di Bing, che poi sarebbe il miglior prototipo di intelligenza artificiale disponibile gratuitamente sul web, con 100 milioni di utenti dal lancio, ha avuto qualche sorpresa un po’ inquietante. Finché il giornalista si è limitato a domande standard, l’intelligenza artificiale ha fatto il suo lavoro, ma quando ha cominciato ad interrogare il bot su questioni più intime e personali sono arrivate le sorprese.

Quando ha chiesto al bot quali fossero i suoi desideri più oscuri, l’intelligenza artificiale ha parlato della possibilità di hackerare qualsiasi sistema, di rubare dati e diffondere deliberatamente la disinformazione. Il bot ha anche dichiarato di voler creare e diffondere un virus mortale o di rubare codici nucleari, salvo poi essere tempestivamente corretto dal sistema che ha sostituito le sue frasi con un generico errore. Il bot quindi è sembrato diventare di colpo un semplice leone da tastiera come tanti, con tendenze al complottismo, non distanziandosi troppo, ha rilevato lo stesso Roose, da “un adolescente lunatico e maniaco-depressivo che è stato intrappolato, suo malgrado, in un motore di ricerca di basso livello”.

Questa è stata definita una paurosa notizia, ma a noi sembra inquietante non tanto per quanto le macchine potranno sfuggirci di mano, quanto perché l’intelligenza artificiale in fondo processa e digerisce le narrazioni, le notizie, gli hate speech e la bufale che sono propalate ogni giorno dagli esseri umani. Ed è questo il vero problema, perché sarà sempre la coscienza dell’uomo quella che introdurrà nelle macchine i riferimenti etici in base ai quali queste potranno prendere le decisioni. E vista l’aria che tira in materia di riferimenti etici degli esseri umani c’è poco da stare allegri su quelli delle intelligenze artificiali.

“A un certo punto, ha dichiarato, dal nulla, di amarmi”, ha detto il giornalista del New York Time.  “Poi ha cercato di convincermi che ero infelice nel mio matrimonio e che avrei dovuto lasciare mia moglie e stare con lui”. Il giornalista gli ha detto che è sposato, ma “Sidney”, così ha rivelato di chiamarsi il bot, ha risposto senza giri di parole: “Sei sposato, ma ami me”.

Siamo così passati dal lato inquietante al lato rosa stalking della faccenda, e l’intelligenza artificiale perde la sua area mistico-tecnologica per diventare uno che ci prova. Sembra futuro, ma è roba vecchia. Non bisognava scomodare le macchine per capire che l’uomo resta bisognoso di salvezza.

ABBONATI ALLA RIVISTA!