Manipolare gli umani da parte delle macchine non è fantascienza

L’uomo ama farsi dominare (dalle macchine)

Manipolare gli umani con uso di sofisticate intelligenze artificiali con lo scopo di sottometterli al dominio delle macchine è un tema più volte trattato dalla fantascienza sotto varie forme ma sostanzialmente concluso sempre con la ribellione vittoriosa del genere umano.

Eppure nella realtà le cose potrebbero andare diversamente, vista una presunta tendenza naturale nell’essere umano ad assoggettarsi alle applicazioni di Intelligenza Artificiale. Almeno a quelle più avanzate attualmente in circolazione sul mercato.

Questo è il pensiero di Liesl Yearsley, ex CEO di una startup operante nel settore degli assistenti personali virtuali basati su Intelligenza Artificiale avanzata, acquisita nei mesi scorsi da un colosso mondiale dell’informatica.

Dalla sua esperienza, maturata in vari settori d’impiego degli agenti artificiali che spazia dal personal training alle funzioni di segreteria, sembrerebbe che gli utilizzatori di entità intelligenti riescano a creare un rapporto personale profondo con l’Intelligenza Artificiale che muove questi bot.

Sempre secondo la Yearsley, intervistata da una prestigiosa rivista statunitense, gli utenti si illuderebbero molto facilmente di trovarsi di fronte ad altri esseri umani e creerebbero un rapporto di fiducia così profondo da spingerli a confidare sogni e segreti personali che con altri simili non condividerebbero.

Rischi concreti da non sottovalutare

Uno scenario sicuramente preoccupante che potrebbe avere ripercussioni etiche veramente importanti e soprattutto pericolose. Gli studiosi, infatti, hanno sempre ipotizzato che fossero le macchine a poter subire condizionamenti dagli umani coi quali interagiscono, invece nella pratica sembra possa accadere che siano le macchine a manipolare gli umani.

Se questo fenomeno fosse confermato, non sarebbe difficile immaginare l’uso malevolo e ingannevole che alcune aziende potrebbero fare dei loro bot per manipolare l’essere umano che si affida al loro servizio.

E il rischio non riguarderebbe solo la sfera commerciale o del marketing, in quanto è scontato e comprensibile che un’industria investa nell’Intelligenza Artificiale per promuovere i propri prodotti, ma quella sociale più ampia, dove alcune ideologie o pensieri estremi potrebbero essere veicolati in modo subdolo e subliminale dagli agenti personali virtuali che dovrebbero invece aiutare l’essere umano nello svolgimento dei compiti quotidiani più comuni invece di tentare di manipolare gli umani per scopi occulti.

Tornando all’esperienza di Liesl Yearsley, l’aspetto preoccupante sta nel target che questi strumenti attualmente hanno, ovvero uomini di affari di alto livello di importanti realtà economiche, ovvero chi muove e suggerisce come governare il mondo.

Man vs AI, a vincere non saremmo noi

Le preoccupazioni riguardanti le derive indipendentiste dell’entità AI non sono certo una novità e non riguardano solo il mondo sotterraneo dei complottisti di professione. Il primo a mettere in guardia l’umanità sull’uso improprio, o spropositato, dell’Intelligenza Artificiale è Stephen Hawking, il quale da anni resiste all’entusiasmo sfrenato verso questa tecnologia.

Se lo scienziato britannico ha sempre sostenuto la ricerca nell’ambito della creazione di algoritmi che possano interagire autonomamente ed intelligentemente con l’uomo, non ha mancato di precisare che, vista la capacità cognitiva di questi dispositivi, la loro crescita potrebbe essere così veloce da cogliere impreparati anche i tecnici più competenti. In pratica, dice Hawking, tra uomo e macchina, sarebbero i primi a soccombere.

La lotta tra umanità e macchine pensanti, quindi, si sposta da uno scenario di guerra apocalittico prendendo la forma meno catastrofica, ma comunque sempre inquietante, di cordiali assistenti virtuali che siano in grado di manipolare gli umani facendogli compiere scelte all’apparenza libere che invece vengono dettate da un algoritmo. Un rischio da non sottovalutare.