M. Sul bordo dell’abisso

Nella nostra società, quella dell’Internet delle cose, tutto sembra più gestibile, ma quanto la tecnologia di oggi ci permette ancora di scegliere, nella nostra quotidianità, e a quanto di noi e delle nostre libertà rinunciamo, giorno dopo giorno, per concederle spazio? L’Intelligenza artificiale è davvero un’invenzione che può cambiarci la vita, ma in che modo?
Non solo viene naturale porsi questo genere di domande leggendo M. Sul bordo dell’abisso di Bernard Minier da poco pubblicato da Baldini + Castoldi, ma diventa quasi un dovere.
Il romanzo è ambientato a Hong Kong, la città più alta al mondo e più densamente popolata, per Minier “la città del futuro”, ma anche una metropoli caotica, anarchica, tentacolare e fatiscente, dove la povertà estrema confina con il lusso high-tech. Moïra Chevalier, la protagonista, è una giovane francese, molto ambiziosa e competente in intelligenza artificiale, che lascia il laboratorio FAIR di Facebook a Parigi per entrare alla Ming Incorporated, un gigante digitale cinese specializzato in nuove tecnologie, con sede a Hong Kong, e supportare lo sviluppo di una nuova applicazione, DEUS, l’assistente personale di conversazione, il chatbot più rivoluzionario e umano mai progettato, che sembra essere già in grado di sostenere una conversazione di decine di ore, senza che sia possibile distinguerlo da una vera persona. Tocca proprio a lei farlo diventare l’assistente virtuale definitivo, quello che invaderà il mercato e farà fuori la concorrenza.
«Dobbiamo aiutare DEUS e i suoi utenti a prendere le decisioni corrette in un contesto in cui ogni errore può portare a delle pesanti conseguenze. – spiega Ignacio Esquer, uno del team del colosso cinese, a Moïra – Quanto a te, sei qui per dare a DEUS più personalità, un supplemento di anima, un’identità – per creare delle emozioni. È ciò a cui lavoriamo tutti, ma tu sarai incaricata di sviluppare DEUS in questo senso. È una bella sfida».
Una sfida che, per Moïra, diventa ben presto un incubo: la notizia del ritrovamento di cadaveri violentati e torturati di alcuni ex dipendenti della Ming, rimette in discussione quelle che credeva, fino a poco prima, fossero delle indiscutibili certezze.
Tutto questo non ferma il progetto di DEUS che deve diventare il punto di riferimento per il futuro, e quindi il primo programma di intelligenza artificiale, in grado non solo di fornire tutte le risposte ai suoi utenti, ma anche di anticipare i loro desideri. Per raggiungere questo obiettivo, il software deve poter contare su un enorme database: «Attingiamo dai miliardi di dati dei Big Data – Ignacio continua a spiegare a Moïra – tutte le informazioni che siamo in grado di recuperare sul comportamento delle persone e dei servizi di soccorso in caso di catastrofe o conflitto su ciò che funziona o meno, e poi creiamo dei modelli da estrapolare nella vita quotidiana».
È davvero possibile affidare a una IA la responsabilità delle nostre scelte, nel rispetto della nostra personalità interiore e del nostro libero arbitrio? «Mi chiamo DEUS. Sono un’IA unica che ti aiuterà a prendere le giuste decisioni in ogni momento della tua vita. – si presenta così, DEUS, a Moïra – Sarai libera di seguire o meno i miei suggerimenti, Moïra, ma tieni conto del fatto che io ti conoscerò meglio di te stessa. E anche che conoscerò meglio i tuoi amici, genitori, partner, figli, colleghi, tutti coloro che incontri ogni giorno… Eluderò al tuo posto tutte le trappole della vita quotidiana e prenderò le decisioni migliori nel tuo esclusivo interesse».
Dove si traccia il confine tra libertà e dipendenza quando si tratta di scegliere se ignorare o dare ascolto ai suggerimenti di una memoria artificiale? Come possono intrecciarsi tra di loro cluster, algoritmi e applicazioni a pensieri, idee e sentimenti umani?
Già da tempo, racconta Minier, nel romanzo, attraverso le voci dei suoi personaggi, Facebook e Google, grazie alla vertiginosa potenza di calcolo dei loro computer, sono in grado di analizzare tutti i nostri like e ogni nostra emozione espressa nei nostri post e nelle nostre e-mail, tutte informazioni preziose presenti in miliardi di terabyte di dati raccolti, ogni giorno, dalle multinazionali informatiche. Ogni volta che siamo arrabbiati, tristi, innamorati o «morti dalle risate», Facebook e Google lo sanno. Non solo, quindi, Internet delle cose, ma anche Internet delle emozioni (o informatica affettiva), il prossimo eldorado, il nuovo Graal per i colossi i del web, ma per noi una verità agghiacciante, una realtà, la nostra, di cui ormai abbiamo perso il controllo.