La crisi cartesiana
Quando registrai la puntata numero 100, eravamo nel lontano marzo del 2021, feci una conversazione con un’intelligenza artificiale, usando una rete neurale chiamata Megatron b11. Poco più di due anni dopo arrivò sul mercato ChatGPT ed il resto è incredibilmente già storia, nonostante sia passato solo un battito di ciglia dall’avvento dei large language models.
Oggi voglio portare l’attenzione su un altro tema che sta diventando sempre più attuale e che, se vogliamo dargli un’etichetta, risponde al nome di “crisi cartesiana”.
La crisi cartesiana applicata alla tecnologia è la messa in discussione radicale delle nostre certezze riguardo a ciò che è reale e autentico nel mondo digitale e tecnologico.
Con parole più semplici, ma più forti, la crisi cartesiana si verifica quando lo stato di civiltà è tale che gli individui non sono più in grado di conoscere la certezza di alcuna informazione. È l’esistenza in un mondo privo di verità o realtà verificabili.
E non si tratta solo della banale constatazione che l’ascesa dei deep fake (in forma di scritti, audio e video) stia rendendo sempre più difficile distinguere tra il reale ed il fittizio, ma è un rischio che abbraccia sempre più campi della nostra vita.
Seguitemi e vi racconterò tutto quello che c’è da sapere. Questa crisi nasce, infatti, da una combinazione di fonti, senza un’unica causa primaria da cui si manifestino tutti i problemi.
Cominciamo da qualche evidenza apparentemente banale. Circa il 38% delle pagine web esistenti nel 2013 non è disponibile oggi, rispetto all’8% delle pagine esistenti nel 2023. Stiamo lentamente perdendo la memoria storica digitale degli accadimenti. Il decadimento digitale sta accelerando, dal 2013 al 2018 è stato in media del 3,4% all’anno; recentemente, tale tasso è salito al 6% all’anno. Inoltre, stiamo sostituendo le vecchie conoscenze con nuovi guazzabugli allucinati del passato creati dall’intelligenza artificiale. Non solo perdiamo informazioni del passato, ma le sostituiamo con contenuti generati dall’AI.
Non ci credete? Tuffiamoci per un attimo nelle interessanti statistiche sulla produzione di contenuti accademici, paper, ricerche e pubblicazioni qualificate.
In particolare, l’introduzione di Chat-GPT nel novembre 2022 ha innescato un’impennata significativa dei documenti generati dall’intelligenza artificiale, aumentando il numero di documenti identificati come AI nel novembre 2022 dal 3,61% al 6,22% nel novembre 2023. Come ce ne accorgiamo? Misurando l’impennata degli articoli che presentano punteggi di intelligenza artificiale più elevati, per come sono scritti e per la tipologia di parole usate. Certo, si tratta ancora di stime, ma la tendenza sembra abbastanza chiara.
Se le ricerche di inizio 2024 ci dicono che poco meno del 40% degli studenti delle superiori usa l’AI per svolgere compiti, fare tesine e scrivere contenuti, non vedo perché i ricercatori non facciano lo stesso. Abbiamo una incredibile misura del fenomeno. Come mostrano i nuovi dati rilasciati dalla società di rilevamento del plagio Turnitin, gli studenti americani di college hanno presentato più di 22 milioni di articoli che potrebbero aver utilizzato l’intelligenza artificiale generativa nell’ultimo anno. Niente male, milioni come se fossero noccioline.
Potreste obiettare, tornando ai contenuti accademici, che l’AI probabilmente riduce gli errori e che tanto c’è sempre poi la revisione umana. Su questo mi permetto di dissentire io. Se i volumi aumentano ed i revisori non aumentano di conseguenza, il collo di bottiglia produrrà sempre maggiore fretta e di conseguenza anche minore qualità. Amen.
Ma la crisi cartesiana non finisce qui. Una recente ricerca ha misurato che il 77% degli americani è già stato ingannato dai contenuti online generati dall’intelligenza artificiale, almeno una volta. A The Future Of vi ho raccontato già di casi eclatanti di vere e proprie truffe attraverso deep fake fatti con la voce, ma anche il video ormai è qui. Ed anche senza parlare di vere e proprie truffe, l’inganno è dietro l’angolo.
La nostra comprensione della natura e del potere dell’AI influente e ingannevole è ancora in fase di ricerca e scoperta. In passato vi ho raccontato già di AI che ingannano “volutamente” i propri creatori. Per la prima volta, una ricerca ha documentato empiricamente un fenomeno che chiamano “sofisma non intenzionale”, in cui un modello addestrato con feedback umano impara a produrre risposte che ingannano i valutatori umani facendo credere loro che le risposte siano accurate piuttosto che imparare a produrre risposte che siano effettivamente accurate.
Questo è particolarmente preoccupante perché, da quando l’AI generativa è diventata più credibile e ben fatta, sembra che gli esseri umani stiano abbassando le difese bevendosi tutto quello che gli algoritmi ci raccontano, senza passare da un adeguato fact checking.
Ce la stiamo andando a cercare, per pigrizia. Come quell’avvocato americano, sanzionato poi dal giudice, non tanto per aver usato l’AI nell’elaborare i testi della difesa, bensì perché l’AI ha inventato di sana pianta richiami a sentenze inesistenti, ma favorevoli, senza che l’esimio professionista si accorgesse dell’allucinazione.
Vi racconto un aneddoto personale piuttosto scioccante. Quando preparo le puntate di The Future Of, a volte chiedo a ChatGPT di elencarmi startup ed aziende in giro per il mondo che stanno lavorando sull’argomento che voglio raccontare. Mi serve ad approfondire. La prima volta che feci questa domanda, invece di andare a cercare su Google, come ero solito fare fino a quel momento, ChatGPT mi propose dei bellissimi case study. Insospettito, però, dai nomi delle startup, le andai a cercare in rete, scoprendo che non esistevano. Allora specificai a ChatGPT che volevo solo esempi di startup realmente esistenti. L’algoritmo si scusò dicendo che non aveva capito questo aspetto della mia richiesta. Incredibile.
Ma ci sono molti altri indizi della crisi cartesiana che si sta abbattendo su di noi. Uno che mi colpisce parecchio riguarda il mondo del lavoro. Sapete che i recruiter aziendali stanno sempre più facendo affidamento su software per scremare i curriculum ricevuti dai candidati. In certi contesti ha senso, pensate a Google che riceve oltre 40.000 CV a settimana… ma è comunque uno strumento che mina la fiducia nel processo di selezione. Io non sono più una persona, ma un elenco di parole chiave ed esperienze che devono matchare con un elenco predefinito.
E non finisce qui. Aumenta il numero di candidature che devono essere sottoposte in formato video. Che poi, ovviamente, viene analizzato sempre da un algoritmo capace di valutare non solo quello che dico, ma il mio non verbale, oltre che le micro-espressioni facciali e molto altro. Con quale risultato? Che nascono software, questa volta in mano ai candidati, per fare la candidatura massiva e guadagnare colloqui. Non penso siamo molto lontani da software che consentiranno ai candidati di rispondere in video usando avatar o elaborazioni digitali della propria persona, in grado di ingannare gli algoritmi di cui sopra.
Entrambi gli attori stanno iniziando a delegare l’interazione dei colloqui di lavoro ad algoritmi. Minando definitivamente quell’indispensabile rapporto di fiducia, umano, che si deve creare tra azienda e lavoratore. Lo trovo imbarazzante.
La stessa cosa accade, ed ormai da tempo, anche nel mondo dei social media. HeyGen, un servizio digitale, ora ti permette di fingere te stesso. Crea cloni di intelligenza artificiale che fanno tutto il lavoro per le campagne sui social media. In parole povere, influencer AI con il pilota automatico.
Non esistono più barriere tra uomo e macchina. Una recente ricerca ha dimostrato che i più avanzati algoritmi sono in grado di superare i captcha di qualsiasi sito. Una macchina si può qualificare come umana, ingannando un’altra macchina. Una macchina può facilmente ingannare un essere umano durante una comunicazione scritta. Il famoso test di Turing è stato ormai sorpassato.
La crisi cartesiana si manifesta, riassumendo in molte direzioni. Oltre a quelle citate potremmo anche parlare di ingegneria sociale, propaganda di Stato, bot farm, realtà aumentata che si sovrappone a quella reale, dipendenza eccessiva dalla tecnologia, hacking, upload delle coscienze in un computer e molti altri spunti tra il reale ed il futuristico, ma il concetto semplice è che rischiamo di non poterci fidare più di quello che leggiamo, ascoltiamo e vediamo.
A meno che non provenga da un’interazione di persona, non mediata da alcun mezzo digitale. E sempre ammesso che quello che ci viene raccontato sia genuino e non influenzato da bias o informazioni errate.
Quando ero ragazzo e volevo rimarcare che qualcosa fosse assolutamente vero, si usava dire “l’ho visto al telegiornale” oppure “era scritto sul giornale”. Oggi non è più così. Ma, oltre a sviluppare l’arte di dubitare e controllare, quali armi abbiamo?
A onor del vero, poche e spuntate. Molti parlano di blockchain. Certo, un registro distribuito e immutabile, può essere una risposta per costruire un rapporto di fiducia con le informazioni digitali. Ma tracciare ogni transazione o modifica di dati, non mi sembra un percorso praticabile per la massa delle persone.
Altri parlano di intelligenza artificiale trasparente e interpretabile. Sul trasparente si fa un gran parlare dei “watermark”, o più in generale, sul concetto che se qualcosa è stato creato dall’AI deve essere verificabile. Però, uno standard globale non esiste ancora. Google, per esempio, potrà garantire facilmente che qualcosa è stato generato dalla sua AI, ma come potrà essere certo che venga dall’AI di Meta, OpenAI, Anthropic e tutte le altre? E viceversa? Non banale.
Sull’interpretabile vale quanto detto sopra. L’AI è per sua natura una sorta di black-box che miscela gli input di partenza. È difficile ricostruire il processo di generazione di un contenuto, quasi come se da un cucchiaio di frullato di mele, volessimo risalire alle diverse mele che lo compongono. Un mal di testa senza senso. In compenso, fact checking e addestramento dei modelli con principi di human-in-the-loop, che poi vuol dire che l’uomo in fondo testa le risposte e corregge le castronerie, sono sicuramente benvenuti.
C’è altro? Sicuramente i sistemi di verifica dell’identità digitale. Che però mi danno ben poco conforto. La tecnologia combatte ancora sul tema di come farci riconoscere inequivocabilmente da una macchina. Quando il nostro problema principale e come capire se l’informazione che ci arriva è affidabile, vera e sicura.
Io sono ragionevolmente preoccupato. La capacità di discernere la realtà è una necessità fondamentale affinché la mente funzioni in modo sano. Siamo orientati ad una società dove quindi diventeremo tutti pazzi?
Cicerone, nelle sue opere, rifletteva spesso sull’arte oratoria come strumento per dimostrare tutto e il contrario di tutto, soprattutto in De Oratore e Orator. Per lui, l’abilità dell’oratore non si limitava al comunicare bene o persuadere; consisteva anche nel saper affrontare entrambi i lati di una questione, un’arte che può sembrare manipolativa ma che egli giustificava filosoficamente.
Nel De Oratore, il grande autore romano sosteneva che l’oratore deve essere capace di argomentare sia pro che contro una tesi, perché questo esercizio rappresenta un grande allenamento mentale e serve anche per prepararsi a rispondere a qualsiasi obiezione. Forse sviluppare una certa maestria retorica, che poi è la capacità di penetrare ogni aspetto della verità, è una delle poche cose che ci resta da fare.
