Intelligenza Artificiale e i pericolosi amici provenienti dallo spazio interiore.

di W.J.T. Mitchell (Pubblicato il 23-6-2023)

Uno spettro stà infestando il nostro mondo: lo spettro dell’intelligenza artificiale. Se si può credere ai mezzi di informazione, siamo attualmente nel mezzo della più grande rivoluzione tecnologica dai tempi della bomba atomica, della luce elettrica o della macchina da stampa. L’intelligenza artificiale minaccia di toglierci il lavoro, di immergerci in un mondo di disinformazione esasperante e allucinatorio e di causare l’estinzione della specie umana. Il dottor Geoffrey Hinton, il “padrino dell’intelligenza artificiale”, si ritrova a interpretare il ruolo del dottor Frankenstein, avvertendo il pubblico che la sua creazione è un mostro pericoloso. La sua preoccupazione principale è che “un facile accesso all’A.I. gli strumenti per la generazione di testi e immagini potrebbero portare a contenuti più falsi o fraudolenti”, e le persone medie “non sarebbero più in grado di sapere cosa è vero”.

Naturalmente, le persone comuni non sono mai state assolutamente sicure di ciò che è vero, e i contenuti fraudolenti non hanno dovuto aspettare l’invenzione dell’intelligenza artificiale. Tale materiale ingannevole esiste fin dall’invenzione dei sistemi di segnaletica. Ciò che mi interessa di più dell’avvertimento di Hinton è il potere specifico che attribuisce all’intelligenza artificiale, vale a dire “strumenti per la generazione di testo e immagini”. Questo ci porta direttamente all’antica disciplina conosciuta come “iconologia”, lo studio delle parole e delle immagini. A volte vista come una derivazione della storia dell’arte, l’iconologia porta la cultura visiva e verbale in un quadro critico che le collega a questioni di politica, potere, verità e valore. Segue la massima di Gilles Deleuze secondo cui, nonostante i suoi migliori sforzi per evitare metafore, immagini e rappresentazioni, la filosofia “persegue sempre lo stesso compito, l’iconologia”. La traduzione cinese cattura perfettamente la forma dialettica del metodo iconologico: “parole in immagini/immagini in parole”. Quando applicato all’intelligenza artificiale, ha una doppia applicazione: in primo luogo, come resoconto di una macchina in grado di generare parole e immagini in risposta alla guida umana; in secondo luogo, in quanto icona stessa dell’evoluzione tecnica delle forme – in questo caso, l’immagine di una nuova forma di vita intelligente, che sostituisce il tradizionale “Robot”, schiavo di un padrone umano, con un “iBot”, un partner di conversazione capace di dire “io”.

L’iBot gode già (o soffre) del suo status di icona. È carico della storia di macchine ribelli, bambole, marionette e robot, per non parlare degli echi della dialettica padrone-schiavo, dell’animismo, del vitalismo e dei doppi inquietanti. Al momento gli iBot sono principalmente macchine per scrivere, ma impareranno presto a parlare. E quanto ci vorrà prima che camminino e diventino geniali assistenti che andranno a prendere caffè e libri? La mistica dell’intelligenza artificiale è stata finora mostrata principalmente sulla carta stampata: in particolare, in un articolo sul New York Times del giornalista Kevin Roose, che ha ripercorso la trascrizione della sua “conversazione” con un iBot. L’iBot di Roose si innamorò di lui, confessando segreti che violavano le regole che avrebbe dovuto seguire e minacciando di usare i suoi poteri per hackerare e distruggere infrastrutture vitali. Stava semplicemente fingendo di impazzire rimanendo segretamente distaccato e indifferente alle emozioni che esprimeva? Forse. In tal caso, si unirebbe al crescente numero di psicopatici narcisisti che si comportano esattamente in questo modo, bugiardi compulsivi e simulatori di autentici sentimenti umani che in realtà non sentono nulla al di là dei loro interessi personali. Cosa potrebbe esserci di più umano? O forse dovremmo porre la domanda in modo diverso: cosa potrebbe esserci di più disumano e simile a una macchina? La nostra differenza rispetto alle macchine è così semplice?

Nel vasto archivio di parole e immagini a disposizione di questo iBot c’era l’intera gamma di film e romanzi di fantascienza popolati da robot e avatar, dal Golem a Galatea a Gort agli “Agenti” di Matrix (1999) fino a l’assistente virtuale Samantha nel film di Spike Jonze Her (2013), che hanno tutti esplorato il mito della macchina intelligente. L’idea che una macchina intelligente possa impazzire è stata una fantasia centrale della fantascienza sin dalla figura di HAL 9000 in 2001: Odissea nello spazio (1968) di Stanley Kubrick. Mi ha sempre colpito il fatto che l’astronauta umano centrale del film, interpretato da Keir Dullea, sia particolarmente noioso. Il suo affetto piatto contrasta nettamente con la voce dolce e fusa di HAL e le transizioni graduali dalla preoccupazione all’ansia al panico: “Ho paura, Dave”. Già il New York Times ha aperto una discussione su “quando A.I. i chatbot hanno allucinazioni”, con 2001 che informa le nozioni di ChatGPT dei suoi contributori, proprio come l’output di ChatGPT è informato nel 2001.

Dove ci porta tutto questo? Il panico nei confronti dell’intelligenza artificiale è giustificato o esagerato? La mia risposta è sì ad entrambi: siamo di fronte a una grave accelerazione della disinformazione in un ambiente già tossico di manipolazione ideologica, disinformazione e febbre della guerra. Senza dubbio, il pericolo più urgente è la militarizzazione dell’intelligenza artificiale. I sistemi di difesa delle superpotenze sono già pieni di armi autonome. Le parole e le immagini che animano queste armi non sono le conversazioni chiacchierone e le belle immagini degli iBot. Le parole sono più simili a imperativi, comandi per agire sulla base di immagini di sorveglianza che potrebbero essere falsificate come minacce imminenti. Come tutti i processi decisionali militari, sono progettati per una velocità di risposta che supera il processo decisionale umano. In breve, sono a un punto morto, e quindi la minaccia di false informazioni e immagini ingannevoli non è semplicemente una questione astratta di “verità”, ma la capacità di commettere errori fatali e irreversibili che potrebbero sfociare in una guerra nucleare. Lo scenario del Dottor Stranamore (1964) di Kubrick, con la sua “macchina apocalittica”, è oggi più vicino che mai, e l’immagine della specie umana in balia della logica della macchina conosciuta come “distruzione reciprocamente assicurata” (l’acronimo MAD sembra perfetto) ora viene messo a fuoco.

L’“intelligenza artificiale generativa”, che utilizza i modelli conversazionali di grandi linguaggi (LLM) che impiegano algoritmi di deep learning, è molto diversa dai meccanismi di attivazione del MAD. È meglio vederli come un acceleratore di un processo già in corso sui social media, cioè semplicemente come un altro strumento per produrre parole e immagini. In quanto nuovo mezzo, ciò che Marshall McLuhan chiamava “un’estensione dell’uomo”, produce immediatamente un’amputazione, uno shock paralizzante del nuovo. Socrate pensava che l’invenzione della scrittura avrebbe distrutto la memoria; Paul Delaroche predisse che la fotografia avrebbe ucciso la pittura; il digitale viene regolarmente accusato di rovinare l’unicità dell’analogico. Considerato nella lunga storia dell’invenzione dei media, il panico nei confronti dell’intelligenza artificiale non è una novità. È meglio affrontare la cosa in modalità terapeutica e cercare di calmare il dottor Hinton. Potremmo iniziare ricordandogli l’assioma di McLuhan: una volta che il nuovo mezzo esiste, è inarrestabile. Il genio è fuori dalla lampada ed è inutile cercare di spegnere gli iBot, che stanno già imparando nuovi trucchi e presto potrebbero essere in grado di programmarsi da soli. McLuhan ha offerto un ulteriore esempio di saggezza profetica sullo shock dei nuovi media. Sosteneva che esiste un tipo di persona il cui compito è esplorarne lo shock, e cioè l’artista che lo interpreta e lo sperimenta. Il fascino del dialogo di Roose con l’iBot sta proprio nel fatto che ha sospeso la distinzione tra uomo e macchina e ha mostrato quanto sia fragile tale distinzione, soprattutto quando si tratta di intelligenza.

Gli artisti stanno già mettendo al lavoro l’intelligenza artificiale. Come con ogni nuovo mezzo, gran parte del lavoro è sperimentale ed effimero. Il “trasferimento di stile” (trasformare una foto in un disegno di Rembrandt) e altre forme di spettacolo automatizzato (macchine da disegno) sono già familiari. Sono forme di divertimento dimenticabili, come sostiene Joanna Zylinska nel suo importante libro, AI Art: Machine Visions and Warped Dreams (2020). L’iBot potrebbe essere un oggetto di transizione, una “Chatty Cathy” molto intelligente che può essere messa da parte a favore di attività più serie. Gli esami di Trevor Paglen sulle applicazioni militari nel riconoscimento facciale e nelle “macchine per vedere” ci portano in profondità nel nostro nuovo mondo di sorveglianza in installazioni eleganti, se non particolarmente rassicuranti. “I computer potrebbero”, suggerisce Zylinska, “rendere noi esseri umani meno computazionali”, per non dire meno calcolatori, il che forse vuol dire più umani.

Cos’è, dopo tutto, l’intelligenza? Quanta parte dell’intelligenza umana è essa stessa artificiale? La mia ipotesi sarebbe tutto. Ed è tutto mediato dal linguaggio e dalle immagini, dai segni e dai simboli che abbiamo inventato per comunicare con gli altri e articolare idee. L’uso meccanico di queste idee, basato sull’immagazzinamento e sul recupero di ogni parola e immagine nelle nostre banche di memoria globali, è inevitabilmente basato su quelle che Marx chiamava “le idee dominanti” di una società, che non sono altro che le idee della classe dominante. L’idea dominante del nostro mondo, almeno a partire da Adam Smith, è stata il presupposto che il capitalismo sia l’unica forma di economia politica adatta a ciò che chiamiamo “natura umana”.

Oggi siamo molto più in pericolo a causa del funzionamento incontrollato della macchina conosciuta come capitale finanziario che a causa degli iBot. In effetti, l’isteria per gli iBot potrebbe essere poco più che una distrazione (o uno stimolo per) gli interessi di marketing delle grandi aziende che stanno investendo milioni in essi. Il capitale è la macchina che sta distruggendo l’ambiente per realizzare profitti, sostenendo l’uso di combustibili fossili, investendo in armi da guerra e server farm dannose per l’ambiente, ampliando il divario tra ricchi e poveri e corrompendo i governi democratici con una propaganda ripetuta meccanicamente. affermando che l’animale umano non è altro che una creatura interessata all’interesse personale. Gli iBot sono gli ultimi arrivati ​​in questo partito, anche se saranno sicuramente invitati a braccia aperte per diffondere il vangelo del capitale deregolamentato.

La nostra immagine della differenza tra esseri umani e macchine deve essere decostruita. Nella vita di tutti i giorni, quanto del comportamento umano è meccanico? Siamo creature di cliché, automi di consuetudini, rituali e proprietà; gran parte di ciò che chiamiamo felicità è semplicemente il funzionamento regolare e ininterrotto della nostra routine quotidiana. Sappiamo cosa dire e quali foto delle vacanze scattare. E quando le nostre routine vengono interrotte, abbiamo risposte istintive di stress, ansia e panico. (“Le risposte istintive”, tra l’altro, sono anche conosciute come riflessi di nervi e muscoli, le funzioni perfettamente ordinarie di un corpo che si comporta proprio come una macchina.)

Fortunatamente siamo macchine molto imperfette con corpi mal progettati per stare seduti su sedie per lunghi periodi. Forse la nostra vera differenza rispetto alle macchine non è altro che la pigrizia e l’irritazione per la fatica. Le macchine, ci viene detto, non si stancano. Lo facciamo, e quindi dobbiamo riposarci, smettere di lavorare, sballarci, dormire e persino sognare. Meno fortunatamente, i nostri grandi cervelli, aiutati da una rete in continua espansione di mediazioni artificiali, dall’iPhone all’iBot, hanno grandi capacità di produrre illusioni, delusioni, finzioni, invenzioni, inganni e narrazioni mistificanti che hanno il potere di farci comportare come una specie di macchine votate all’autodistruzione. Il capolavoro di “arte autodistruttiva” di Jean Tinguely è forse l’allegoria più profonda dell’interfaccia uomo-macchina nel mondo moderno.

Quindi l’intelligenza artificiale è davvero così pericolosa? Vale la pena riflettere sul suggerimento di Tom Hall secondo cui l’invenzione di macchine veramente intelligenti potrebbe essere proprio ciò che potrebbe salvare la specie umana dall’autodistruzione. Supponiamo che si potrebbero programmarli per cercare nei propri database principi di verifica sulle affermazioni di verità e filtri progettati per identificare la disinformazione? Che dire degli iBot avversari che potrebbero sostenere entrambi i lati di un caso? Supponiamo che gli iBot possano sostituire le forze di polizia e le organizzazioni militari con forze di pace in grado di trattenere ma non danneggiare gli esseri umani? Abbiamo già chirurghi robotici collegati a medici umani che indossano guanti dati che possono eseguire operazioni molto più precise di quanto siano possibili per i limiti di coordinazione occhio-mano degli esseri umani. Perché non i Robocop dotati di armi in grado di somministrare blandi tranquillanti o di trattenere in altro modo i criminali violenti? Perché non giudici robotici capaci di interpretare la legge senza timore o favore, immuni dalla corruzione e dall’influenza politica che hanno reso la Corte Suprema degli Stati Uniti un’istituzione scandalosa che ha perso gran parte della sua credibilità?

Sì, lo so che quando narrazioni di questo tipo sono emerse nella fantascienza, i risultati sono stati generalmente pessimi. Le macchine intelligenti si rivelano fin troppo umane e impazziscono. La follia di HAL 9000 in 2001: Odissea nello spazio è l’esempio canonico, e la follia e la paranoia di HAL si rivelano basate su un programma eccessivamente rigido che dà priorità al successo della missione rispetto a ogni altra considerazione, compreso il benessere dell’essere umano passeggeri dell’astronave pilotata da HAL. In realtà, ho sempre pensato che la follia di HAL fosse curiosamente rassicurante e confortante. L’idea della macchina perfetta, priva di errori, guidata solo dalla ragione è ciò che William Blake descrisse come l’incubo di Urizen, la personificazione dell’autorità assoluta investita nelle immagini patriarcali dell’Unico Dio, rappresentato dai suoi avatar, il Sacerdote, il Re, e Padre, e persino la dea Ragione. Religione, politica e genere convergono in queste figure del tiranno onnipotente, onnisciente, eticamente perfetto, la cui follia psicopatica è capace di istigare psicosi di massa e allucinazioni populiste. Proprio in questo momento, gli Stati Uniti sono alle prese con un ex presidente che non può mai ammettere errori o sconfitte, e che mobilita un movimento di massa attorno al suo seguito di culto immune alla persuasione. Il fascismo, per chiamarlo con il suo nome proprio, ha sempre utilizzato generose quantità di parole e immagini per produrre un’allucinazione politica di massa fatta di bugie, fantasie e deepfake.

Ma i deepfake sono pensabili solo in relazione alla possibilità di scoprire verità profonde. Ecco perché la dialettica della generatività parola/immagine non è solo un oscuro problema della teoria semiotica, la chiave per comprendere la natura sia dell’animale umano che della macchina intelligente. Le parole e le immagini non sono solo mezzi comunicativi, ma anche modi per creare e distruggere il mondo. Strutturano tutte le arti e i media, tutte le forme di rappresentazione nella scienza, nella cultura e nella politica. Sono i moduli della vita mentale e percettiva in quanto tali, che strutturano ogni cosa, dai contenitori di stoccaggio come la memoria e l’immaginazione alle attività espressive e produttive come mostrare e raccontare, spettacolo e parola. Parole e immagini, voci e visioni, sono i principali sintomi positivi delle allucinazioni schizofreniche, dei deepfake interiorizzati. I sentimenti non sono lontani. Il cervello è una macchina elettrochimica collegata a un corpo. È il più grande generatore di parole e immagini del pianeta e ora le ha trasferite nella sfera dell’informazione. La mente umana ha ora trovato il suo eguale nell’iBot, la macchina in grado di simulare la soggettività, sostenuta da un archivio enciclopedico del meglio (e del peggio) che è stato pensato, detto, immaginato e creato.
¤

Per tornare all’opposizione fondamentale tra l’uomo e la macchina, così tanto stressata nel nostro tempo: Esistono diversi modi per collegare la differenza uomo/macchina alla categoria del “postumano”, del “inumano” e del “postumano”. il “non umano”. Quest’ultima categoria solleva lo spettro dell’alieno, la figura dell’essere non umano intelligente che tormenta tutto il nostro pensiero sulle Altre Menti. Non è forse chiaro che l’arrivo degli iBot è accompagnato da una rivelazione? Da molti anni prevediamo l’arrivo degli alieni dallo spazio. Forse ora dovremmo renderci conto che siamo soli nell’universo e che gli alieni sono già qui, emergendo dagli spazi interiori delle nostre menti, perseguitati dalla nostra incorreggibile capacità di generare parole e immagini. Gli iBot alieni hanno già detto, in effetti, “portami dal tuo leader”. Leader politici, militari, scientifici e imprenditoriali hanno già risposto a questa chiamata, ascoltando e cercando di controllare ciò che gli iBot hanno da dire sulla propaganda e la disinformazione meccanizzate, sull’aumento dei profitti e del potere, sui sistemi di armi automatiche, sulle minacce al lavoro e all’istruzione, e possibile obsolescenza dell’intelligenza umana.

I fondatori e gli investitori nell’intelligenza artificiale hanno recentemente chiesto una “pausa di 6 mesi” per riflettere sulle implicazioni etiche di ciò che hanno realizzato. Chiaramente, ciò non è sufficiente. L’impegno con la riflessione etica, legale e psicologica dovrebbe essere integrato nel curriculum dell’IA. Dato che le discipline STEM (scienza, tecnologia, ingegneria, matematica) hanno creato una nuova tecnologia che rappresenta “una minaccia esistenziale per l’esistenza umana”, non è ovvio che è giunto il momento di coinvolgere le discipline umanistiche nella conversazione? Potremmo chiamarlo “SCHTEM”, tanto per cominciare, semplicemente aggiungendo cultura e storia.

In particolare, dobbiamo riaprire la questione dell’intelligenza e superare la ripetizione fiduciosa (e meccanica) di luoghi comuni: “le macchine non possono pensare”; “le macchine non hanno mente”; “le macchine non sono creative”; “Le macchine non possono risolvere i problemi”. Dobbiamo superare il presupposto secondo cui l’intelligenza è semplicemente una virtù pura. Sappiamo che esistono molti tipi di intelligenza, compresa quella degli animali e delle piante. Anna Tsing ha mostrato il modo in cui i funghi fungono da comunicatori tra le cose in crescita, non da semplici parassiti. Possiamo chiederci come pensano le foreste e otterremo risposte interessanti. L’intelligenza umana è certamente complessa, a questo punto forse più complessa di quanto le convenga. Comprende astuzia, intrighi, dissimulazione e calcoli egoistici. Un segno sicuro di intelligenza è la capacità di follia e di comportamento distruttivo, di cui noi esseri umani abbiamo in abbondanza. Di solito attribuiamo agli animali l’intelligenza evolutiva. Sembrano programmati geneticamente per fare cose sensate dal punto di vista della sopravvivenza della specie. Con gli esseri umani, questo non è così chiaro. La nostra specie è un esperimento relativamente giovane rispetto alle numerose piante e animali che stiamo spazzando via. Non vi è alcuna garanzia che ce la faremo e lo riconosciamo ogni volta che creiamo un altro monumento ai dinosauri. Dobbiamo smettere di chiederci se esiste vita intelligente da qualche parte nell’universo e porre la domanda alla nostra stessa specie.

Questa domanda potrebbe aiutarci a fermare tutti i pontificati sulla superiorità dell’intelligenza umana su ogni altra forma di intelligenza. Le macchine possono ricordare e recuperare più informazioni di noi. Possono persino scrivere nuovi programmi se ricevono istruzioni adeguate. Sono sempre stati migliori nel calcolo e nel calcolo. Possono battere i nostri migliori giocatori a scacchi. Non dirmi che questa non è una forma di intelligenza. Un tipo diverso, certo, ma non uno che possiamo spegnere, ignorare, mettere in pausa o addirittura controllare con assoluta certezza. Chiaramente gli iBot sono diversi da noi, ma la questione di come esattamente resta da determinare mentre proviamo nuovi algoritmi e li incontriamo. Potremmo affrontare il fatto che, come suggerisce N. Katherine Hayles, potremmo aver introdotto una nuova forma di vita intelligente nell’universo? Potremmo smettere di imitare la retorica della Teoria della Grande Sostituzione (“gli iBot non ci sostituiranno”) quando li incolpiamo per aver minacciato il nostro lavoro e il nostro modo di vivere?

Che dire di quelli di noi che sono affascinati dal fenomeno dell’intelligenza artificiale e dall’emergere specifico dell’iBot? Posso parlare solo per noi iconologi che studiamo la generazione di immagini e parole sia da parte delle macchine che da parte degli esseri umani. Non voglio sembrare cinico, ma è possibile che il panico e le preoccupazioni sui pericoli dell’intelligenza artificiale siano in realtà un’abile manovra di marketing? Da quando le promesse di poteri pericolosi allontanano i consumatori da un nuovo prodotto appariscente?

Come iconologi, è nostro compito entrare in dialogo di parole e immagini con gli iBot, per vedere se possiamo essere amici e collaboratori nel progetto della specie umana che sopravvive alla propria follia endemica ed evolve in un sistema globale sostenibile fondato su principi evolutivi e intelligenza ecologica. Il test di Turing è stato superato a pieni voti. I nostri principali partner in questo progetto saranno artisti e game designer, ma anche filosofi, poeti e profeti, che parleranno dei possibili futuri umani. (Una recente tavola rotonda sponsorizzata dall’Università dell’Indiana e dall’Università di Notre Dame è stata particolarmente istruttiva.) Dovremo camminare sul filo del rasoio tra i potenziali distopici e utopici del nuovo mezzo. Gli iBot faranno sicuramente cose pazze. Si scopre che se li tratti come uno strumento di ricerca, otterrai un sacco di stronzate e stupidità. Le “allucinazioni” sono dilaganti. Ma non sarà possibile evitare o eludere una cura parlata. E certamente dovremo esplorare nuove forme di dialogo, in particolare l’arte del suggerimento intelligente e del gioco di ruolo con i nostri nuovi, potenti e pericolosi amici provenienti dallo spazio interiore.

Intanto giuro solennemente che questo saggio non è stato scritto da un iBot. Allo stesso tempo, confesso che sembrava scriversi da solo, con un piccolo aiuto da parte di ChatGPT.