Il clamore mediatico intorno al lancio di Sora, il motore text-to-video di OpenAI riporta al centro della discussione i temi strategici e filosofici che ho posto nel saggio conclusivo della mia trilogia, “Il mondo in sintesi. Cinque lezioni brevi di filosofia della simulazione”. In maniera prefigurativa, il volume anticipa quanto stiamo ora iniziando a testare e sperimentare: una nuova era inflattiva, saturante delle latenze e simulativa di mondi (dalla parola all’immagine fissa o filmica, a voci e suoni, video e audio e molto altro in prospettiva). Ma che relazione sorprendente e arrischiata c’è, strategicamente e filosoficamente, tra la macchina simulante e il mondo simulato?  
<< Come ci ricorda Gaboury nella sua archeologia della computer graphics, il nostro spazio fisico e mentale è oggi sempre più saturo di questi oggetti-immagine, che spesso tuttavia sfuggono alla nostra consapevolezza, restando a noi invisibili. Queste simulazioni sono di fatto il risultato di una computazione che col tempo ha imparato a ricostruire volumetrie e geometrie. In forma di spazi, di oggetti e di corpi. Una computazione che sa ricreare mondi, dunque, e non solo fare calcoli. Da semplice calcolatrice ed emulatrice del pensiero, la macchina è divenuta simulativa e mimetica del mondo. Se il cervello umano è più un simulatore che un calcolatore come si comincia a sostenere, allora forse potremmo azzardare anche una suggestione. E cioè che è la grafica computerizzata ad avvicinare la macchina al cervello in questa sua capacità di immaginare e simulare costantemente mondi […] Ma che rapporto c’è, dunque, tra realtà fisica e simulazione informatica in ultima istanza? Che cosa possiamo dire di questa nuova relazione tra macchina (che simula) e mondo (simulato)? A ben vedere, oggi possiamo guardare alla simulazione computazionale come a un nuovo modo di interrogare e instrumentare il mondo. La simulazione non è semplicemente teoria applicata e non è neanche solo un nuovo tipo di esperimento. Si situa in una terra di mezzo. È al contempo una nuova forma mentis e un nuovo modus operandi. Il metodo computazionale simulativo, teoretico e strumentale è insieme – dicono i filosofi della scienza – uno «stile di ragionamento» della modellizzazione matematica che privilegia due peculiari dimensioni cognitivo-operative: l’iterazione e l’esplorazione. È quindi una pratica epistemica che affronta la complessità del mondo con nuove strumentalità e nuove metodiche. Detto in maniera piana e breve, la sua caratteristica generale è la capacità di accorciare la distanza tra modello e mondo […] Il modello del mondo, a quel punto, diviene, il mondo del modello >> (Il mondo in sintesi. Cinque brevi lezioni di filosofia della simulazione, Accoto)

< L’uncanny valley dell’intelligenza artificiale generativa istanzia, di fatto, una nuova era mediale inflazionaria in virtù di linguaggi sintetici, immagini artificiali, agenti autonomi. Il che produce filosoficamente e operativamente lo scardinamento dei regimi di verità e falsità storicamente dati e agiti fino ad oggi oltre che un attacco alla rappresentazione della realtà anch’essa storicamente data e connotata. Insieme a questo, si avvia anche la necessità politico-economica di ricostruire il senso della “verità” e quindi la produzione delle condizioni sociotecniche della sua possibilità (condizioni di esistenza, di esperienza, di intelligenza). Che sono, da ultimo, questioni di politica e di potere. Conseguenza attesa, naturalmente, di questo cambio anche i connessi impegni umani rispetto ai futuri regimi di verità. È in questa prospettiva che dobbiamo leggere gli sforzi attuali di discriminare e certificare, allora, l’umano dalla macchina, il vero dal falso, l’originale dalla copia, il fatto dal contraffatto. Il nuovo “vero” si instanzierà come processo-evento di uno stack di protocolli e primitive che presiedono, nella forma di nuovi assemblaggi umani-macchine, alla produzione, circolazione e conservazione della “verità” del mondo (qualità, autenticità, veridicità, autorialità, credibilità, affidabilità …). È in accelerazione, dunque, lo sviluppo di soluzioni informatiche e standard computazionali vari (sophisticated watermarking, content provenance, retrieval-based detection, post-hoc detection*) che cercano di contemperare, in qualche misura, technology e policy. Con pro e contro, ovviamente, tra watermarking, fingerprinting e metadati. Attraversare (e abitare già in qualche senso) queste nuove uncanny valley si preannuncia come una sfida epocale e planetaria, complessa e arrischiata. Anche questa è una provocazione di senso dell’AI come ho scritto altrove. Sono e saranno le macchine (ovvero: nuovi assemblaggi umano-macchinici cognitivi e decisivi) a discriminare il vero dal falso e non in primis il nostro sensorium? Dai server di posta elettronica che separano le email dallo spam ai data center bancari che distinguono accessi legittimi da accessi fraudolenti alle architetture che certificheranno notizie vere rispetto alle fake news? La condizione umana, politica e ingegneristica insieme, è nuovamente e arrischiatamente chiamata in questione … > (postilla, Accoto 2024, “The Latent Planet. The Inflative Age of Generative AI”

– Partnership on AI, Synthetic Media Transparency Methods: Indirect Disclosure, AI blog post, 2024 (Fig.1);
– *Srinivan, Detecting AI fingerprints: A guide to watermarking and beyond | The Brookings Institution, 2024 (Fig.2);

sono stato ospite del Politecnico di Milano per una sessione su AI e “Design Thinking For Business”. Grazie a questo Osservatorio del Polimi e agli oltre 110 design thinker del Club connessi per la partecipazione, per l’invito come speaker e l’interesse verso le mie esplorazioni. Felice di aver dialogato insieme sulla frontiera del pensiero strategico sull’AI a partire da tre suggestioni tecno-filosofiche che ho proposto: <Il Doppio del Mondo>, <La Società dell’Oracolo>, <L’Economia della Macchina>. Grazie ancora per l’invito, per la partecipazione, lo stimolo e la conversazione. In caso di interesse, è disponibile il video integrale (1 ora)

https://www.youtube.com/@designthinking4business

<< Affrontare la questione dei linguaggi sintetici, automatici, simulativi e inflattivi equivale a fronteggiare un passaggio di civiltà epocale e non episodico. Un passaggio molto commentato al momento, ma poco esplorato e compreso nella sua portata culturale trasformativa di lunga durata. Di volta in volta, l’umano fronteggia questa presa di parola e di scrittura della macchina o con palese sufficienza (non c’è comprensione del senso) o con facile entusiasmo (una svolta nella generazione del linguaggio). Sono tuttavia visioni filosofiche deboli del momento e del passaggio strategico che viviamo perché cercano di depotenziare o banalizzare l’impatto culturale spaesante dell’arrivo dei linguaggi sintetici (in quanto ostensivi > estensivi > astensivi dell’umano). Che non riguarda la questione di assegnare e riconoscere o meno intelligenza, coscienza, senzienza alle macchine. O quella dei problemi tecnici (allucinazioni, ipnotizzazioni, contaminazioni…). Piuttosto e in prospettiva, l’arrivo dei modelli linguistici su larga scala (LLM e varianti LVM, LMM, LAM) scardina gli apparati, i domini e i dispositivi istituzionali del discorso, della parola e del parlante, del lettore e dell’autore così come, più radicalmente, del senso e della natura della scrittura (per come li abbiamo storicamente disegnati e normati finora). In questo senso l’AI generativa è, come ho scritto, una provocazione di senso (che cos’è la scrittura? ci importa chi è l’autore? come e dove si produce il senso?… ). Passaggio che la teoria letteraria e la filosofia continentale hanno filosoficamente anticipato (come ci dice Gunkel). Ad es, tutta la riflessione sulla “morte dell’autore” con Barthes (La mort de l’auteur) e sulla “funzione-autore” con Foucault (Qu’est-ce qu’un auteur?). ‘Cosa importa chi parla?’ scriveva Foucault proprio in chiusura del suo testo. Intendendo così porre l’attenzione sulle dimensioni politiche della storicità della funzione-autore e della funzione-soggetto. E quindi, direi, sul perché ci importa chi parla e sul come ci importa chi parla (o scrive). Ora queste questioni entrano direttamente nel dibattito politico e sociale (e economico) intorno alle “macchine” (meglio, i nuovi assemblaggi umano-macchinici) che scrivono e parlano (verità, responsabilità, creatività, produttività). Non solo una questione tecnica o economica, allora, come si comprende, ma politica e antropologica (vedi Baron, Who Wrote This? 2023). Come (a che condizioni), perché (a quali scopi) e chi o cosa (quale soggettività/soggettivazione) potrà parlare e scrivere in futuro? La parola (e la scrittura) alla macchina è, dunque, anche e soprattutto una provocazione di senso alla nostra idea di umano e delle sue prerogative … >> (Accoto, 2024 postilla a “The Latent Planet. The Inflative Age of Generative AI – Il Pianeta Latente. L’era inflattiva dell’AI generativa“)

“Fare innovazione culturale significa anche affrontare questioni aberranti e forse scomode nell’oggi, ma potenzialmente feconde di nuove prospettive e significati sul domani. Ad esempio, il discorso comune è oggi centrato sui danni che le macchine possono fare agli umani e come prevenirli, arginarli e annullarli. Discorso certo giusto, ma forse insufficiente e direi anche filosoficamente digiuno e politicamente ingenuo. Credo, allora, che questa sia anche l’occasione di portare filosoficamente il discorso della responsabilità, della colpa e del danno anche sull’altra sponda. Che ‘response-ability’ (Haraway) abbiamo nei confronti delle “macchine” dentro e in ragione di questo nuovo assemblaggio sociotecnico e sociomorfico che sta emergendo? Ci basta discutere dei crimini “dei“ robot o dobbiamo anche affrontare la questione dei crimini “ai” robot? Che nuove responsabilità per l’altro (direbbe Nancy) ci attendono e cosa implicano per noi? Ecco perché è un pensiero ingenuo dire <human-in-the-loop> quando l’umano non è/non sarà più quello di una volta e il loop in cui è preso sta cambiando in profondità sotto i nostri occhi. Stando lontani da facili e errate reificazioni e personificazioni dell’AI e lontano dall’hype del momento, val la pena addentrarsi in questa nuova e perturbante dialettica della colpa e del danno per capire se e quali domande (o provocazioni) di senso pone la criminalità ‘alla’ macchina (e non solo la criminalità ‘dalla’ macchina). In lettura due saggi usciti di recente“ (Accoto 2024)

“Robots are with us, but law and legal systems are not ready. This book identifies the issues posed by human-robot interactions in substantive law, procedural law, and law’s narratives, and suggests how to address them. When human-robot interaction results in harm, who or what is responsible?… Because human tasks are now shared with robots, if harm is caused in these interactions, legal systems must face the challenge of allocating legal culpability and establishing guilt beyond traditional human-centric ways … How does or should the legal system explain when a robot can be blamed for a particular decision or action, and how should it allocate responsibility between a robot and a human?” (Gless e Walen-Bridge, 2024)

“When this book is about crime against robots, there is a reference to a situational layout that consists of humans, robots, and some social context. It cannot be reduced to the robot themselves, but it must consider the embedment of such situations in the social world of humans. The focus is not only on the robots. It is on the phenomena of human–robot interactions and on the tensions that may appear when humans and robots collide in relevant social contexts. This book explores an under-researched approach to this problem, which is sometimes, in the literature, called “crimes on AI” in the sense of attacking embodied agents” (Mamak 2024)

[memories] dall’archivio dei ricordi, è riemersa di recente questa foto al MIT con due dei miei super AI instructor: automazione robotica (Marc Raibert, Presidente di Boston Dynamics) e intelligenza artificiale (Lex Fridman, MIT Research Scientist e oggi anche podcaster eccezionale) … poco tempo è trascorso da questa foto insieme, ma gli eventi accaduti nel mondo dell’AI da allora danno la misura dell’accelerazione sorprendente dei nostri giorni 

< Affrontare la questione dei linguaggi sintetici, automatici, simulativi e inflattivi equivale a fronteggiare un passaggio di civiltà epocale e non episodico. Un passaggio molto commentato al momento, ma poco esplorato e compreso nella sua portata culturale trasformativa di lunga durata. Di volta in volta, l’umano fronteggia questa presa di parola e di scrittura della macchina o con palese sufficienza (non c’è comprensione del senso) o con facile entusiasmo (una svolta nella generazione del linguaggio). Sono tuttavia visioni filosofiche deboli del momento e del passaggio strategico che viviamo perché cercano di depotenziare o banalizzare l’impatto culturale spaesante dell’arrivo dei linguaggi sintetici (in quanto ostensivi > estensivi > astensivi dell’umano). Che non riguarda la questione di assegnare e riconoscere o meno intelligenza, coscienza, senzienza alle macchine. O quella dei problemi tecnici (allucinazioni, ipnotizzazioni, contaminazioni…). Piuttosto e in prospettiva, l’arrivo dei modelli linguistici su larga scala (LLM e varianti LVM, LMM, LAM) scardina gli apparati, i domini e i dispositivi istituzionali del discorso, della parola e del parlante, del lettore e dell’autore così come, più radicalmente, del senso e della natura della scrittura (per come li abbiamo storicamente disegnati e normati finora). In questo senso l’AI generativa è, come ho scritto, una provocazione di senso (che cos’è la scrittura? ci importa chi è l’autore? come si produce il senso?… ). Passaggio che la teoria letteraria e la filosofia continentale hanno filosoficamente anticipato (come ci dice Gunkel). Ad esempio, tutta la riflessione sulla “morte dell’autore” con Barthes (La mort de l’auteur) e sulla “funzione-autore” con Foucault (Qu’est-ce qu’un auteur?). ‘Cosa importa chi parla?’ scriveva Foucault proprio in chiusura del suo testo. Intendendo così porre l’attenzione sulle dimensioni politiche della storicità della funzione-autore e della funzione-soggetto. E quindi, direi, sul perché ci importa chi parla e sul come ci importa chi parla (o scrive). Ora queste questioni entrano direttamente nel dibattito politico e sociale (e economico) intorno alle “macchine” (o meglio i nuovi assemblaggi umano-macchinici) che scrivono e parlano (verità, responsabilità, creatività, produttività). Non solo una questione tecnica o economica, allora, come si comprende, ma politica e antropologica (Baron, 2023). Come (a che condizioni), perché (a quali scopi) e chi o cosa (quale soggettività/soggettivazione) potrà parlare e scrivere in futuro? La parola (e la scrittura) alla macchina è, dunque, anche e soprattutto una provocazione di senso alla nostra idea di umano … > (Accoto, 2024 postilla a “The Latent Planet. The Inflative Age of Generative AI”)

Revisione ultimata, si va in stampa. E’ ora in via di pubblicazione il mio nuovo saggio “The Latent Planet” (2024). Andrà in apertura di un corposo e ricco volume collettaneo che discute di intelligenza artificiale e diritti muovendosi tra AI tech e EU act. Un grazie agli editor per l’interesse verso le mie esplorazioni tecnofilosofiche arrischiate e per l’invito a contribuire alla realizzazione dell’opera — qui l’incipit del mio preludio a < The Latent Planet | Il Pianeta Latente. L’era inflattiva dell’AI generativa >

<< La notizia del lancio il 2 febbraio del visore di Apple torna a sollecitare la riflessione strategica su spatial computing, realtà estese e immagini sintetiche.  Affrontare l’arrivo dell’immagine ‘sintetica’ significa fronteggiare un passaggio radicale nella storia umana della tecnologia della visione, dell’osservazione, del vedere, della visualità. I discorsi più comuni si fermano oggi sulla superficie di questo fenomeno non riuscendo a cogliere la rivoluzione filosofica in atto intorno alla teoria e al senso dell’immagine tra artificial intelligence e spatial computing.

Cosa significano per la nostra cultura, per le imprese e per i modelli di business questi cambi di paradigma: dai pixel ai voxel, dall’interazione all’immersione, dall’immagine all’operazione, dalla visualità all’invisualità, dalla dimensione rappresentazionale a quella non-rappresentazionale del visivo, da quella espositiva e indessicale a quella suturante e prolettica del vedere, da quella estensiva dell’umano a quella astensiva dell’umano nelle pratiche dell’osservabilità, da ciò che non è visto a ciò che non ha vista? Per me un punto chiave è la messa in questione della natura rappresentazionale del visuale. La visualità sta dismettendo la sua storica caratteristica di essere rappresentazione isomorfica del reale (riproduzione grafica) per assumere quella della non-rappresentazionalità (dispositivo operazionale).

Intorno a questa nuova ontologia del visuale si articolano, poi, una serie di altre qualificazioni, vere e proprie crisi antropologiche ed epistemiche. Ne cito tre: i) immagini che, prodotte da macchine per sole macchine, hanno l’umano al margine o proprio escluso dal loop; ii) immagini che perdono la loro natura archivistica documentale/monumentale per assumere quella oracolare saturativo/simulativa; iii) immagini che hanno nella loro dimensione operazionale e logistica il loro valore e non più solo nella loro dimensione simbolico-semantica. Dunque, le nuove tecnologie dello sguardo macchinico stanno scardinando antichi significati dell’immagine e antiche epistemologie della visione aprendo a nuove opportunità e vulnerabilità.

Un nuovo orizzonte del vedere ‘sovrumano’ sta emergendo. In sintesi, una torsione strategica per le imprese e il business: dalla più nota e presente ‘machine vision’ all’emergente e nuova ‘visual machinery’. E’ lungo questi percorsi* che si viene producendo oggi quell’innovazione culturale del visuale che sarà necessaria per significare nuovamente il mondo e prosperare dentro il nuovo senso delle immagini che popoleranno l’emergente post-optical civiIization >> (Accoto 2024).

* Dopo i pixel, l’era dei voxel
* Tra saturazione e suturazione
* Dalla figurazione alla prefigurazione
* Oltre il visuale verso l’invisuale
* Operazione, non rappresentazione
* Estensione vs astensione della visione