“C’è un’espressione umanamente accomodante e però anche filosoficamente ingenua che circola nei discorsi più comuni intorno alla nostra relazione -culturalmente e ideologicamente dicotomica- con le macchine. L’espressione è “human-in-the-loop” (HITL). In genere è tradotta e intesa come mantenere “l’umano nel ciclo”. Prevede alcune varianti (come “on-the-loop”) e naturalmente anche il suo contrario (“off-the-loop”). Il suo senso più generale è quello di un invito a policy maker, service designer, software developer, brand marketer a lasciare sempre all’umano la decisione e il controllo ultimi su apparati, architetture, dispositivi, macchine. E più complessivamente sui processi dell’automazione spinta delle cd. intelligenze artificiali. Il discorso ha molteplici valenze: politiche, economiche, morali, legali. Prospettiva da molti condivisa, ma superficiale e ingenua direi. Di fatto, l’umano è già sempre presente nel processo di costruzione, produzione e uso delle tecnologie: quando progetta, testa, addestra, seleziona, usa, corregge, etichetta e così via. Ma direi di più: essendo l’assemblaggio umano-macchina sempre un sistema o reticolato sociotecnico, l’umano è sempre in controllo sia che sia “in-the-loop” (che qualche altro umano lo abbia incluso nel ciclo) sia che sia “off-the-loop” (che qualche altro umano lo abbia escluso). Ma dire questo non è ancora dire tutto. Questo storico assemblaggio umano-macchina, di volta in volta aggiornato, con le sue nuove articolazioni, stratificazioni e distribuzioni cambia i modi di produzione della conoscenza e di divisione del lavoro tra le parti. In effetti, la cd. AI è insieme sorprendente λόγος, ma anche nuovo ἔργον. Non solo conoscenza (discorso), ma lavoro (opera). E determina anche, più profondamente e per ora invisibilmente, uno spostamento di potere e di agenti, di modi e luoghi dell’esercizio del decidere. Dire, allora, che la decisione rimane umana è una naïveté culturale e filosofica. È una prospettiva aspirazionale che rimane in superficie e non coglie il movimento dialettico del reale. Il denso lavoro ricostruttivo sulla storia della “computer vision” di Dobson appena uscito (2023) erode la superficialità di questa narrativa (ideologia) ingenua mostrando tutta l’articolazione di questo assemblaggio umano-macchina e di come si sia trasformato nel corso del tempo in questa coevoluzione (del vedere, del conoscere, del decidere). Coevoluzione che come quella biologica tra le specie ha forme diverse: mutualismo, parassitismo, competizione, predazione. E solo una di queste porta beneficio ad entrambe le specie coinvolte. Negli altri casi, il gioco è sempre arrischiato quando non proprio mortale” (Accoto 2023)

[shortlisted] mi arriva oggi la notizia che “Il mondo in sintesi” è nella cinquina finalista del premio “Libro dell’Anno sull’Innovazione 2023” nell’ambito del Galileo Festival dell’Innovazione organizzato da ItalyPost. Ne sono felice e sono anche particolarmente grato che il mio saggio sia stato il più votato (tra i 12 in gara) dalla qualificata giuria scientifica presieduta dalla rettrice del Politecnico di Milano Donatella Sciuto (che ringrazio per le parole di apprezzamento e con lei l’intero comitato). Ora tocca ad un’ampia giuria popolare di ragazzi e ragazze decidere la finalissima a fine maggio. In bocca al lupo, allora, ai cinque libri in gara. Con l’occasione, un grazie alla casa editrice Egea per aver creduto all’epoca nel progetto arrischiato di una mia trilogia filosofica che con questo volume si completa.

“Il Premio si propone di favorire le produzioni editoriali, con particolare attenzione alla qualità della scrittura, che raccontino e analizzino il mondo dell’innovazione sia sotto l’aspetto tecnologico che delle questioni etiche e filosofiche ad essa connesse. Il Premio ha lo scopo di favorire una crescita culturale, promuovendo una moderna cultura dell’innovazione in grado di stimolare lo sviluppo del tessuto industriale italiano”

Qui l’annuncio della cinquina

https://librerieitalypost.it/premio-libro-dellanno-sullinnovazione/

“L’AI non è un prodotto e neppure un servizio. Piuttosto, è un assemblaggio sociotecnico cognitivo-produttivo che istanzia e orchestra nuove forme (e dinamiche) di organizzazione della produzione e, dentro queste, nuove forme (e dinamiche) della futura divisione del lavoro. Come ho scritto (su HBR) la cd. intelligenza artificiale non è mai ‘in sé’ e ‘per sé’ (puro artefatto strumentale), ma sempre ‘con altri’ (è sistema sociotecnico) e ‘per altri’ (è costruzione sociomorfica). Così, mi sembra di poter dire che le controversie correnti sul governo dell’AI sono filosoficamente ingenue e politicamente miopi. A fronte delle arrischiate uncanny valley che stiamo attraversando (e, in una qualche misura, anche già abitando), si sollevano richieste accorate -quando non proprio allarmate- di mettere a governo (giuridico, etico, economico, sociale, politico…), di volta in volta, il dato, l’algoritmo, il modello, il codice. A questo processo di ‘reificazione’ (vale a dire, l’isolare e il ridurre l’AI a cose e, in particolare, a mere tecnicalità), fa da contraltare, la ‘personificazione’ (cioè, l’antropomorfizzare macchine e interfacce assegnando loro, di volta in volta, intelligenza, coscienza, senzienza e così via). Sono entrambi approcci ingenui e miopi, per l’appunto, che non colgono l’articolazione assemblativa che, ideologicamente, chiamiamo intelligenza artificiale. Non solo conoscenza (ragione), ma lavoro (opera). Che non è solo pensiero (razionalità), ma anche azione (agentività). Che non riguarda solo l’umano con i suoi antropomorfismi e sociomorfismi, ma anche il nostro orizzonte sempre più more-than-human. Un orizzonte intricato, di assemblaggi, perturbazioni, aggrovigliamenti, speciazioni, automazioni, reticolati, derivati, stratificazioni, distribuzioni che turbano, oggi, il sonno di molti. Anche il discorso regolatorio e giuridico comincia a prendere consapevolezza che occorrerà dotarsi di sguardi perturbati e inconsueti per riuscire a cogliere un divenire poco familiare (ad es. “Three Liability Regimes for Artificial Intelligence”). Di quanta innovazione culturale saremo capaci? Quanto riusciremo ad essere aberranti nel nostro pensare il nuovo?” (Accoto 2023)

“…we propose three liability regimes for addressing the considerable responsibility gaps caused by AI-systems: vicarious liability for autonomous software agents (actants), enterprise liability for inseparable human-AI interactions (hybrids) and collective fund liability for interconnected AI systems (crowds) …We focus on three fundamental risks that AI systems pose: autonomous decision-making, association with humans, and systemic interconnectivity … We integrate insights from social theory, moral philosophy, and the philosophy of technology. These insights are particularly helpful for dealing with complex issues such as personification of algorithms, emergent properties of human-algorithm associations and distributed cognition of interconnected network…” (Beckers & Teubner)

Su EconomyUp un mio nuovo intervento sull’era generativo-inflattiva delle immagini sintetiche. Dopo l’esame dei linguaggi sintetici della scorsa puntata, è ora il turno di osservare da vicino una nuova uncanny (sexy e risky) valley, quella delle immagini di sintesi. Dalla produzione artistica alla diagnostica medica, dal marketing digitale al design industriale, l’era inflattiva dell’intelligenza artificiale generativa farà leva anche sulle potenzialità (e le vulnerabilità) dell’immagine sintetica. 

“Se l’immagine ‘latente’ in un processo meccanicamente fotografico era prodotta chimicamente, l’immagine ‘latente’ in un processo artificialmente generativo è prodotta algoritmicamente” … E dovremo parlare non più di “fotorealismo”, ma di “algorealismo” (Accoto 2023). Ma questo è un passaggio filosofico oltre che tecnologico e non dobbiamo sottovalutarlo. Mentre infuria in Italia la querelle legale su ChatGPT e i linguaggi sintetici (tema di un mio primo intervento) in ragione del provvedimento del Garante, su EconomyUp trovate oggi un mio nuovo contributo dedicato questa volta all’era delle immagini sintetiche. Una nuova, uncanny (sexy e risky) valley foriera di sorprendenti opportunità, ma sicuramente anche di altre controversie …
Se l’avete perso è qui sotto. Buona lettura!

Un grazie al direttore Iozzia per l’interesse e l’ospitalità

https://www.economyup.it/blog/e-cominciata-lera-dellimmagine-di-sintesi-come-funziona-quali-rischi-porta/

Seminario HBR Italia: mio intervento live & direct da Boston. Un grazie al direttore di HBR Italia Enrico Sassoon per l’interesse verso le mie esplorazioni filosofiche arrischiate e per l’invito e la discussione!

https://www.youtube.com/watch?v=cf7uFLYM5Bs&t=2961s

“Filosoficamente e operativamente, il prompt engineering è una forma immanente ultima di chaos engineering” (Accoto 2023)

“È opinione diffusa e discorso circolante che bisogna ‘governare la tecnologia’. Da ultimo, in ordine di tempo, quella dell’intelligenza artificiale. A fronte delle arrischiate uncanny valley che stiamo attraversando (e, in una qualche misura, anche già abitando), si sollevano richieste accorate di mettere a governo (giuridico, etico, sociale, politico…) le ondate tecnologiche in essere e in divenire. Vulnerabilità e rischi di varia natura sono i fattori scatenanti queste volontà disciplinari e normative. Naturalmente, c’è un che di condivisibile e consolante (e anche di giusto) in questi richiami alla governabilità della dimensione tecnica. E, tuttavia, mi sembra però anche che queste esortazioni governamentali palesino tutte, in fondo, una certa naïveté culturale e filosofica. Se non anche un velato e intenzionale offuscamento e/o dirottamento del discorso. In che senso diciamo che la tecnologia è governabile? A quali condizioni immaginiamo si possa governare? Come, quando e per cosa deve essere sottoposta a governo la tecnica? Le sue intenzioni o le sue applicazioni? Le innovazioni del presente o le loro conseguenze all’orizzonte? E che dire dell’economia politica della tecnica? È solo ingegneria o è anche e soprattutto politica? Va da sé che, se necessita di regole, è perché è ritenuta o incapace da sé di governo (inabilità) oppure addirittura proprio renitente al governo (indisponibilità). L’ingovernabilità è temuta e negata. In tutti i casi e comunque, la governabilità è data e presupposta. La tecnologia è governabile, si può governare e si deve governare. E così sempre più, principi, valori, modelli, leggi, regole, pratiche sono evocati per incatenare, prometeicamente, la tecnica. Con un paradosso, la cibernetica, scienza del controllo, richiede di essere a sua volta controllata. Ma è proprio così linearmente e ingenuamente che stanno le cose? Che mandato (si) è dato alla tecnica?” (Accoto 2023)

———————-

Philosophically and operationally, prompt engineering is an ultimate immanent form of chaos engineering” (Accoto 2023).

“There is a widespread opinion and discourse that we need to ‘govern’ technology. Most recently, in the order of time, that of artificial intelligence. In view of the risky uncanny valleys we are currently passing through (and to some extent already inhabiting), heartfelt calls are being made for the (legal, ethical, social, political…) governance of existing and emerging technological waves. Vulnerabilities and risks of various kinds are the triggers of these disciplinary and normative wills. Of course, there is something sympathetic and comforting (and even right) in these calls for the governability of the technological dimension. And yet, it also seems to me that these governmental exhortations all reveal a certain cultural and philosophical naivety. If not a veiled and deliberate obfuscation and/or hijacking of the discourse. In what sense do we say that technology is governable? Under what conditions do we imagine that it can be governed? How, when and why does technology need to be governed? Its intentions or its applications? The innovations of the present or their consequences on the horizon? And what about the political economy of technology? Is it only technical or is it also and above all political? Of course, if it needs rules, it is because it is seen as either incapable of governing itself (ungovernability) or even unwilling to be governed (unwillingness). Ungovernability is feared and denied. In all cases, however, governability is given and assumed. Technology is governable, it can and must be governed. And so more and more principles, values, models, laws, rules, practices are invoked to chain technology in a Promethean way. Paradoxically, cybernetics, the science of control, also demands to be controlled. But is this really linear and naive? What mandate is given to technology?” (Accoto 2023)

[MIT SpaceTech 2023] Atterrare, attraversare e finanche abitare nuove, uncanny valley: è il senso del nostro ‘divenire’ umani, nuovamente e diversamente ogni volta (dalle terre aliene dei modelli linguistici, sintetici e inflattivi, alla GPT fino alle lande desertiche delle missioni interplanetarie su Marte). Non potremo abitare in consapevolezza, fiducia e prosperità queste vallate perturbanti semplicemente restando umani, ma divenendo umani in modo diverso ancora una volta. Se l’umano è/diviene soglia come si dice postmodernamente, la filosofia è/diviene sempre fuori di sè … 

[photo: MIT SpaceTech 2023]

[articolo] Pubblicato oggi un mio lungo articolo sul nuovo numero di MIT Sloan Management Review Italia (1/2023). Questo numero della rivista è dedicato al tema dei gemelli digitali e il titolo del mio articolo è: “Il doppio del mondo. Dai mirror world ai digital twin”. Un grazie di cuore ad Edizioni ESTE (casa editrice italiana della rivista) e al direttore della rivista Francesco Varanini per l’invito e l’ospitalità. Un numero ricco di contributi da leggere interamente per approfondire, tra opportunità e vulnerabilità, un paradigma trasformativo di assoluto rilievo per imprese, organizzazioni, istituzioni, professionisti, manager e cittadini.

Maggiori info per acquisti e abbonamenti sul sito di Este al link
https://www.este.it/mit-sloan-management-review-italia/

Qui trovate il mio articolo pubblicato su Harvard Business Review (marzo 2023) “sull’era della parola sintetica”. Un grazie al direttore Enrico Sassoon per l’interesse verso le mie esplorazioni filosofiche arrischiate, per l’invito a contribuire allo speciale sull’intelligenza artificiale e l’ospitalità dentro le pagine dell’ultimo numero della rivista.

“Attraverseremo e abiteremo una nuova uncanny valley: l’era inflattiva dell’intelligenza artificiale generativa. Linguaggi macchinici, immagini artificiali, musiche sintetiche, mondi virtualizzati, identità avatariche e molto altro. Come ho scritto nel mio saggio “Il mondo in sintesi”, è un nuovo catalogo del reale che nasce popolato di contenuti, informazioni, creazioni, storie, simulazioni, giochi, esperienze che non hanno precedenti nella storia della civiltà umana. O meglio: questa è l’ennesima, nuova spinta mediale inflattiva che arriva a turbare e scardinare radicalmente logiche e dinamiche consolidate da qualche tempo per l’umano su questo pianeta. Tuttavia, un’era mediale inflazionaria non è tale solo per l’esplosione di tecniche riproduttive, contenuti mediali, veicoli distributivi o velocità di circolazione. “A media age does not become inflationary merely because of the multiplications of kinds, speed, and power of media, however. Media become inflationary when the scope of their representation of the world threatens the confines of their culture’s prior notions of reality” (Medialogies, Castillo & Egginton). È un attacco alla nozione di realtà e alla sua rappresentazione (storicamente determinata) che l’umano ha prodotto e di cui istanzia il collasso. A fronte di questo attacco e collasso, un umanesimo impaurito o arrabbiato, ma anche per converso ingenuamente entusiasta non ci aiuterà. Non sarà una soluzione un umanesimo che proponga timorosamente la restaurazione culturale del ‘tornare all’umano’ o del ‘restare umani’. Piuttosto, dobbiamo prepararci a sfide importanti e di lungo periodo al di là delle banalità e delle ingenuità che si possono leggere quotidianamente. Siamo in una uncanny valley tecnologica tutta da esplorare nuovamente nelle sue potenzialità e vulnerabilità. Come in altre epoche inflazionarie, abbiamo bisogno di un umanesimo che sappia coraggiosamente promuovere un’innovazione culturale. Come fece, ad esempio, Lorenzo Valla inventando nel 1440 la filologia (De falso credita et ementita Constantini donatione) a contrasto delle vulnerabilità della neonata parola “scritta” (e poi stampata) dopo l’era della parola “detta”. All’epoca, per cogliere i benefici di quell’era inflazionaria abbiamo avuto bisogno di fare innovazione culturale. Allo stesso compito siamo chiamati oggi dentro questa nuova era inflazionaria dell’intelligenza artificiale generativa” (Accoto 2023, postilla)