Human-in-the-loop o dell’etica anestetica (Accoto 2025)
< Chi è, cos’è, da dove viene e come si diviene questo fantomatico “umano” che tutti vorrebbero al centro, in controllo, nel giro? Interrogati sul punto filosofi, antropologi e geografi faticano a trovarne tracce sul pianeta. Per alcuni abita in maniera prepotente e supponente la Terra. Eppure ci diciamo consolati e fiduciosi che c’è (anche se in molti loop attuali come quello climatico e bellico ha mostrato di fallire). Ma, mi chiedo provocatoriamente, con quali molti modi di esistenza, di divenienza e di significanza? Non possiamo semplicemente consolarci con l’arrogazione (e con l’arroganza anche talvolta) dell’umano, ma essere sferzati con l’interrogazione (e anzi proprio con l’interroganza di senso) sull’umano. Si racconta che il filosofo Diogene andasse in giro per la città di giorno con una lanterna accesa dicendo “cerco l’uomo”. Pochi ricordano però un altro episodio. Si narra che una volta gridò: “Ehi, uomini” e poi prese a dar colpi di bastone a chi era accorso urlando: “Ho chiamato uomini, non balordi”. Direi, un’etica giustamente sferzante l’umano e non anestetica come è quella dell’umano nel loop. Lontano dalle seduzioni delle sedazioni (le attuali derive anestetiche dell’etica), le ferite narcisistiche provocate dall’AI ci richiedono provocanti di fare innovazione culturale. Di produrre, cioè, nuovo senso e significato per un divenire-umano e un divenire-planetario nuovi nell’era delle ingegnerie istituenti. Quale umano e quale loop, dunque, vogliamo evocare? > (Accoto 2025)
<< …If automated systems and software are opaque by design, the human renders decisions transparent. If automated decisions risk subordinating humans to technocracy, the human provides the requisite dignity of human consideration. If automated systems discriminate on account of the way data encodes social bias, the human corrects errors and ensures decision quality. If automation produces non-reflective forms of mindless governance, the human grounds the legitimacy and authority of legal commands. If software dissolves accountability into the procurement, design and engineering of a decision system, the human provides a coherent locus of responsibility. If automation includes emergent and generative qualities, the human garners trust, and normalises regulatory strategies premised on risk management. These intuitions mean the human in the loop has become a sort of Talisman of the appeal to re-humanise – a symbolic regulatory apparatus. At the same time, however the human in the loop’s capacity to satisfy those demands has been questioned on a number of registers (…) These arguments terminate in a conceptual and regulatory impasse. Human oversight of automated decisions may, at times, be ineffective or functionally impossible, but abandoning human agency in decision-making is politically and functionally inconceivable >> (Goldenfein, Lost in the Loop. Who is the “human” of the Human in the Loop?)
cosimoaccoto.com 