Perché l’intelligenza artificiale generativa non è una persona, ma ci costringe a ripensare la persona

La domanda più diffusa sull’intelligenza artificiale è anche la meno utile: le macchine possono diventare soggetti? È una domanda affascinante, ma mal posta. Ci costringe a scegliere tra due risposte troppo semplici: sì, l’IA sarà una nuova persona; no, resterà per sempre un oggetto. Il punto è che i sistemi generativi non stanno comodamente né da una parte né dall’altra. Non sono soggetti, perché non hanno coscienza, intenzione, desiderio, responsabilità morale. Ma non sono neppure strumenti nel senso tradizionale, come un martello, una penna, una calcolatrice. Producono testi, immagini, diagnosi, valutazioni, consigli, piani d’azione. E lo fanno imitando la forma esterna della soggettività umana: argomentano, rispondono, correggono, assumono un tono, sembrano “capire” ciò che diciamo.

La questione decisiva, allora, non è se l’IA sia un soggetto. La questione è più inquietante: che cosa accade quando un sistema non soggettivo comincia a operare sulla soggettività umana, a riprodurne le forme e a incidere sulle nostre vite? Qui nasce ciò che propongo di chiamare soggettività di secondo ordine. Non una soggettività che la macchina possiede, ma una soggettività che la macchina manipola. L’IA generativa non ha un io; lavora però su milioni di io sedimentati nel linguaggio. Non ha esperienza; elabora tracce di esperienze altrui. Non ha intenzioni; produce enunciati che hanno la forma dell’intenzione. È, in questo senso, un soggetto che non c’è.

La nostra soggettività come materia prima

Un modello linguistico non nasce dal nulla. Viene addestrato su quantità immense di testi, immagini, conversazioni, documenti, opere, risposte, commenti, frammenti di vita digitale. Ma questi materiali non sono semplicemente “dati”. Sono tracce di soggettività: qualcuno ha scritto, immaginato, desiderato, argomentato, sbagliato, confessato, spiegato, protestato. Nei dati non c’è solo informazione; c’è una forma della presenza umana nel mondo.

Il ciclo è relativamente semplice da descrivere, anche se enorme nelle sue conseguenze. Primo: estrazione. La soggettività umana viene prelevata nella sua forma linguistica e comportamentale. Non il soggetto in carne e ossa, ma le sue impronte: il modo in cui ragiona, racconta, ordina le frasi, persuade, consola, accusa. Secondo: compressione. Quelle impronte vengono trasformate in parametri, cioè in relazioni matematiche che non appartengono più a nessuno in particolare e tuttavia derivano da tutti. Terzo: replicazione. La macchina restituisce quelle forme compresse sotto forma di risposte, raccomandazioni, diagnosi, profili, punteggi, decisioni. La soggettività umana, prima estratta e trasformata, ritorna poi verso altri soggetti come ambiente operativo.

È qui che il fenomeno diventa culturalmente decisivo. L’IA non si limita a “parlare come noi”. Comincia a rimandarci una versione statisticamente ricomposta di ciò che siamo stati, di ciò che potremmo dire, di ciò che soggetti simili a noi hanno detto o fatto. Il chatbot che suggerisce una risposta, il sistema che valuta un curriculum, l’algoritmo che assegna un punteggio di affidabilità, il modello che orienta una diagnosi: in tutti questi casi non abbiamo semplicemente una macchina che calcola. Abbiamo una macchina che riorganizza tracce di soggettività e le trasforma in criteri operativi.

Il paradosso della soggettività senza soggetto

Da qui nasce il paradosso centrale. I sistemi generativi producono enunciati che sembrano provenire da qualcuno, ma non provengono da nessuno. Hanno coerenza, tono, pertinenza, persino stile. Possono essere gentili, assertivi, prudenti, aggressivi, empatici. Possono scrivere una lettera d’amore, una memoria difensiva, una diagnosi preliminare, una valutazione del rischio, una motivazione amministrativa. Ma dietro quella forma soggettiva non c’è un soggetto. Non c’è un’esperienza vissuta. Non c’è un io che si assuma la paternità di ciò che viene detto.

Questa non è una sottigliezza filosofica. È un problema giuridico e politico. Le nostre istituzioni sono costruite intorno a posizioni soggettive: chi decide, chi subisce, chi chiede, chi risponde, chi contesta, chi giustifica. Il diritto presuppone sempre un aggancio: qualcuno deve poter essere chiamato a rispondere. Quando però un effetto rilevante nasce da una catena composta da dati, modelli, provider, utilizzatori, interfacce, prompt, aggiornamenti e opacità tecniche, l’aggancio si fa incerto. Il cittadino incontra una decisione; non sempre incontra un decisore. Subisce un effetto; non sempre trova un interlocutore. Ha qualcosa da contestare; non sempre sa a chi rivolgere la contestazione.

Questo è il vuoto procedurale dell’IA: non l’assenza di persone nella catena, ma la dissoluzione della posizione responsiva. Ci sono società, sviluppatori, amministrazioni, piattaforme. Eppure, nel momento preciso in cui l’output incide sulla vita di qualcuno, il soggetto che dovrebbe rispondere sembra arretrare, distribuirsi, frammentarsi. La macchina non risponde perché non è soggetto. L’umano spesso non risponde perché non sa davvero come la macchina abbia prodotto quel risultato. Il diritto trova una decisione, ma fatica a trovare un volto.

Dagli strumenti agli agenti

Questo problema diventa ancora più evidente con i sistemi agentici, cioè con le IA capaci non solo di rispondere, ma di pianificare e agire. Un agente artificiale può consultare banche dati, scrivere email, prenotare servizi, eseguire codice, compilare documenti, negoziare passaggi intermedi, mantenere memoria operativa. Non siamo più davanti a una macchina che produce un testo da valutare; siamo davanti a una macchina che compie sequenze di azioni in nome di qualcuno.

Qui la vecchia formula “è solo uno strumento” comincia a cedere. Un martello non decide come colpire. Una penna non sceglie il destinatario della lettera. Un agente artificiale, invece, può selezionare mezzi, ordinare priorità, correggere la rotta, interagire con altri sistemi. Non diventa per questo una persona. Ma smette di essere un oggetto passivo. È qualcosa di più disturbante: un dispositivo che agisce senza essere soggetto, dentro processi che normalmente richiederebbero soggetti.

La de-soggettivizzazione

Il rischio più profondo non è che l’IA diventi umana. È che l’umano venga progressivamente trattato come materiale addestrativo e poi come destinatario di modelli che lo precedono. La soggettività viene prima estratta e poi restituita sotto forma di norma statistica. Prima siamo materia prima: i nostri testi, le nostre immagini, le nostre conversazioni, i nostri comportamenti alimentano modelli generativi. Poi diventiamo destinatari di quei modelli: veniamo valutati, indirizzati, profilati, consigliati, talvolta corretti, sulla base di rappresentazioni aggregate di soggetti simili a noi.

Questa è la de-soggettivizzazione. Non significa che il soggetto scompaia. Significa che viene svuotato dall’interno: la sua parola diventa dato; il suo comportamento diventa pattern; la sua identità diventa posizione calcolabile; la sua decisione viene accompagnata, anticipata o sostituita da una raccomandazione automatica. Il soggetto resta formalmente libero, ma si muove in un ambiente che gli restituisce senza sosta la versione più probabile di se stesso. La norma non appare più come ordine esterno; si deposita nell’architettura delle possibilità. La libertà non viene abolita; viene preformata.

Persona digitale e referente contestabile

Per rispondere a questa trasformazione non basta difendere una vecchia immagine del soggetto, chiuso nella propria interiorità come una piccola fortezza cartesiana. Nello spazio digitale il soggetto è sempre più una posizione: un punto mobile in reti di dati, relazioni, autorizzazioni, profili, diritti, obblighi, reputazioni, accessi. La nostra identità non coincide con un singolo dato, né con un account, né con un documento elettronico. È una topografia: il modo in cui siamo collocati nell’infosfera.

Se un algoritmo modifica il mio punteggio, restringe il mio accesso, altera la mia visibilità, mi associa a un rischio, mi colloca in una categoria, non tocca semplicemente un’informazione su di me. Modifica la mia posizione nel mondo. L’habeas corpus proteggeva il corpo dall’arbitrio del potere. L’habeas data ha provato a proteggere la persona attraverso il controllo sui dati. Ma l’epoca dell’IA richiede qualcosa di ulteriore: un diritto alla contestabilità della propria posizione digitale. Non basta sapere che cosa viene conservato su di noi. Bisogna poter contestare ciò che viene fatto di noi attraverso modelli che ci rappresentano, ci prevedono, ci classificano.

La soluzione, allora, non consiste nell’attribuire personalità giuridica all’IA. Sarebbe una scorciatoia affascinante ma pericolosa: rischierebbe di creare un nuovo soggetto fittizio proprio dove il problema è garantire responsabilità umana, trasparenza procedurale e possibilità di opposizione. La risposta più sobria è costruire sempre un referente contestabile: un punto della catena a cui il cittadino possa rivolgersi quando un sistema di IA produce un effetto rilevante sulla sua vita. Il diritto non deve risolvere il mistero ontologico dell’intelligenza artificiale. Non deve stabilire se la macchina “pensi” davvero. Deve fare qualcosa di più urgente: impedire che decisioni senza soggetto producano effetti senza interlocutore. Per questo la soggettività di secondo ordine è una categoria utile. Non umanizza le macchine; mostra quanto le macchine stiano già lavorando sull’umano. L’IA generativa non è il nuovo soggetto della storia. È il dispositivo che prende le tracce dei soggetti, le comprime in modelli e le restituisce come ambiente operativo. Non dobbiamo chiederci se abbia un’anima. Dobbiamo chiederci chi risponde quando una soggettività senza soggetto modifica la nostra posizione nel mondo.