Interfaccia, testimonianza e soggettività nascosta
Il riferimento ai “sommersi” richiede una precisazione preliminare. Non ha qui funzione comparativa, né intende assimilare la violenza concentrazionaria alla regolazione digitale. Sarebbe non solo improprio, ma concettualmente fuorviante. Esso viene assunto in senso strutturale ed epistemologico: come figura-limite di una verità che non riesce a convertirsi in testimonianza. Nella riflessione di Primo Levi, il sommerso non è semplicemente colui che muore o colui che scompare; è colui che ha attraversato fino al fondo il dispositivo di annientamento e, proprio per questo, non può più restituirne parola piena. Il testimone integrale è muto. Chi parla, parla sempre da una posizione eccentrica rispetto al fondo ultimo dell’esperienza.
Questa struttura della testimonianza mancata consente di pensare, con tutte le cautele necessarie, una figura della soggettività digitale contemporanea: l’homo abditus. Con questa espressione intendo il soggetto che l’ambiente computazionale include come dato, traccia, profilo, correlazione, punteggio, ma esclude come interlocutore. L’homo abditus non è fuori dal sistema. Al contrario, è dentro il sistema in modo radicale: viene registrato, classificato, predetto, indirizzato, talvolta escluso o declassato. Tuttavia non sempre dispone di una scena nella quale possa apparire come soggetto di parola, di prova, di contestazione. È presente nel calcolo e assente nel contraddittorio.
La sua condizione non coincide con la semplice invisibilità. L’homo abditus non è invisibile perché il sistema non lo vede. È invisibile perché lo vede in una forma che ne neutralizza la comparizione soggettiva. La macchina non ignora l’uomo; lo traduce. E questa traduzione può diventare una forma di sparizione. Il soggetto viene sostituito dalla sua rappresentazione operativa: non più biografia, ma pattern; non più storia, ma profilo; non più singolarità narrativa, ma probabilità di comportamento. L’ambiente digitale non cancella l’uomo lasciandolo fuori; lo incorpora in modo tale da renderlo difficilmente udibile.
È in questo senso che si può parlare di sommersi digitali. Essi non sono, evidentemente, i sommersi di Levi. Sono coloro che subiscono gli effetti di un ambiente decisionale automatizzato senza riuscire a trasformare tali effetti in testimonianza giuridicamente riconoscibile. Non necessariamente perché siano privi di diritti formali, ma perché la struttura tecnica e procedurale nella quale sono collocati rende difficile comprendere che cosa sia accaduto, chi abbia deciso, sulla base di quali criteri, con quali dati, attraverso quale modello, secondo quali soglie. Il danno può esserci, ma non riesce a diventare caso. L’esclusione può essersi prodotta, ma non riesce a diventare racconto. L’ingiustizia può aver operato, ma non trova immediatamente la forma della prova.
La questione decisiva non è allora soltanto l’opacità dell’algoritmo. L’opacità è un problema rilevante, ma non esaurisce il fenomeno. Il punto più profondo riguarda la costituzione della scena in cui un soggetto può comparire. Il diritto moderno ha sempre semplificato la persona: la incontra come cittadino, proprietario, lavoratore, consumatore, debitore, imputato, paziente. Ma questa riduzione era compensata, almeno idealmente, da una grammatica procedurale: l’atto, la motivazione, il giudice, il ricorso, il contraddittorio, la possibilità di contestare la rappresentazione che l’istituzione produceva del soggetto. La persona non veniva mai accolta nella sua totalità, ma poteva almeno introdurre nel procedimento la propria eccedenza.
L’ambiente digitale modifica questa architettura. Molte decisioni non appaiono più come decisioni. Si presentano come esiti tecnici, come risposte automatiche, come soglie non superate, come incompatibilità, come errori di sistema, come classificazioni silenziose. Non sempre qualcuno dice: “sei escluso”. Più spesso il sistema dice: “non risulti”, “non hai i requisiti”, “la verifica non è andata a buon fine”, “il contenuto viola le regole della piattaforma”, “il tuo profilo non consente questa operazione”. La decisione si ritrae dietro l’interfaccia. Il potere non scompare; diventa ambiente.
L’interfaccia è perciò il luogo teorico fondamentale dell’homo abditus. Essa non è un semplice strumento di comunicazione tra utente e sistema. È una soglia normativa. Stabilisce che cosa può essere chiesto, come può essere chiesto, quali risposte sono ammesse, quali eccezioni possono essere rappresentate, quali anomalie vengono assorbite come errore, quali forme di dissenso sono rese praticabili. Ogni interfaccia contiene una teoria implicita del soggetto. Ogni modulo presuppone un utente normale. Ogni campo obbligatorio seleziona ciò che conta. Ogni menu a tendina riduce il possibile a una tassonomia già predisposta. Ciò che non entra nella tassonomia non viene necessariamente negato: più spesso diventa impronunciabile.
Qui emerge il legame tra interfaccia e testimonianza. Testimoniare significa più che parlare. Significa poter trasformare un’esperienza in enunciato riconoscibile da un destinatario istituzionale. Significa poter dire: questo mi è accaduto, questo è il modo in cui sono stato classificato, questa è la ragione per cui contesto la decisione, questo è il punto in cui il sistema mi ha frainteso. Il sommerso digitale non è semplicemente colui che tace. È colui per il quale il sistema non predispone una forma adeguata di dicibilità. Può anche parlare, ma la sua parola non incontra un canale capace di convertirla in procedimento.
Da qui deriva un paradosso importante. Gli utenti che reclamano, chiedono spiegazioni, attivano ricorsi, segnalano errori, ottengono revisione umana, sono già, in una certa misura, i salvati del digitale. Non perché siano privilegiati in senso morale, ma perché hanno raggiunto una soglia minima di visibilità procedurale. Sanno che qualcosa è accaduto. Possono nominarlo. Possono individuare un interlocutore. Possono insistere. Possono produrre documenti. Possono tradurre l’esperienza in domanda. Ma l’ingiustizia più radicale potrebbe collocarsi precisamente prima di questa soglia: dove il soggetto non sa che una decisione è stata presa, non capisce quale sistema lo abbia escluso, non dispone del linguaggio per contestare, oppure rinuncia perché l’interfaccia ha trasformato la contestazione in un percorso impraticabile.
Per questo l’assenza di reclami non prova l’assenza di ingiustizia. Può provarne, al contrario, la riuscita più perfetta. Un sistema che produce esclusione ma non produce reclami non è necessariamente un sistema giusto. Può essere un sistema che ha sommerso i propri esclusi prima ancora che essi potessero apparire come tali. La giustizia digitale non può allora essere misurata soltanto dal numero delle contestazioni accolte o dalla disponibilità formale di un canale di ricorso. Deve interrogare anche ciò che non arriva al ricorso, ciò che si perde nella frizione tecnica, ciò che viene scoraggiato dalla complessità, ciò che non assume mai la forma dell’evento contestabile.
Pensiamo allo scoring creditizio, assicurativo o lavorativo. Una persona può essere collocata in una classe sfavorevole non in virtù di un giudizio esplicito, ma attraverso una combinazione di dati, correlazioni, proxy e soglie statistiche. Il soggetto non si confronta più con un’accusa, ma con una rappresentazione computazionale della propria vita. Non gli viene detto: “sei inaffidabile”. Gli viene restituito un esito: domanda respinta, premio più alto, colloquio non concesso, profilo non selezionato. Il problema non consiste soltanto nel sapere se il modello abbia funzionato correttamente. Consiste nel chiedersi se il soggetto possa vedere, comprendere e contestare l’immagine operativa di sé che il modello ha prodotto.
Lo stesso accade nella moderazione automatizzata dei contenuti. Un testo, un’immagine, un account possono essere rimossi, oscurati, declassati o resi meno visibili. Talvolta la piattaforma offre una spiegazione standardizzata. Talvolta consente un reclamo. Ma spesso il soggetto incontra una decisione senza volto, fondata su policy generali, classificazioni automatiche, segnali deboli, procedure interne, criteri di rischio reputazionale o commerciale. Il contenuto non è sempre vietato nel senso classico; può essere semplicemente sepolto. L’utente non è necessariamente punito; può essere reso meno visibile. Qui l’abditus non è solo colui che non appare alla piattaforma, ma colui che appare alla piattaforma solo come problema da gestire.
Anche nei servizi pubblici digitali la figura si ripropone con particolare intensità. La digitalizzazione amministrativa promette semplificazione, accesso, velocità, riduzione dell’arbitrio. Ma quando l’architettura non funziona, il cittadino può essere consegnato a una forma nuova di impotenza: credenziali che non si attivano, banche dati che non comunicano, requisiti non riconosciuti, errori non correggibili, procedure che non prevedono il caso concreto, uffici che rinviano alla piattaforma e piattaforme che rinviano all’ufficio. Il soggetto resta preso in una zona grigia amministrativo-computazionale nella quale nessuno sembra decidere, ma qualcosa è già stato deciso.
La categoria dell’homo abditus consente allora di spostare la critica dal solo output algoritmico all’ambiente che lo rende possibile. Non basta chiedere se una decisione automatizzata sia corretta, proporzionata, non discriminatoria. Occorre chiedere quali soggetti essa renda visibili e quali lasci al di sotto della soglia della contestazione. Non basta proteggere il dato personale; bisogna restituire il contesto inferenziale in cui quel dato è stato collocato. L’habeas data resta essenziale, ma non è più sufficiente. Occorre pensare un habeas context: il diritto non solo a sapere quali dati sono stati trattati, ma a comprendere quale mondo computazionale essi hanno contribuito a costruire intorno al soggetto.
Il dato isolato, infatti, non spiega l’effetto normativo. Ciò che decide è la relazione tra dati, modelli, finalità, categorie, soglie, metriche di ottimizzazione, vincoli di design, interfacce di accesso. Una stessa informazione può essere neutra in un contesto e discriminatoria in un altro; descrittiva in un archivio e predittiva in un sistema di scoring; irrilevante per un operatore umano e decisiva per un modello. L’homo abditus è colui che non riesce a recuperare questa rete di significazione. Vede l’esito, ma non il contesto che lo ha generato. Subisce l’effetto, ma non accede alla grammatica della propria riduzione.
La testimonianza digitale dovrebbe allora essere ripensata come istituzione. Non può dipendere soltanto dall’iniziativa del singolo soggetto danneggiato, perché proprio il soggetto più esposto può essere quello meno capace di reclamare. Servono forme di testimonianza per delega: audit indipendenti, monitoraggio delle esclusioni, analisi degli accessi falliti, registri delle frizioni, verifica delle rinunce procedurali, controlli sulle categorie non rappresentate, strumenti collettivi di contestazione. Se si ascoltano soltanto coloro che riescono a parlare, si rischia di costruire una giustizia digitale calibrata sui salvati.
Questo punto ha conseguenze profonde per la teoria della responsabilità. L’esclusione algoritmica raramente dipende da un unico atto, da un unico autore, da una decisione isolata. È spesso il prodotto di una topologia: dataset, modello, interfaccia, obiettivi commerciali, vincoli organizzativi, policy, deleghe, automatismi, assenza di canali umani effettivi. Il sommerso digitale non cade necessariamente per mano di un decisore identificabile; cade dentro un ambiente. La responsabilità deve quindi imparare a pensarsi non solo come imputazione dell’atto, ma come responsabilità dell’architettura. Non solo responsabilità per ciò che il sistema decide, ma per ciò che il sistema rende impossibile dire.
In questa prospettiva, la giustizia non è più soltanto una qualità della decisione finale. È una proprietà dell’ambiente. Un ambiente digitale è giusto non quando funziona bene per l’utente medio, ma quando non abbandona chi non coincide con il modello implicito di utente per cui è stato progettato. È giusto quando consente l’eccezione, quando rende contestabile la classificazione, quando permette di recuperare il contesto, quando non confonde il silenzio con il consenso, l’assenza di reclami con l’assenza di torti, la leggibilità con la legittimità.
La progettazione dell’interfaccia dovrebbe allora assumere una regola controintuitiva: non progettare soltanto per il percorso normale, ma per il punto in cui il percorso normale fallisce. L’interfaccia giusta non è soltanto quella semplice, veloce, intuitiva. È quella che sa aprire varchi quando la semplicità diventa esclusione; che consente di spiegare ciò che non entra nei campi predefiniti; che offre un referente umano quando l’automazione produce un vicolo cieco; che rende visibili le ragioni della soglia; che permette al soggetto di dire: il mio caso non coincide con la vostra rappresentazione.
L’homo abditus non va quindi inteso come residuo romantico dell’umano contro la macchina. Non è l’anima ineffabile che l’algoritmo non riesce a catturare. È una figura istituzionale più concreta e più inquietante: il soggetto che la macchina cattura senza che il diritto riesca ancora ad ascoltare. Il problema non è ciò che resta misteriosamente fuori dal calcolo, ma ciò che il calcolo include senza trasformare in presenza giuridica. L’abditio non è metafisica; è procedurale, ambientale, infrastrutturale.
Da questo punto di vista, il richiamo ai sommersi torna nella sua funzione più esigente. Esso non invita a paragonare esperienze storicamente incomparabili, ma a non fidarsi della verità raccontata solo dai sopravvissuti alla selezione del sistema. Ogni ambiente produce i propri leggibili: coloro che riescono a muoversi dentro la procedura, a interpretare l’interfaccia, a reclamare, a ottenere risposta. Ma la verità di un ambiente si misura anche da coloro che esso non riesce, o non vuole, rendere testimoni.
La domanda conclusiva diventa allora questa: quali istituzioni possono parlare a partire dal silenzio dei sommersi digitali senza appropriarsene? La risposta non può essere paternalistica. Non si tratta di sostituire la voce dei soggetti con la voce degli esperti, dei regolatori o degli audit. Si tratta piuttosto di costruire ambienti nei quali il silenzio non venga scambiato per inesistenza. Ambienti che cerchino attivamente ciò che non appare. Procedure che non attendano solo il reclamo, ma indaghino le condizioni che impediscono il reclamo. Interfacce che non si limitino a guidare l’utente conforme, ma riconoscano l’utente che inciampa, devia, non capisce, non rientra, non risulta. L’homo abditus e i sommersi digitali nominano così una stessa frattura: quella tra essere trattati dal sistema ed essere riconosciuti come soggetti davanti al sistema. In questa frattura si colloca una delle questioni fondamentali della giustizia contemporanea. Non basta chiedere che le macchine decidano meglio. Occorre chiedere che gli ambienti tecnici non impediscano agli esseri umani di comparire come destinatari di giustizia. Perché l’ingiustizia digitale non comincia soltanto quando un algoritmo sbaglia. Comincia quando lo sbaglio non può essere detto, quando l’esclusione non può essere provata, quando il soggetto resta nascosto proprio nel punto in cui il sistema pretende di averlo finalmente visto.
