Le nuove leggi della robotica

Frank Pasquale, nel suo nuovo libro, propone di sostituire l’artificial intelligence (IA) con l’augmented intelligence (AI). Di Teresa Numerico

Le nuove leggi della robotica

Foto di Futuregirl da Pixabay

Frank Pasquale deve molta della sua notorietà al libro Black Box Society (2015, Harvard University Press) nel quale denunciava che a guidare motori di ricerca e servizi finanziari siano algoritmi opachi, nascosti dentro scatole nere che impediscono di riconoscere le regole che ne determinano le preferenze e ne organizzano i risultati. Pur insegnando alla Brooklyn Law School come giurista, mantiene una sensibilità spiccata per questioni filosofiche e tecnologiche ed è stato tra i primi a segnalare il rischio della deriva tecno-burocratica della società digitalizzata. A Torino ha presentato il suo nuovo volume: New laws of robotics: defending human expertise in the age of AI (Belknap Press, 2020, 330 pp.). Il suo obiettivo è evitare di rincorrere la tecnologia robotica per regolamentarla, come è avvenuto con le piattaforme. È convinto che sia meglio favorire l’Augmented Intelligence (AI) invece dell’Artificial Intelligence (IA), cioè usare strumenti capaci di potenziare la capacità di intelligenza umana, piuttosto che cercare di sostituirla con l’imitazione. In campi come la medicina, la cura, l’educazione è sbagliato automatizzare le professioni, mentre sarebbe utile avere dispositivi per supportare gli esperti a prendere decisioni difficili e incerte. Al centro del nuovo testo sta la proposta di sostituire le leggi di Asimov con quattro nuovi principi:

  1. Complementarità dei dispositivi rispetto alle capacità umane (intelligenza aumentata invece che intelligenza artificiale);
  2. Non contraffazione dell’umanità;
  3. Cooperazione invece di competizione (contro la corsa agli armamenti robotici);
  4. Responsabilità (deve essere sempre possibile attribuire la responsabilità delle azioni e delle decisioni prese a un soggetto umano).

Un aspetto molto interessante del lavoro di Pasquale è la schiettezza con la quale è pronto a discutere a proposito di quale tecnologia implementare nella società indipendentemente dalle possibilità offerte dalla ricerca tecnologica. L’obiettivo del libro è tracciare una linea tra strumenti abilitanti e soluzioni che possono solo peggiorare le condizioni umane e che non rispettano la dignità e rischiano di tradursi in una svalutazione dell’esistenza in carne e ossa.

Come sottilmente insinua nel suo progetto, si tratta di definire il sistema di misurazione dell’efficienza di questi dispositivi e sottoporli a un audit stringente sulle vere capacità a scapito di quelle millantate dalle macchine, progettate con l’intento di ingannare le persone inesperte per spingerle a considerarle intelligenti e empatiche.

L’efficienza non si può ottenere a scapito dell’equità.

Una posizione molto netta che farà discutere riguarda la sua espressa contrarietà a costruire robot che abbiano lo scopo di emulare le capacità affettive. L’affective computing, infatti, come nella condanna metafisica dell’arte da parte di Platone, viene definito come una copia del potenziale emotivo umano che avrebbe come conseguenza una progressiva svalutazione di questa componente e una sua trivializzazione attraverso un riflesso impallidito delle capacità empatiche il cui esito sarebbe una completa perdita della dignità delle persone inflazionate e rese superflue dalla sostituzione macchinica. Non solo queste macchine affettive sarebbero solo un simulacro, mercificato dell’umanità, ma la priverebbero del piacere di far valere la propria singolarità.

Nel lavoro si presenta anche una componente di ottimismo, perché, secondo Pasquale, l’avvento dei robot provocherà un aumento della richiesta di esperti delle discipline specifiche – gli unici in grado di governare le macchine e soprattutto di negoziare con loro sull’applicazione dei valori complessi della convivenza democratica e pacifica.

Le pagine più interessanti sono quelle che discutono della illegittimità dell’automazione dei giudizi in molti contesti sensibili dal punto di vista della tutela dei diritti umani, civili e sociali delle persone. Sulla necessità di un soggetto responsabile dell’agency del giudizio si gioca una partita democratica molto sfuggente, ma che è al cuore del diritto e di ogni sistema di regolazione come lo abbiamo conosciuto finora.

Se questa responsabilità viene meno o verrà attribuita all’attore meccanico attraverso un artificio giuridico ci troveremo di fronte all’impossibilità di contrastare qualsiasi abuso di potere. Avremo armi spuntate. Tutto sarà deciso da un latinorum, scritto nelle linee opache dell’inaccessibile codice algoritmico, tutelato dal segreto industriale.

Il successo del progetto di Pasquale riguarda anche la distinzione stessa del diritto tra sfera pubblica e sfera privata. Se non possiamo definire con chiarezza quale agente sia responsabile della decisione algoritmica che avrà conseguenze sui cittadini e non abbiamo gli strumenti per esercitare l’audit delle scelte automatizzate, ogni servizio pubblico finirà per essere amministrato dalle aziende a cui lo stato e gli enti locali sceglieranno di appaltare e delegare i servizi. Si costituirà una asimmetria ancora maggiore di quella già in vigore tra gestore delle prestazioni e i loro fruitori che sarà oggetto di una semplice trattativa privata. Tutto sarà penetrato dal mercato in una logica di reificazione nella quale nessun diritto potrà essere tutelato ma solo negoziato sulla base dei rapporti di forza tra i contraenti dei termini del contratto, senza potersi rivolgere a un’istanza superiore valida per tutti.

Se il codice dell’algoritmo diventa la legge, come suggerisce Alain Supiot, non possiamo più affidarci alla norma per difendere i diritti. L’automazione paradossalmente instaura la legge della tribù, bisognerà scegliere il gruppo capace di fornire la tutela dei propri interessi, mentre i diritti non saranno più garantiti.

Abbiamo approfondito questi temi direttamente con Frank Pasquale in una lunga intervista, pubblicata qui in versione integrale.

Qui il PDF

Invia commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.

Share This