Le auto a guida autonoma e l’etica degli algoritmi
Proviamo a immaginare di essere in un futuro non troppo lontano. In questa proiezione a medio termine le auto a guida autonoma hanno superato i test della sicurezza.
Hanno superato i problemi che riguardano il codice della strada e quelli assicurativi, e non saranno pochi questi ultimi solo ponendosi la domanda: chi pagherà per l’eventualità, anche se remota, di un incidente la cui responsabilità dovesse ricadere sull’auto a guida autonoma? Sul guidatore che non stava guidando? Sulla casa che ha prodotto l’auto e che è certa che i propri algoritmi non possano consentire una responsabilità negli incidenti? Comunque qui, in questo scampolo di futuro, le beghe burocratiche si suppone siano state risolte. Quindi mr. Reds può avviarsi in tutta scioltezza verso il concessionario (ipotizziamo Fiat-Chrysler dal momento che ad oggi sono stati firmati accordi per lo sviluppo tra Google e la casa) e comprare quell’auto che gli permetterà di effettuare, per esempio, il viaggio tra casa e lavoro, in una Roma comunque trafficata, sfruttando quei quarantacinque minuti più quindici per il parcheggio per smazzarsi le mail, fare il punto sulla sua presenza nei social e ordinare la spesa attraverso Amazon Fresh.
Mr. Reds è pittosto soddisfatto. Cammina con sicurezza attraverso i vari modelli del concessionario, lascia che l’addetto gli illustri le meraviglie delle auto a guida autonoma disponibili e arrivato alla scrivania del servizio vendite, attendendo che il venditore termini l’affare con un cliente che lo ha preceduto verso questo roseo avvenire automatizzato, e affondato in una delle poltrone della sala d’attesa, dà una scorsa alle notizie sul proprio smartphone. La notizia è lì, campeggia in bella posta prima di ogni possibile scrollata sul sito di La Repubblica e dice che un tizio nella ormai desertificata pianura padana si è ritrovato nel regno dei cieli perché l’auto su cui viaggiava, auto a guida autonoma, ha deciso che, anziché investire i quattro ciclisti che all’improvviso erano spuntati da dietro un curvone, sarebbe stato meglio andarsi a schiantare contro un muro, apparente, unica, altra possibilità rimasta di fronte alla collisione con i ciclisti.
Perchè? Perchè, si chiede immediatamente mr. Reds , una cosa che viene pagata 37,958 euro tasse escluse dovrebbe prendere una decisione del genere di fronte a quattro imbecilli che viaggiano contromano in una strada dove in linea teorica i cicloimbecilli con pedalata assistita non dovrebbero sviluppare fantasie escursionistiche? Semplice, si risponde mr. Reds sentendo d’un tratto l’accogliente concessionario ad aria condizionata e caffè per le attese come un posto progettato per trarre in inganno i poveretti che vorrebbero solo migliorare la qualità della propria vita: l’auto ha fatto quella scelta perché un algoritmo ha lavorato su un valore relativo alla conservazione della specie e quindi ha scelto di salvare il maggior numero di persone possibili favorendo i 4 cicloturisti con pedalata assistita al proprio ospite che tra l’altro è stato ritrovato con il cellulare impiantato nella scatola cranica dopo l’impatto. Questa storiella da notizia del mattino mette mr. Reds piuttosto di malumore e lasciata, non senza fatica, la sua poltrona ergonomica e l’aria microfiltrata il Nostro si dirige a larghi e convinti passi verso l’uscita con la ferma convinzione di entrare nel concessionario Volkswagen dall’altra parte della strada e comprare non solo una macchina a guida tradizionale ma di comprarla anche con cambio manuale.
Ecco, credo che in casi come questi, madame questione etica faccia da padrona riguardo le scelte, ma pur facendo da padrona questa rispettabile signora dovrà fare i conti con il mercato ad esempio, e con innumerevoli altre varianti che lei pensa non dovrebbero entrare in gioco quando si tratti di scelte. La signora dal canto suo sembrerebbe sapere molto bene cosa fare in ogni occasione ma il fatto è che spesso alcuni guastafeste le fanno notare che quella che sembrerebbe una verità inconfutabile è confutabilissima dal momento che il mondo pare non ne voglia proprio più sapere di verità inconfutabili, univoche, e assolute.
E in ogni caso in questa storia sulle scelte, su madame questione etica, e sul piuttosto piccato mr. Reds entra in gioco un fatto essenziale. Ok, mettiamo che mr. Reds abbia torto, che il suo sia solo un istinto biecamente egoista, che ancor di più andrebbero salvaguardati, non solo i cicloturisti con pedalata assistita, ma i bambini, le scolaresche ad esempio, magari anche le donne, meglio se incinte. Mettiamo che madame questione etica rivendichi una verità assoluta e che noi gliela concediamo. Mettiamo che ognuno di noi guidato dalla propria pietà conceda all’auto a guida autonoma che ora ospita il suo proprietario con in cellulare impiantato nell’area occipitale, di aver agito secondo giustizia. Il fatto, quello che mi sembra importante, è che un programma sia stato messo a punto per poter, in particolari condizioni, distruggere un essere umano. Sì, credo sia questo il fatto essenziale. Una macchina è stata creata nella condizione di poter decidere della morte di un essere umano. Per ragioni etiche? Sì, ci sta, ma la cosa non toglie peso al fatto epocale. Mi sembra sia un passo non da poco, perché si è rotto un tabù, si è considerato per la prima volta che una macchina potesse decidere della morte dell’uomo che la possedeva. Certo è normale che il tema detto così evochi una serie di fantasmi, dalle sequenze di Hal in 2001 odissea nello spazio agli orizzonti di Matrix.
Ma prendiamo la cosa da un altro punto di vista.
Non c’è modo di controllare i processi evolutivi della tecnologia se non stabilendo degli elementi di base che non possano essere messi in discussione come ad esempio escludere possibilità che una macchina, anche in maniera giustificata, generi la morte di un essere umano. Ma come abbiamo visto anche questo non è del tutto possibile, non se si chiama in campo la questione etica. Così ci troviamo dentro una specie di labirinto dove sentiamo la necessità di controllare e organizzare l’evoluzione tecnologica mentre questa, procedendo, ci rende sempre più complesso farlo. Cerchiamo disperatamente di rimanere al comando, di tenere le redini, di decidere cosa la tecnica possa fare e cosa no, ma nel contempo la tecnica si sviluppa rendendo il tutto una specie di desiderio espresso in una placida notte d’agosto mentre guardiamo stelle cadere.
Il fatto è che forse proprio il tentativo di imporre delle leggi e dei limiti ai processi in atto determina la nascita di problemi insolubili. Cerchiamo di individuare verità essenziali che direzionino i procedimenti e le applicazioni tecnologiche con l’intento di dare una forma che riteniamo umana a questi procedimenti e applicazioni ma incappiamo in cortocircuiti che non riusciamo a sbrogliare senza rimanerne sempre più invischiati.
Il nodo del problema credo risieda non tanto nell’uso delle tecnologie, non tanto nella scienza che queste tecnologie guida, ma, piuttosto, nel sistema di valori che il mondo in cui viviamo cerca di rintracciare.
Ormai da circa duecento anni sono in corso cambiamenti essenziali nel pensiero umano occidentale, cambiamenti che ora permeano il vissuto di ognuno di noi, e che ci dicono che non esiste nessun valore assoluto, nessun principio immutabile, perché tutto scorre e si trasforma in un divenire senza fine che per sua natura rifiuta ogni possibile assoluto. Il mondo greco da cui troppo spesso ci sentiamo lontani è invece ad oggi nella sua realizzazione massima con la sua visione del divenire e la sua aspirazione tecnica. Oggi l’uomo greco è al suo massimo, è sulla cima apicale della propria realizzazione. Leopardi, Nietzsche, e tutta la filosofia della nostra contemporaneità sono lì a dichiararcelo: tutto dal nulla emerge e nel nulla ricade, avvolto nel variegato flusso del divenire. Ogni assoluto è morto e la tecnica ora è libera di realizzare se stessa senza che un limite possa esserle imposto. Il tentativo di frapporre in questo processo un concetto umano relativo agli antichi valori è creare più problemi che soluzioni, soprattutto se osserviamo l’evidenza della loro arbitrarietà, giacché cose che potrebbero sembrare sacrosante oggi non lo erano ieri e probabilmente non lo saranno domani e cose che sembrano altrettanto sacrosante in un posto, in un altro possono ben sembrare idiozie.
D’altronde veniamo da un mondo dove ancora permanevano convinzioni in valori immutabili e certi e credo che ognuno possa ben vedere cosa questi assoluti abbiano prodotto tra guerre, genocidi, e olocausti. Per cui è possibile che se sospendessimo le nostre remore sulle questioni etico-ideologiche e ci affidassimo al progredire dei processi attualmente in atto forse potremmo evitarci parecchie cose piuttosto pericolose. Ora è il tempo in cui i processi debbono essere accelerati, senza intoppi a rallentarli, perché solo così la tecnica che l’uomo greco ha impugnato potrà arrivare a compiersi trasferendoci in un mondo dove ogni valore sarà trasmutato e noi avremo accesso a nuove categorie derivanti da una nuova forma del mondo. É già accaduto. Periodicamente succede. Tra il medioevo e il rinascimento ad esempio, ma oggi, forse perché ci siamo dentro, la cosa sembra assumere proporzioni definitive.
In ogni caso, tanto per la cronaca, mr. Reds ha appena acquistato una Volkswagen e non come credevamo dal concessionario di rimpetto a quello Fiat-Chrysler. É andato su autoscout e si è trovato un vecchio Maggiolino del ’94. Non ha nemmeno la centralina elettrica questa ferraglia tedesca con design da fine seconda guerra mondiale e mr. Reds ha deciso di imparare anche a cambiarsi la cinghia di raffreddamento da solo, sempre ricorrendo a un tutorial su YouTube. Se ne sbatte di auto a guida autonoma a quanto pare e, attenzione, è a caccia di ciclisti servoassistiti per la pianura padana.
Buona caccia mr. Reds.
Luigi Saravo
