La macchina si ferma…

Nell’opera “La macchina si ferma” (1909) dello scrittore Edward Morgan Forster, viene descritto uno scenario futuristico in cui una misteriosa macchina è in grado di controllare tutto, dalla fornitura del cibo alle tecnologie dell’informazione.

Si potrebbe quindi affermare che quanto scritto più di un secolo fa sia divenuto più che attuale: la tecnologia oggi è in grado di modificare stili di pensiero, abitudini e stili comunicativi. Nel racconto dello scrittore si sostiene,inoltre, che quando la macchina smetterà di funzionare la società collasserà.

Ma chi ha inventato la macchina?

La risposta la si trova già in Sofocle che nell’Antigone scriveva: «La natura ha forze tremende, eppure, più dell’uomo, nulla è tremendo»

E in effetti il pericolo non viene più, come un tempo, dalla natura, ma dal potere conseguito dall’uomo per dominarla in quella forma che, oltrepassando ogni misura, non si limita all’uso della terra, ma si spinge fino alla sua usura.

A tal proposito è lecito chiedersi: disponiamo di un’etica in grado di pensare alla natura minacciata dalla tecnica e quindi alle generazioni future che si troveranno a vivere a partire da ciò che gli avremo lasciato?

Sul tema Galimberti afferma che in questo preciso momento storico la nostra capacità di fare ha superato la nostra capacità di prevedere gli effetti del nostro fare nel senso che, riferendosi alle tecnologie attuali, noi stiamo inventando una cosa che potrebbe essere pericolosissima per noi:l’intelligenza artificiale

Devo ammettere che alcune volte ho pensato ad essa come a un  qualcosa di sinistro: del resto le storie di fantascienza ci hanno abituati a crederla come una realtà che un giorno potrebbe soggiogare l’umanità e l’industria.

Ma è davvero così?

È di pochi giorni fa l’appello lanciato dal miliardario Elon Musk e una serie di esperti del settore tech per chiedere una pausa nello sviluppo dei potenti sistemi di intelligenza artificiale (AI) per concedere il tempo necessario a elaborare regole per il suo controllo.

“Questi sistemi di intelligenza artificiale possono comportare gravi rischi per la società e l’umanità”, afferma la lettera aperta intitolata “Pause Giant AI Experiments”.

“I potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi saranno gestibili”, ammoniscono i firmatari del testo.

La paura deriva dal fatto che  l’intelligenza artificiale avrà il compito di prendere le proprie decisioni?

In pratica una delle maggiori minacce che affrontiamo con l’AI è il suo meccanismo decisionale. Un’intelligenza artificiale è intelligente e ragionata quanto le persone responsabili della sua programmazione iniziale. Ciò significa che potrebbe esserci un certo pregiudizio all’interno dei meccanismi quando è il momento di prendere una decisione importante.

Per esempio, ho letto alcuni articoli in merito, che riportavano un episodio avvenuto nel 2014, quando durante una sparatoria negli USA le persone coinvolte, minacciate, decisero di chiamare Uber per fuggire dall’area interessata .Invece di riconoscere la situazione pericolosa, l’algoritmo usato da Uber vide un picco della domanda, decidendo quindi di aumentare i prezzi.

È forse arrivata la singolarità? Ossia quel momento in cui  l’intelligenza artificiale e  l’intelligenza umana hanno raggiunto lo stesso livello?

In effetti se una intelligenza artificiale suprema , quindi onnisciente, dovesse decidere che cosa fare per salvare il pianeta opterebbe per eliminare la specie più pericolosa e cioè noi.

La nostra attuale intelligenza artificiale infatti corrisponde alla creatività del suo creatore e, poiché manca la creatività, tende a mancare anche l’empatia. Ciò significa che la decisione di un’intelligenza artificiale si basa su quale sia la migliore soluzione analitica possibile, che non sempre potrebbe essere quella corretta da prendere.

Tutto ciò porta a vari dilemmi incontrati, per esempio, nei veicoli a guida automatica: se un pedone decide di attraversare all’improvviso, la macchina non ha la facoltà di decidere quale sarebbe la soluzione migliore fra frenare (danneggiando gli occupanti), sterzare (mettendo in pericolo entrambi le parti) o proseguire (minacciando il pedone).

Inoltre l’intelligenza artificiale può mancare di miglioramento.Mi spiego: un’intelligenza artificiale può essere in grado di cambiare il modo in cui reagisce in determinate situazioni proprio come un bambino smette di toccare una stufa calda dopo essersi preso una scottatura. Ciò che non fa è alterare le sue percezioni, risposte o reazioni in caso di cambiamento di un ambiente. Nell’AI è presente l’incapacità di distinguere determinati tipi di informazioni osservati, oltre i dati generati da tale osservazione diretta.

Ma aldilà di tutto bisogna sostenere senza remore che  l’Intelligenza Artificiale, con tutti i suoi vantaggi numerosi che non ho elencato soffermandomi solo sui svantaggi, rimane una delle tecnologie più innovative della nostra epoca.

Il vero problema è che, per avvicinarci a un’etica che sia all’altezza della tecnica occorre recuperare quella virtù che i greci avevano attribuito a Prometeo, l’inventore delle tecniche, il cui nome significa letteralmente “colui che vede in anticipo”. E’questa la capacità venuta meno all’uomo d’oggi, che non è più in grado di anticipare e forse nemmeno di immaginare gli effetti ultimi del suo fare. In questa inadeguatezza è il suo massimo rischio, così come nell’ampliamento della sua capacità di comprensione e di consapevolezza anche emotiva dello “smisurato” che lo attornia,la sua flebile e unica speranza.

Per il momento e in attesa degli esiti futuri voglio leggere nell’appello di Musk un monito contro una cultura per pigri ,un monito contro tutti gli odierni Oblòmov o Paperino ..

Chi non ricorda il protagonista del romanzo di Ivan Aleksandrovič Gončarov?

Oblòmov è un antieroe che non ne vuole sapere di partire per avventure faticose, di avvilirsi per amori ritenuti necessari e per altre facezie che lo sottrarrebbero al suo adorato focolare domestico.La sua scelta di vita si configura come una specie di rivincita del pigro di contro all’ideologia fattiva, avventuriera, temeraria della fiaba russa.In sostanza una vera e propria scelta politica.

Lo stesso atteggiamento, in una cornice decisamente più pop, è quella di Paperino, il personaggio Disney forse più interessante, in pieno contrasto con il dinamico ed eroico Topolino, che cerca in tutti i modi di sfuggire allo zio Paperone e alle sue coercizioni lavorative, che si affanna in tutti i modi per cercare di condurre una vita dignitosa ma con un solo obiettivo: l’amaca che si trova in giardino.

In estrema sintesi alla base del mio argomentare c’è solo la consapevolezza che il cervello è influenzato dal modo in cui lo usiamo. Non è difficile aspettarsi che l’uso intensivo dei media digitali cambierà il cervello umano a causa dei processi di plasticità neuronale. Tuttavia, è meno chiaro come le nuove tecnologie cambieranno la cognizione umana e l’elaborazione emotiva in un contesto sociale.

Daniela Piesco