fbpx
Home Cultura LE CITAZIONI: Harari. L’Intelligenza Artificiale (Ai) è incontrollabile

LE CITAZIONI: Harari. L’Intelligenza Artificiale (Ai) è incontrollabile

by Ernesto Scelza
0 comment

Lo storico e filosofo israeliano Yuval Noah Harari ricorre a due notissime narrazioni mitiche per rispondere alla domanda: “Perché siamo così bravi ad accumulare informazioni e potere, ma abbiamo molto meno successo nel fare tesoro degli errori compiuti e diventare più saggi?”.

«Nel corso della storia diverse culture hanno creduto che qualche difetto fatale nella nostra natura ci spingesse a ricercare poteri che non sappiamo padroneggiare. Il mito greco di Fetonte racconta di un ragazzo che scopre di essere figlio di Elio, il dio del sole. Desideroso di dimostrare la sua origine divina, Fetonte chiede il privilegio di guidare il carro del sole. Elio avverte Fetonte che nessun uomo può governare i cavalli celesti che trainano il carro. Ma Fetonte insiste finché il dio del sole non cede. Dopo essersi innalzato con orgoglio nel cielo, Fetonte perde effettivamente il controllo del carro infuocato. Il sole devia dal suo percorso, facendo ardere tutta la vegetazione, uccidendo numerose creature e minacciando infine di bruciare la Terra stessa. Deve intervenire Zeus e scagliare un fulmine contro Fetonte. Il giovane presuntuoso precipita dal cielo come una stella cadente, portandosi dietro una scia di fuoco. Gli dèi riprendono il controllo del cielo e salvano il mondo.

Duemila anni dopo, quando la Rivoluzione industriale muoveva i primi passi e le macchine iniziavano a sostituire gli uomini in numerose mansioni, Johann Wolfgang von Goethe creò una storia con una morale analoga, intitolata “L’apprendista stregone”. La ballata di Goethe (poi resa popolare da un film d’animazione di Walt Disney con protagonista Topolino) racconta di un vecchio stregone che affida a un giovane apprendista il suo laboratorio e alcune faccende da sbrigare durante la sua assenza, come andare a prendere l’acqua al fiume. L’apprendista decide di facilitarsi il compito e, pronunciando uno degli incantesimi dello stregone, ordina a una scopa di andare a prendere l’acqua al posto suo. Però non sa come fermare la scopa, che man mano recupera sempre più acqua e così minaccia di allagare il laboratorio. In preda al panico, l’apprendista fa a pezzi la scopa incantata con un’ascia, ma l’unico effetto che ottiene è quello di veder moltiplicate le scope in azione. Ora un esercito di scope magiche inonda d’acqua il laboratorio. Quando il vecchio stregone ritorna, l’apprendista implora aiuto: “Gli spiriti chiamati per magia, non riesco a liberarmene.” Lo stregone rompe immediatamente l’incantesimo e arresta l’inondazione. La lezione per l’apprendista – e per l’umanità – è chiara: mai evocare poteri che non si possono controllare.

Che cosa ci dice la morale della fiaba dell’apprendista e del mito di Fetonte nel XXI secolo? È evidente che noi esseri umani abbiamo rifiutato di ascoltare i loro avvertimenti. Abbiamo già alterato il clima della Terra e abbiamo evocato miliardi di scope magiche, droni, chatbot e altri spiriti sotto forma di algoritmi che potrebbero sfuggire al nostro controllo e scatenare una marea di conseguenze indesiderate.»

Yuval Noah Harari, Nexus.