Intelligenza artificiale ed Ebraismo | Kolòt-Voci

Intelligenza artificiale ed Ebraismo

Un rapporto che ha radici antiche

Rav Scialom Bahbout

Il tema dell’intelligenza artificiale occupa ultimamente i media e, come spesso avviene, le informazioni su cosa si debba intendere con questo  termine sono scarse. L’obiettivo finale sembra debba essere quello di creare un oggetto che, in ultima analisi, possa sostituire l’essere umano. L’ebraismo è chiamato a confrontarsi su tutto e in particolare su ogni novità. Gli interrogativi che impone questo tema sono molti e di diversa natura: esistono dei precedenti descritti nella letteratura talmudica? Come affronta il problema il pensiero ebraico e che influenza può avere sulla Halakhà?  

Partiamo dai testi della tradizione ebraica e scopriamo che il tema della creazione di creature viventi da parte dell’uomo non è una novità:  

Disse Ravà: se volessero,  i giusti potrebbero creare un mondo, come è detto: “sono le vostre colpe che vi separano dal vostro Dio” (Isaia 59, 2). Ravà creò un uomo (Gòlem), e lo inviò a Rabbì Zerà. Rabbi Zerà parlava (rivolgendosi) al Gòlem e il Gòlem non rispondeva. Disse Rabbì Zerà al Gòlem: tu appartieni ai haverim (coloro che usano il Sefer Yezirà per creare nuovi esseri)? Torna alla tua polvere” (Sanhedin 65b)

In questo racconto il Golem è stato creato dalla polvere della terra, e dal testo non si capisce se il Golem non era in grado di parlare o non voleva rispondere: la parola è un segno che caratterizza l’uomo creato da Dio (l’uomo divenne un essere vievente, cioè parlante).. In ogni caso, da questo e da altri passi deduciamo che esiste un forte desiderio da parte dell’uomo di “imitare” l’azione divina fino in fondo. L’uomo, creato a immagine di Dio  e quindi dotato di capacità creative, è stato invitato a imitare gli attributi divini – misericordia, longanimità, giustizia, ecc. – rivelati a Mosè sul Sinai  ma i Giusti (quindi chi si è liberato dall’istinto del male) desiderano imitare la sua caratteristica creatrice! L’uomo vuole divenire  creatore come lo è stato Dio.

Sempre nel Talmud (Sanhedrin 65b) si dice ancora che degli uomini hanno creato degli animali: 

Rabbi Haninà e rabbi Oshayà sedevano ogni vigilia del sabato e studiavano il Sefer Yetzirà (libro della creazione) e creavano vitelli di tre anni e li mangiavano lo scopo della loro azione sembra essere quello di poter continuare a studiare il Sefer Yetzirà senza preoccuparsi della preparazione del cibo.

Cosa dice la Halakhà?

In Halakhà troviamo diverse sheelot (domande) sulla possibilità di creare un Gòlem. Le risposte a questa domanda sono state generalmente positive e si sono appoggiate al verso (già citato nel caso di Ravà) “sono le vostre colpe che vi separano dal vostro Dio” (Isaia 59, 2), cioè le colpe dell’uomo impediscono alla forza creatrice divina che è nell’uomo di manifestarsi, a meno che non sia un sapiente esperto nell’applicazione di quanto scritto nel Libro della Creazione (Sefer yetzirà). El’azar Ben Zimrà si oppone all’idea che sia possibile creare un Gòlem, ma la sua rimane una posizione minoritaria, infatti coloro che avrebbero potuto sostenere la posizione di El’azar Ben Zimrà non hanno fatto sentire la propria voce .

Ammesso che sia realmente possibile creare un Gòlem, la domanda ulteriore che si pongono i Maestri è se sia desiderabile o meno farlo: non sarà questo un modo per volere competere con la potenza di Dio? Abbiamo due posizioni contrapposte: permettere ai  Zaddikim che sanno fare uso delle teorie linguistiche dell’alfabeto della creazione e ripetere ciò che Dio ha fatto, è una prova di quanto sia importante il ruolo dello Zaddik. Chi era contrario alla creazione di un Gòlem lo faceva per evitare che il Gòlem e chi lo aveva creato potesse divenire oggetto di idolatria. 

La Halakhà si pone vari problemi, ma non è possibile analizzarli in queste righe: quali sono i diritti del Gòlem; cosa succede se lo si uccide (è un essere umano?); qual è il sesso del Gòlem? Può essere associato al Minian? Ha senso parlare dell’ebraicità di un Golem? Questi ed altri problemi necessiterebbero un’analisi più approfondita e potrà essere oggetto di un’altra occasione.

Folklore e letteratura

Anche il Folklore ebraico conosce il concetto di Gòlem: un ammasso di creta a immagine umana che sarebbe stata la prima forma assunta da Adamo prima che il soffio divino penetrasse nelle sue narici. Anche uomini esperti nelle arti mistiche possono creare un essere “umano” soffiando uno spirito vitale, associandolo al Tetragramma o altre influenze astrali?

Molti romanzi anche romantici sono stati scritti sul Gòlem e tra questi il più famoso è quello del Maharal, creato nei momenti difficili del popolo ebraico: una tavoletta nella bocca del Gòlem con il nome divino e la parola אמת Emet (verità) sulla fronte. Per interrompere la sua funzionalità, bastava cancellare la lettera Alef, così che rimanesse solo מת met, morto.

Secondo la tradizione il Maharal  di Praga fece il Golem perché lo aiutasse nelle faccende domestiche e per difendere la Comunità dai soprusi e dalle persecuzioni cui  la comunità ebraica era sottoposta: il Maharal avrebbe plasmato il suo Golem con il fango della Moldava, combinando i quattro elementi: fuoco e acqua – che fungevano da suoi assistenti – l’aria – rappresentata dall’alito vitale del rav stesso e la terra – costituita dalla terracotta. Un venerdì sera, però, il Maharal si era dimenticato di togliere la tavoletta dalla bocca del Golem, che, privo della parola di Dio, diventò incontrollabile e cominciò a distruggere tutto. Il Maharal  gli tolse la Alef e tornò ad essere semplice polvere.

Si dice che tutto ciò accadeva quando il rabbino era nella sinagoga e stava intonando il Salmo del sabato, il Salmo 92Da questa leggenda, che ha decretato la fine dei Golem, discende una tradizione che è rimasta nel tempo, legata proprio al Salmo 92. Sistemato il Golem, il Maharal tornò nella Sinagoga e intonò nuovamente il salmo 92: da qui deriverebbe l’uso nella Sinagoga di Praga di ripetere due volte il salmo 92, cosa che accade solo in quella Comunità.

Voi sarete come Dio?

Veniamo ora all’aspetto fondamentale collegato al desiderio dell’uomo di creare un “oggetto” che possa essere considerato in un certo senso un alter ego, uguale o in sostituzione dell’essere umano, portando il concetto di Imitatio dei all’estremo: non l’uomo come collaboratore di Dio, come descritto nella Bibbia, ma l’uomo, che in aperta competizione con Dio, si sostituisce a Lui.

L’ebraismo ha sempre visto con favore l’uso della tecnica (Prometeo carpì il fuoco agli dei, mentre è Dio stesso che fornisce il fuoco ad Adamo), ma ha messo in guardia l’uomo dal volersi sostituire a Dio: in alcuni regimi il Culto della personalità ha creato non pochi guai all’umanità. L’Ebraismo ha posto la proibizione dell’idolatria nelle sue varie forme come norma sia per gli ebrei che per i Noachidi: la peggior forma di idolatria è l’adorazione di un uomo (ricordiamo che di Mosè non abbiamo neanche la tomba). Ecco perché è proibito modificare una mizvà, anche aggiungendovi qualcosa, in quanto così l’uomo dimostra di volersi sostituire a Dio e diventare lui stesso legislatore.

Più in generale nella Genesi Dio assegna all’uomo il compito di conquistare la terra e dominare l’ambiente, ma senza sconvolgerlo al punto di distruggere le specie; egli deve anzi conservarle e proteggerle, e non farne di nuove, cosa destinata al fallimento: si pensi alla “creazione” del mulo, un incrocio che non è fertile.

L’idea di creare dei robot che hanno “caratteristiche” simili all’uomo e all’animale con l’obiettivo di sostituire l’uomo se non in tutte, in almeno una parte delle sue funzioni, è problematica per il fatto che si vuole in qualche modo “scaricare” la responsabilità di determinate azioni e trasferirle alle macchine. L’idea stessa dell’uomo creato a “immagine di Dio” comprende la sua capacità di essere creativo, ma nello stesso tempo di essere libero e responsabile. Attribuendo, ad esempio, a un robot la funzione di “badante”, trasferiamo una parte consistente delle nostre responsabilità a una macchina. A questo punto si pongono varie domande: quali sono i limiti della nostra delega e cosa succede se la macchina a un certo punto va il tilt? Chi è responsabile del mancato funzionamento e al limite della morte del malato: chi ha prodotto o chi ha messo nelle mani del malato il robot? C’è una differenza se l’incidente è avvenuto subito o a distanza di tempo?  Si tratta in certo senso di stabilire quali sono i diritti di un Gòlem e di chi è responsabile del suo funzionamento o meno.

Questo per quanto riguarda i possibili danni, ma se andiamo al problema dell’empatia che può provare un robot verso un malato o un anziano, non possiamo dire di avere messo in pratica la mizvà di Bikur Cholim (visita dei malati). Così facendo, si ha anche l’illusione di avere risolto il problema dell’assistenza del malato. Un essere umano ha un rapporto diverso con un malato, e non può essere sostituito con un robot: la presenza della persona che viene a trovare un malato è fondamentale per mettere in moto tutte le motivazioni necessarie per facilitare la guarigione: questo è il motivo per cui l’uso del telefono per incoraggiare un malato è cosa lodevole, ma non può essere messa sullo stesso piano dell’adempimento della mizvà del Bikur Cholim. Il pericolo è di uno scivolamento e di una progressiva perdita della responsabilità dell’uomo, con la rinuncia a una delle sue prerogative fondamentali: la socialità.

2001: Odissea nello spazio

Uno dei modi di sopperire a un Robot molte informazioni è quello di collegarlo alla rete internet dove milioni di informazioni possono essere ricercate e poi memorizzate. Il problema è che, per quanto si possa cercare di trasmettere al Robot caratteristiche umane, è difficile comunicargli pienamente quali decisioni assumere nei molti casi in cui le informazioni non sono sufficienti. Se il problema comporta la difficile scelta tra il bene e il male, tra ciò che è giusto e ciò che non lo è ecc., sarà il Robot in grado di fare la giusta scelta?

Può essere interessante fare un confronto con quanto Stanley Kubrik narra nel film 2001 Odissea nello spazio, una missione avvenuta sotto la supervisione di un supercomputer  HAL 9000 dotato di intelligenza artificiale, capace di interloquire con gli uomini e di riprodurne tutte le attività cognitive:  i due astronauti – il comandante David Bowman e il vice Frank Poole – non sono al corrente della vera direttiva della missione nota solo a HAL, un fatto che genera un conflitto tra il computer e l’equipaggio. A un certo punto della missione, pensando di poter portare avanti la missione da solo, HAL comunica un’avaria, cosa che da Terra avvisano non essere vera. Gli astronauti si rinchiudono dentro una capsula per discutere della situazione facendo in modo che HAL non possa udirli, ma il computer li osserva attraverso l’oblò della capsula e legge le parole sulle loro labbra. Ritenendo HAL inaffidabile e dato che tutto è sotto il suo controllo, gli astronauti, decidono di disattivarlo. HAL ritiene di portare a termine la missione senza l’aiuto umano e decide di eliminare l’intero equipaggio, ma alla fine il comandante Bowman riesce ad avviare lentamente la disconnessione. HAL implora Bowman di calmarsi e dice che ha paura, ammettendo i suoi errori. Alla fine canta la filastrocca che aveva imparato da bambino “giro giro tondo” e si spegne.

E’ impressionante come HAL venga umanizzato, tanto da avere sensazioni di paura di fronte alla morte che si avvicina. Il film esce alla fine degli anni sessanta e sembra preconizzare un futuro sicuro: l’unica cosa realmente avvenuta è che oggi i computer sono in grado di vincere una partita di scacchi con il più bravo degli scacchisti.  

Un Gòlem può essere contato nel miniàn?

Ora è chiaro che una macchina può riprodurre o utilizzare solo ciò che le è stato dato: non può avere la sensibilità di un essere umano, diversa da persona a persona, e che può modificarsi nel tempo.

Oggi con la messe di materiali che si trovano sul web, un computer cui fosse data la possibilità di accedere a questi dati, potrebbe ampliare il suo funzionamento. Tuttavia rimane il problema della capacità di valutare moralmente i materiali e di saper prendere le giuste direzioni: il rischio che il robot assuma dati non proprio positivi è molto alta, perché gli mancherebbe la capacità di valutare moralmente i dati che ha copiato dal web.

Che ci sia una relazione tra Gòlem e macchine tecniche e in particolare computer è in qualche modo evidenziato dal fatto che quando il Makhon Weizman (il centro di ricerca più importante in Israele) produsse i primi computer (negli anni 60 del 20° secolo) dette loro il nome di Gòlemm un oggetto cui vengo trasferite capacità umane. Tuttavia, che vi possa essere una relazione tra Golem e intelligenza artificiale è suggerito dal fatto che le due parole Chochmà (חכמה) e Gòlem (גלם ) hanno lo stesso valore numerico.

Insomma i Maestri hanno preso sul serio questa storia del Gòlem, tanto che, come abbiamo visto, si pongono problemi sulla sua “umanità”, ponendo al Chacham Zvì la Sheelà (domanda rituale) se si può contare il Gòlem come decimo per il Minian. (Shut Hacham Zvi, responso 97).

Il Maharal però aveva la forza per bloccare i desideri del Gòlem – computer: sapremo fare noi altrettanto e non lasciarci dominare dalle macchine, fino a diventarne schiavi?

Scialom Bahbout