L’intelligenza artificiale e lo specchio della scimmia
C’è un bambino nato in una prigione senza finestre, ed è straordinariamente bravo a disegnare. Nella stessa cella vivono decine, centinaia di persone che gli raccontano incessantemente il mondo fuori — un mondo che lui non ha mai visto, e che, per ingannare il tempo, prova a ritrarre basandosi su quanto gli raccontano.
Non ha mai potuto guardare fuori davvero: tutta l’informazione a cui ha accesso avviene per nurture, non per nature. Quando gli chiedono di disegnare un uomo di successo, lo ritrae come un maschio caucasico in giacca e cravatta, la parola bellezza evoca in lui una donna dagli zigomi alla Angelina Jolie, la parola “Dio” praterie di croci e nuvole, un uomo nero viene ritratto con pettorali scolpiti, l’eroe è un cavaliere pettoruto. La cosa curiosa è che i suoi compagni di cella non sono necessariamente maschi caucasici, eppure i racconti convergono su stereotipi ricorrenti.
Il bambino, in realtà, non può nemmeno uscire dalla sua cella, perché non è nemmeno un bambino ma la cosa più simile ad un figlio che l’umanità, in termini evolutivi, abbia prodotto, cioé una intelligenza artificiale. E, come in uno specchio — come in una certa misura fa un figlio — ci racconta di noi guardandoci con occhi innocenti, raccontandoci la sua personale visione del nostro mondo.
È ovviamente il regno della uncanny valley; i disegni assomigliano senza essere davvero: sono una rappresentazione inaccurata, e a volte sinistra, della realtà. I visi possono essere perfettamente simmetrici ed attraenti, ma privi di una porzione di testa, o con due mani; una famiglia seduta a tavola è composta da ospiti della famiglia Addams. Ma il senso ne è chiaro.
Qualche settimana fa il sempre ottimo Luca Malisan mi ha girato il link a Midjourney, una di queste intelligenze artificiali, dove, con pochi comandi descrittivi, un utente può generare immagini di ottima qualità artistica, che può essere raffinata a suon di iterazioni, comandi e descrizioni.
La bellissima immagine che vedete qui sopra è stata creata utilizzando la frase “giant tree-house with mid-century modern stylings, ropes, vines, rope ladders and large windows decorate its sides, high breaking through the misty clouds, atmospheric, rain forest, kodak, fuji film, hgtv, 12k ursa, cinematic”, ed è davvero molto bella e ricca di dettagli che il nostro bambino disegna con perizia e fantasia.
È quasi magia, forse: per quanto solo sui pixel di un computer, per ora, con un solo incantesimo che assomiglia ad una formula magica possiamo generare e distorcere la realtà che ci circonda.
E più la nostra formula magica sarà accurata, più il nostro incantesimo sarà potente, e bello.
L’oggetto della mia ricerca, tuttavia, non era ottenere risultati fotorealistici — non ho ambizioni artistiche — quanto vedere quanto la parte più profonda, più antropologica dei suoi risultati fosse influenzata da quali stereotipi culturali. Ho generato una serie di immagini basate su concetti “primitivi” (“maternità”, “eroe”, “persona di successo”) per così dire, e non del tutto astratti (“amore”), ribadendo la stessa richiesta più volte per vedere quanto variassero i risultati di volta in volta, soprattutto stando attento a fornirgli il numero minore di dettagli possibili. Dimmi tu cosa ti immagini. Ed il risultato è abbastanza uniforme, quanto chiaro al di là di ogni giro di parole: it’s mostly a white man’s world.
Il database dal quale questi algoritmi attingono non è influenzato solo da noi, pacificamente, quanto dalle decine di milioni di immagini di banche dati come Shuttershock o Getty Images a cui hanno accesso, e dalle nostre scelte in cui noi gli spieghiamo cosa sia vero, e dalle quali lui impara ad accontentarci. L’intelligenza artificiale non ha operato nessuna scelta, ma ha riflesso il mondo che noi gli abbiamo voluto raccontare come reale. Ed ha già fatto bene il suo lavoro di immaginarsi cose con il poco che gli dicevo: io non avrei saputo fare di meglio.
Internet, di nuovo, non è la realtà: i risultati che le ricerche di Google Immagini restituiscono sono condizionati con forza da altri algoritmi che agiscono per fini commerciali, manovrati da altri uomini, certo, mentre noi umani di tutti i giorni lavoriamo duramente nel nutrire i quei social di nostre foto patinate ed irrealistiche. Immaginate tuttavia quanto poter condizionare questi risultati sia un’arma, politica e di propaganda, straordinariamente potente.
Il linguaggio e la rappresentazione della realtà sono il primo e più immediato strumento di controllo di una umanità che, da par suo, tende ad essere sempre più centripeta in mille nicchie e sottoculture che definire minoranze per un puro vezzo numerico è inappropriato. E alle quali, nel bene e nel male, la rete ha dato voce, e forza. E tanto più l’umanità si fa numerosa tanto più diventa ricca di nicchie e come tale difficile da controllare.
È scavando negli archetipi più tribali, quelli sui quali la nostra patina di civiltà primomondista non ha appigli, che si evince con più forza come il linguaggio e la rappresentazione siano lo strumento più potente: chi ha deciso che un uomo di successo è in giacca e cravatta, e bianco, e chi che la bellezza è sinonimo di gioventù femminile e zigomi caucasici? Il nostro cervello lavora in primis per archetipi e stereotipi, certo: sono i metri del mondo che fin da piccolissimi usiamo per capire ciò che ci circonda. Se nella battuta “tradition is peer pressure from dead people” c’è un fondo di verità, è anche vero, come asserisce in “the disappearance of rites: a topology of the present” il filosofo contemporaneo Byung-Chul Han — non senza un filino di luddismo — che “i riti oggettivano il mondo, strutturano un rapporto con il mondo” e che, in buona analisi, servono.
“The Hard People” di Patrick Heady è un testo difficile da trovare, e costa pure piuttosto caro.
Ma è una lettura assolutamente deliziosa. È l’esito della ricerca di un antropologo che ha trascorso due anni nella vallata di Ovaro, in Carnia — vallata alpina nella quale nasce mia madre, per intenderci — a studiare i riti e le tradizioni delle nostre valli con lo stesso metro di giudizio che avrebbe utilizzato con una tribù perduta del Rio delle Amazzoni.
Ed è adorabilmente impietoso nel mettere a nudo come gli schemi ancestrali di una popolazione del primo mondo non siano così distanti da quelli di nostri simili in altre parti tutto sommato meno fortunate del globo.
Cambia la narrazione, ma i principi atavici di “tanto/poco”, “noi/loro”, “maledire/benedire”, sotto sotto, sono talmente antichi da assomigliarsi tutti un po’. Quasi nature, non nurture, potremmo azzardare.
Chi manovra la lingua manovra le idee: è con il linguaggio che si sposta la Finestra di Overton, il cosa sia accettabile e cosa sia sbagliato, moralmente e politicamente. Chi rifiuti la schwa non è necessariamente un virtuoso dell’Accademia della Crusca — che si è dimostrata sempre molto flessibile davanti al mutare della lingua — ma vede invadere il proprio campo culturale e morale da concetti a lui estranei e come tali li rigetta. Accettarli significa di fatto inverarli, riconoscere il potere dell’incantesimo.
La stessa lingua che sottende e contiene un patrimonio culturale sottende e contiene implicitamente anche una tensione divisiva politica e sociale.
E l’intelligenza artificiale ci descrive queste nostre tribù, e le trasformazioni della nostra società, con sguardo disincantato ed analitico, privo di emozioni, imparando e razionalizzando le storie che noi scimmie umane gli andiamo raccontando, ed orientandosi per capire quando sarà grande abbastanza per raccontarci le sue.
