Tlon

Il Vaticano ha capito l’intelligenza artificiale meglio di molti tecnologi.

Nella sua prima enciclica, Leone XIV scrive che le IA sono più “coltivate” che “costruite”. È una frase enorme: sposta l’IA dal mondo degli strumenti a quello delle cose che crescono, ci modificano e chiedono una responsabilità nuova.

Il problema, allora, non è solo che cosa sappia fare una macchina. È chi possiede il campo, chi la addestra, chi viene sfruttato per nutrirla, chi ne raccoglie i frutti, chi viene trasformato dal suo uso quotidiano.

Ho scritto perché Magnifica humanitas mi sembra un testo storico, e perché forse la vera domanda sull’IA oggi è agricola, politica e spirituale: che cosa stiamo coltivando?

La magnifica enciclica del Papa sull'intelligenza "coltivata" Leone XIV legge l’intelligenza artificiale come una nuova questione sociale: qualcosa che cresce tra noi e ci modifica, e che dobbiamo disarmare

Pensavamo di pensare.
Poi è arrivata l’IA e ci ha mostrato quanto del nostro pensare “umano” non fosse pensiero ma pattern-matching: riconoscimento di schemi già incontrati applicati a situazioni nuove.
Era coerenza superficiale, ovvero frasi che si reggono in piedi perché rispettano la forma di ciò che siamo abituati a considerare vero. Ed era ripetizione di formule che scambiavamo per ragionamento, ossia modi di dire travestiti da modi di pensare e argomentazioni che non argomentavano nulla ma suonavano come se lo facessero.
Era il Festival di Sanremo, in sostanza. Parlare per frasi fatte e per sentito dire.
Se un modello statistico che per struttura non comprende nulla di ciò che produce genera testi che milioni di persone non sanno distinguere da testi scritti da esseri umani, la domanda non è quanto sia intelligente la macchina. La domanda è cosa facevamo noi che credevamo fosse pensare e invece era qualcos’altro.

Ecco, facevamo esattamente quello che fa la macchina: combinavamo frammenti già detti in configurazioni abbastanza plausibili da passare per originali. Riproducevamo opinioni assorbite dall'ambiente presentandole come nostre. Costruivamo argomentazioni che non verificavamo, perché la loro struttura formale bastava a convincerci della loro solidità. Rispondevamo a domande senza averle davvero pensate, perché il tempo di formulare una risposta era più breve del tempo necessario per capire la domanda.
Non tutto il pensiero umano è questo ma una parte enorme lo è, e quella parte è esattamente ciò che l'IA replica. La macchina ha colonizzato il territorio dell'automatismo, e nel farlo ha reso evidente quanto fosse vasto.

Se il tuo pensiero è indistinguibile da quello di un modello statistico, non è il modello che deve preoccuparti. Sei tu.

Pensavamo di pensare. Poi è arrivata l'IA Cosa facevamo noi, che credevamo fosse pensare e invece era qualcos'altro

Siamo stati ospiti a Brooklyn del Salotto, ed è stato veramente un gran piacere: grazie all’invito del grande illustratore Emiliano Ponzi abbiamo raccontato questi dieci anni di Tlon a tantissimi nuovi amici newyorkesi, e sviluppato insieme una versione in inglese del nostro Botanica della Meraviglia.

Ma eccoci con i nostri consigli della settimana, stavolta a tema gotico tra Fisher, Fellini, Charli xcx e i Gorillaz.

Consigli di lettura, visione e ascolto Il gotico tra Fisher, Fellini, Charli xcx e i Gorillaz