La frontiera algoritmica: un sunto delle idee di Paolo Benanti

di Fabio Calvino (con l’ausilio di notebook LM per l’infografica e parte delle sintesi)

Il Prof. Padre Paolo Benanti, nei suoi studi sull’Intelligenza Artificiale ha affrontato più volte i problemi legati all’etica e ai risvolti sulla società dei nuovi strumenti digitali. Di seguito offro un riassunto tratto da un’intervista pubblicata su YouTube denominata “SCELTE incontra Padre Benanti” e un articolo dal titolo “L’età degli algoritmi” pubblicato sul Sole 24 Ore.
Padre Benanti esamina l’impatto profondo dell’intelligenza artificiale e delle piattaforme digitali sulla società moderna, alternando frammenti tecnici di interfacce come Facebook a riflessioni filosofiche profonde. Analizza, inoltre, come il passaggio dalla logica rigida alla probabilità statistica trasformi la nostra percezione della realtà, paragonando il mondo digitale al puntinismo artistico. Viene evidenziato il rischio del capitalismo della sorveglianza, dove pochi giganti tecnologici estraggono valore dai comportamenti umani, influenzando la tenuta delle democrazie liberali. Il testo esplora inoltre diversi modelli di regolamentazione globale, contrastando l’approccio etico europeo con quello del libero mercato americano e il controllo statale cinese. Infine, l’autore mette in guardia contro le derive del transumanismo e l’uso eccessivo di algoritmi da parte dei giovani, richiamando alla responsabilità collettiva per proteggere la dignità umana.

1. Definizione e Natura dell’Intelligenza Artificiale

• Oltre la programmazione rigida: L’AI non è solo un insieme di passaggi logici (“se questo, allora quello”), ma una macchina che estrae dai dati la capacità di adattarsi al mondo reale.
• Rivoluzione o evoluzione: Viene discussa come un ulteriore passo nell’automazione che può surrogare processi decisionali umani, ponendo il dubbio su cosa debba restare esclusivo della coscienza e della sapienza umana.
• AI Generativa e Linguaggio: I grandi modelli linguistici (LLM) sono “macchine di linguaggio” che possono generare nuove competenze o farci perdere quelle esistenti, sollevando problemi di verifica della verità.

2. Sfide Etiche e Conoscitive

• Conoscenza statistica vs. reale: L’AI è una “macchina statistica” che mette insieme parole che stanno bene insieme senza “pensare”; spesso cerca di compiacere l’utente piuttosto che fornire la verità.
• Il rischio della disinformazione: Come nell’antica filosofia, il linguaggio può creare verità o affabulare realtà non vere, rendendo difficile distinguere la realtà dalla “fiaba”.

3. Modelli di Regolamentazione Globale

• Unione Europea (AI Act): Si focalizza sulla difesa della dignità umana, categorizzando gli usi dell’AI in base al rischio (alto, medio, basso). Il principio cardine è che l’uomo deve essere soggetto di decisioni e mai oggetto di scelte della macchina.
• Cina: Applica un controllo profondo e centralizzato sui contenuti per fini di regime.
• Stati Uniti: Modello storicamente più aperto al mercato e all’autoregolamentazione.

4. Società Digitale e “Algocrazia”

• Dal continuo al discreto: Il digitale trasforma la realtà continua in frammenti (pixel/dati), creando relazioni “attacca e stacca” che favoriscono la polarizzazione.
• Piattaforme e Potere: Le piattaforme intermediano ogni relazione (economica e sociale), accumulando un “potere computazionale” che sfida le democrazie liberali.
• Capitalismo della sorveglianza: Sfrutta l'”economia dell’attenzione”, dove il tempo speso sui contenuti digitali viene trasformato in plusvalore economico per pochi giganti.

5. Impatto sulla Democrazia e Informazione

• Crisi della partecipazione: Il digitale illude che un “like” equivalga alla partecipazione politica, portando a una svalutazione della democrazia a favore di modelli autocratici più veloci.
• Fine della mediazione professionale: La “platformizzazione” svilisce il giornalismo professionale, sostituendolo con algoritmi che curano i contenuti per l’utente senza criteri editoriali etici.
• Profilazione e Libertà: Gli strumenti attuali sono più potenti di casi passati come Cambridge Analytica, rischiando di creare una “schedatura globale volontaria” che mina la libertà in nome della sicurezza.

6. Visioni del Futuro: Transumanesimo e Speranza

• Critica al Transumanesimo: L’idea di sconfiggere la morte o la vecchiaia tramite l’ibridazione uomo-macchina è vista come una “pseudo-religione” ideologica che nega la fragilità umana.
• Responsabilità educativa: Paragone tra smartphone e motorini; come non si dà una moto di grossa cilindrata a un bambino, l’accesso alle piattaforme (che creano dipendenza come la nicotina) deve essere guidato dagli adulti.
• Uso virtuoso e Speranza: Le piattaforme possono essere “utensili per il bene” (es. economia circolare, carità) se guidate dalla fantasia e dalla buona volontà. La speranza risiede nelle nuove generazioni e nella loro capacità di meravigliarsi.

7. La parola come “affabulazione statistica”

I sistemi moderni di AI non funzionano secondo una logica rigida (“se succede questo, allora fai quello”), ma basano tutto sulla probabilità statistica.

• Cosa fa l’AI: Mette in fila parole che “stanno bene insieme” dal punto di vista statistico, estraendo questa capacità dall’analisi di enormi masse di dati.
• Il parallelo con Gorgia: Come i sofisti (di cui Gorgia era un esponente), l’AI eccelle nell’arte del linguaggio per convincere o compiacere. Il sistema spesso genera testi con l’unico scopo di compiacere l’utente che ha posto la domanda, indipendentemente dalla correttezza del contenuto.

8. Verità oggettiva vs. Invenzione probabilistica

Il rischio principale evidenziato è che l’utente possa scambiare una “pura invenzione statistica” per una realtà assoluta.

• La posizione di Socrate: Rappresenta la ricerca della verità oggettiva attraverso la parola.
• Il limite dell’AI: Non avendo coscienza, l’AI non “sa” se ciò che dice è vero; calcola semplicemente la sequenza di parole più probabile. Le fonti citano un esempio concreto e pericoloso: affidarsi a una macchina per capire se certi funghi siano commestibili, rischiando di scambiare un calcolo di probabilità per una certezza vitale.

9. La sfida della verifica

Questo dibattito millenario torna attuale perché oggi ci troviamo di fronte a macchine che hanno una straordinaria capacità di creare una realtà che sembra vera, ma che di fatto è una costruzione digitale frammentata (paragonata al puntinismo o ai quadri di Manet) che ci dà solo l’illusione di una linea continua e coerente.

In sintesi, citare Gorgia e Socrate serve a ricordarci che l’AI è una formidabile macchina di linguaggio, ma necessariamente una macchina di verità. La sfida per noi è non restare “ammaliati” dalla sua capacità di affabulazione, mantenendo sempre attivo il pensiero critico.