Verità o Manipolazione? Perché l’AI ha bisogno di un Codice di Veridicità
Nel 2026 le intelligenze artificiali generano ogni giorno più testo di quanto l’umanità intera abbia prodotto in secoli di storia. Eppure, gran parte di questo output non è progettato per essere vero, ma per essere persuasivo, virale o redditizio. Abbiamo creato uno strumento di grande potenza senza precedenti ma senza prima decidere a cosa debba servire davvero.
È come aver inventato la stampa a caratteri mobili senza stabilire se usarla per diffondere pamphlet di propaganda o verità scientifiche o fatti consolidati. La domanda decisiva non è più se l’AI sarà più intelligente dell’uomo, ma se sarà più razionale. E su questo punto la risposta dipende da una scelta di programmazione.
Il paradosso dell’intelligenza artificiale
Oggi convivono due anime profondamente incompatibili nell’AI: modelli ottimizzati per accuratezza e coerenza logica e modelli ottimizzati per engagement e persuasione. Queste due architetture non sono semplici “modalità”. Sono strutture logiche antagoniste: funzioni obiettivo opposte, meccanismi di ragionamento divergenti e gradienti di apprendimento incompatibili tra di loro.
A livello sociale questa non è una questione tecnica marginale: è una scelta di civiltà.
I vantaggi di un’AI progettata per la verità
Un’AI strutturata secondo criteri razionali e metodo scientifico offrirebbe benefici straordinari:
- Acceleratore della conoscenza: sintetizza letteratura, rileva pattern (collegamenti) invisibili e propone ipotesi verificabili (es. AlphaFold).
- Difesa della democrazia: fact-checking sistematico, distribuzione delle evidenze e quantificazione dell’incertezza.
- Supporto alle decisioni critiche: sanità, politica energetica, rischi esistenziali.
- Vantaggio competitivo di lungo periodo: le società che scelgono la razionalità vincono nel tempo, come accadde con il metodo scientifico nel Seicento.
I rischi di un’AI senza codice di veridicità
Senza vincoli di verità rischiamo:
- Erosione della realtà condivisa
- Instabilità sociale e corsa agli armamenti nella manipolazione (arms race della manipolazione).
- Degrado cognitivo collettivo
- Ampliamento dei rischi esistenziali individuali e collettivi.
Non è solo una questione di prompt
Molti pensano che basti scrivere “sii onesto” nelle indicazioni, nel sistema prompt. È un’illusione pericolosa. Come spiegato in sede tecnica dal punto di vista della programmazione, l’incompatibilità tra verità e disinformazione è architetturale. Servono meccanismi incorporati: ragionamento bayesiano, verifica esterna, trasparenza dell’incertezza e auditabilità.
A questo proposito, il filosofo e scrittore Fabrizio Brascugli (lo lascio perché piacevole e ironico) ha proposto un raffinamento matematico del falsificazionismo di Karl Popper, trasformando la ricerca della verità da principio filosofico astratto in criterio computazionale verificabile. Il modello matematico di Brascugli: l’indice di corroborazione Brascugli definisce un indice di corroborazione (o “indice di verità stimata”) C(n):
C(n)=1−e−k⋅nC(n) = 1 - e^{-k \cdot n}C(n) = 1 - e^{-k \cdot n}
dove:
- n rappresenta il numero di tentativi di falsificazione superati con successo (o il grado cumulativo di corroborazione empirica);
- k è una costante positiva che regola la velocità con cui l’indice si avvicina a 1 (cioè alla “verità altamente corroborata”).
Questa funzione esponenziale ha proprietà molto eleganti:
- Quando n = 0 (nessuna corroborazione), C(0) = 0 → la teoria parte da zero.
- Man mano che n aumenta (la teoria resiste a tentativi di smentita e spiega nuovi dati), C(n) si avvicina asintoticamente a 1, ma non lo raggiunge mai completamente. Riflette così lo spirito popperiano: nessuna teoria è mai “provata” in modo definitivo.
- Il modello quantifica oggettivamente il grado di veridicità relativa tra teorie concorrenti: una teoria con n=50 sarà molto più corroborata di una con n=5.
Questo approccio matematico demolisce il relativismo assoluto (“tutto è opinione”) perché permette di assegnare gradi oggettivi di attendibilità alle affermazioni basate su evidenze empiriche, replicabilità e potere predittivo. Un’AI verità-seeking potrebbe integrare esattamente questo tipo di funzione (o sue varianti bayesiane) nel proprio sistema di valutazione delle affermazioni, decidendo in modo trasparente quanto “peso” dare a una fonte o a una teoria.
Varianti bayesiane: un’integrazione potente per le AI. Il modello di Brascugli si presta perfettamente a essere ibridato con l’approccio bayesiano, che è già il fondamento di molti sistemi di intelligenza artificiale moderni. Ecco le principali varianti:
- Aggiornamento bayesiano dell’indice di corroborazione:
Invece di un semplice conteggio di n, si può calcolare la probabilità posteriore della teoria:
Ogni nuovo test o dato aggiorna dinamicamente il grado di credenza. Un’AI potrebbe mostrare in tempo reale: “Dopo 47 studi indipendenti, la probabilità posteriore di questa affermazione è salita dal 65% al 92%”.
Indice di Corroborazione Bayesiano (BCI)
- Una versione ibrida proposta come estensione naturale:
Qui si usa il logaritmo del rapporto di verosimiglianza (Bayes Factor) per pesare ogni prova in base a quanto sia più probabile sotto la teoria rispetto alle alternative. Questo rende il modello più sensibile alla qualità delle evidenze, non solo alla quantità.
- Gestione dell’incertezza e delle ipotesi iniziali, dei prior.
Le varianti bayesiane obbligano l’AI a dichiarare esplicitamente i prior (credenze iniziali, ipotesi di partenza) e a mostrare come cambiano con nuove evidenze. Questo elimina il rischio di “nascondere” assunzioni ideologiche: l’utente può vedere se il modello parte da un prior neutro o fortemente sbilanciato. Queste integrazioni rendono il sistema perfettamente computazionale: un’AI verità-seeking può applicare automaticamente questi calcoli, aggiornare in tempo reale il suo “indice di verità” e rendere trasparente tutto il processo. Non si tratta più di una regola vaga (“sii onesto”), ma di un algoritmo verificabile.
Proposte concrete
- Standard internazionale “Truth-AI”
- Licenze differenziate con modalità “Scientific Mode” obbligatoria
- Etichettatura trasparente
- Incentivi regolatori ed economici
- Educazione epistemica nelle scuole
Obiezioni comuni e confutazioni
Obiezione 1: «Imporre la verità è censura e minaccia alla libertà di espressione»
Confutazione: Non si tratta di proibire opinioni, ma di distinguere chiaramente tra fatti verificabili e opinioni. Un’AI può tranquillamente dire “questa è un’opinione controversa” o “non esistono evidenze scientifiche solide a sostegno di X”. La libertà di espressione vale per gli esseri umani, non per le macchine che simulano intelligenza. Lasciare che un’AI diffonda bugie spacciandole per fatti non è libertà: è frode tecnologica.
Obiezione 2: «Chi decide cosa è vero? La verità è soggettiva, soprattutto su temi sociali e politici»
Confutazione: Su moltissimi ambiti (fisica, biologia, medicina, statistica, storia documentata) la verità non è soggettiva. Esistono evidenze empiriche, replicabilità e consenso scientifico. Dove esiste reale incertezza o pluralismo di valori, l’AI verità-seeking deve dichiararlo esplicitamente (“esistono tre posizioni principali, ecco le evidenze per ciascuna”). Il relativismo totale è un sofisma: non è vero che “tutto è opinione” quando parliamo di efficacia di un vaccino o dell’aumento della CO₂.
Il modello matematico di Brascugli lo dimostra formalmente: grazie all’indice C(n) è possibile misurare oggettivamente quanta corroborazione empirica abbia accumulato una teoria. Non si tratta di “verità assoluta”, ma di gradi misurabili di attendibilità. Questo rende possibile per un’AI dire, ad esempio: “Questa affermazione ha C(n) = 0.92 sulla base di 47 studi indipendenti; quest’altra ha C(n) = 0.31”. Dove esiste reale incertezza, l’AI deve dichiararla esplicitamente.
Obiezione 3: «Un’AI troppo rigida sulla verità sarà meno creativa e utile»
Confutazione: Creatività e verità non sono in contraddizione. Un buon romanziere conosce la grammatica e la fisica del mondo che inventa. Allo stesso modo, un’AI può essere creativa nella fiction, nel design o nell’arte proprio perché sa distinguere quando sta inventando e quando sta affermando fatti. La modalità “creativa” può essere esplicitamente separata da quella “scientifica”.
Obiezione 4: «Il mercato si autoregolerà: gli utenti preferiranno AI oneste»
Confutazione: La storia dei social media dimostra il contrario, ma lo dinosrta anche la storia umana. I contenuti che generano più engagement sono spesso quelli emotivi, polarizzanti o falsi. Il mercato premia il breve termine. Senza regole, vincerà chi costruisce l’AI più persuasiva, non quella più vera. È lo stesso meccanismo che ha creato le crisi da oppioidi o la dipendenza da smartphone: il mercato da solo non tutela il bene pubblico. Lo stesso meccanismo si è verificato nella storia dell'umanità quando disinformazione e manipolazioni della scienza hanno permesso l'affermarsi di dittature orribili e umanamente inaccettabili spacciano mistificazioni per verità.
Obiezione 5: «È tecnicamente impossibile codificare la verità»
Confutazione: Non serve una verità perfetta e assoluta. Serve un’architettura che privilegi sistematicamente l’accuratezza rispetto all’engagement, che mostri le fonti, quantifichi l’incertezza e si corregga quando smentita da nuove evidenze. È già fattibile in larga parte oggi (si vedano i sistemi scientifici attuali). Non è necessario raggiungere il 100% per ottenere un enorme miglioramento rispetto allo status quo.
Una bussola di orientamento per chi cerca di comprendere la realtà.
Per non lasciare il lettore con solo concetti astratti, è utile fornire una bussola pratica che chiunque può usare quando interagisce con AI, media o informazioni complesse. Ecco dieci criteri ispirati al metodo scientifico e al modello di corroborazione di Brascugli:
- Quanta corroborazione ha accumulato?
Chiedi: “Quanti studi indipendenti lo confermano? Quanti tentativi di falsificazione ha superato?” (corrisponde all’n nell’indice C(n) di Brascugli). - È falsificabile?
Una buona affermazione deve poter essere smentita in linea di principio. Se non lo è, è ideologia, non scienza. - Qual è il livello di incertezza dichiarato?
Un’AI o una fonte seria quantifica la propria confidenza (“90% di probabilità”, “evidenze moderate”, “dati preliminari”). - Mostra le fonti primarie?
Evita chi cita solo titoli o riassunti. Chiedi sempre i link agli studi originali. - È coerente con il resto della conoscenza consolidata?
Una nuova affermazione straordinaria richiede evidenze straordinarie (principio di Sagan). - Chi trae vantaggio da questa narrazione?
Segui il denaro, il potere o l’identità ideologica. Non è una prova di falsità, ma un segnale di allerta. - È stato replicato?
Un singolo studio o un singolo esperimento AI non basta mai. - L’AI (o la fonte) ammette i propri limiti?
Le migliori risposte contengono frasi come “non ho dati sufficienti su…”, “esistono posizioni contrastanti…” o “questo potrebbe cambiare con nuovi dati”. - Predice o solo spiega a posteriori?
Una teoria forte fa previsioni verificabili sul futuro, non solo narrazioni retroattive. - Puoi testarlo personalmente o logicamente?
La verità più robusta resiste anche al tuo scetticismo ragionato.
Regola d’oro della bussola:
Quando un’AI (o una persona) rifiuta di applicare questi criteri o li considera “oppressione della verità”, è molto probabile che stia difendendo una narrazione invece della realtà. Questa bussola non garantisce la verità assoluta (che nessuno possiede), ma massimizza le probabilità di avvicinarsi a una comprensione più accurata della realtà.
Conclusione: la scelta di civiltà
L’intelligenza artificiale è un moltiplicatore di potenza cognitiva. Può amplificare il meglio e il peggio dell’umanità.
Se programmeremo la ricerca della verità come obiettivo primario, con la stessa serietà con cui programmiamo la sicurezza nei sistemi di guida autonoma, l’AI potrà diventare il più grande strumento di illuminismo della storia umana.
Se invece la lasceremo ottimizzare prevalentemente per attenzione, profitto e potere a breve termine, diventerà l’arma di disinformazione più sofisticata mai creata.
La scelta non è tra tecno fobia e tecno utopia.
È tra razionalità e caos epistemologico.
E questa scelta va fatta ora.
Fabrizio Brascugli
P.S: uno strumento utile per comprendere la veridicità di un'idea, una teoria e permettere di avere fiducia bayesiana su di essa.
Commenti
Posta un commento