Blockchain e AI_ verba volant, scripta manent

“Verba volant, scripta manent”: una frase che, credo, molti di noi hanno sentito ripetere spesso, soprattutto sui banchi di scuola, nei momenti in cui era necessario dimostrare una reale padronanza di concetti e contenuti. Ed è proprio un parallelo particolarmente adatto alla tesi che intendo sviluppare in questo articolo

L’AI rappresenta in qualche modo l’emblema del verba volant: parole generate a una velocità incredibile, tracce che lasciamo sul web spesso confuse, frammentate e difficilmente verificabili, al punto da contribuire ad aumentare il livello di disordine informativo della rete e, di riflesso, della società.Le chiacchiere, invece, si azzerano quando entriamo nel dominio della blockchain: scripta manent, e manent imperiture. La blockchain conserva le informazioni in maniera ordinata, trasparente e immutabile, in un contesto in cui l’essere umano mantiene la possibilità di verificare e distinguere con chiarezza ciò che è valido da ciò che non lo è.

Questo articolo intende esplorare soltanto una delle possibili sinergie tra queste due tecnologie, ma con un obiettivo preciso: riportare l’essere umano al centro. Possiamo immaginare l’umano (ovvero enti certificatori, ovvero istituzioni reali) come un professore di liceo che, con un registro in mano (la blockchain), valuta la qualità della preparazione (i dataset) su cui gli studenti (i modelli di AI) costruiscono la loro conoscenza per potersi davvero confrontare con il mondo, a seguito di un’attenta, trasparente e immutabile valutazione.

Fonte: Immagine generata con ChatGPT (OpenAI) a partire da prompt testuale e successivamente post-prodotta manualmente dall’autore

La deriva dell’AI: “slop” e Model Autophagy Disorder (MAD)

Negli ultimi tempi si sta facendo sempre più frequente una domanda, sempre più presente nel dibattito tra colleghi, sui social e nei media: verso quale mondo ci sta portando l’AI? La crescente consapevolezza delle sue capacità, in continua espansione, si accompagna alla percezione di output sempre più caotici, meno affidabili e difficili da interpretare. Se un modello di AI dovesse prendere una decisione critica domani, potremmo davvero fidarci dei dati su cui è stato addestrato?
Come evidenziato da diversi studi, tra cui quelli presentati alla ACM Conference on Fairness, Accountability and Transparency, i rischi legati a modelli addestrati senza trasparenza sui dati di origine sono reali e spesso sottovalutati in modo preoccupante. In questo scenario, la blockchain non sarebbe una risposta tra le tante, ma una delle poche soluzioni che permettono una verificabilità tecnica forte e indipendente dalle parti. Ritengo sia necessario muoversi correttamente oggi per sfruttare il suo potenziale e orientarci verso norme (almeno a livello europeo) che strutturino un sistema di validazione e certificazione dei dati con cui addestrare i modelli di domani.

Fonte: https://www.pexels.com/it-it/foto/astratto-tecnologia-ricerca-apprendimento-17483874/

Il punto cruciale che spesso sfugge è che le prime generazioni di modelli sono state addestrate su materiale autentico: codice scritto da sviluppatori umani, in carne e ossa, e articoli pensati da persone vere che ci mettevano dentro esperienza, anche errori, ma comunque in un contesto di realtà che rende un contenuto valido. Oggi, invece, concordo con gli studi che attestano quanto stiamo scivolando verso uno scenario decisamente pericoloso, in cui l’AI impara da altra AI in un ciclo chiuso, creando continue fotocopie di fotocopie (Cornell University, Self-Consuming Generative Models Go MAD) che inevitabilmente finiranno per sbiadire o distorcerne il contenuto.
Gli studi più recenti confermano che qualità e varietà stanno calando visibilmente, mentre gli errori si propagano in modo virale, portandoci verso un caos inconsapevole in cui tutto sembra funzionare mentre lentamente si svuota di significato e valore. Si tratta del fenomeno “slop”, così come ben definito da The Guardian: spazzatura generativa che inquina il web a una velocità impressionante.

Il problema è particolarmente visibile nell’ambito della programmazione, dove la replicabilità del codice lo rende un vettore ideale per la propagazione degli errori. I numeri del report GitHub Octoverse 2024 lo confermano: nell’ultimo anno c’è stato un aumento del 98% nel numero di progetti legati all’intelligenza artificiale generativa e un balzo del 59% nei contributi complessivi, segno che stiamo riversando una quantità di codice sintetico nei repository pubblici a una velocità mai vista prima.

Fonte: https://github.blog/news-insights/octoverse/octoverse-2024/

Il problema riguarda chiunque si occupi di creazione, che si tratti di design o di sviluppo di prodotti. Io parlo spesso di programmazione semplicemente perché è il mio campo d’azione e rappresenta il punto in cui il fenomeno emerge con una chiarezza a tratti disarmante: il codice è per sua natura replicabile, e quando un errore viene inserito nel flusso rischia di diventare uno standard senza che nessuno se ne accorga. Lo documenta bene anche la ricerca pubblicata dall’ACM sull’impatto di ChatGPT su Stack Overflow: quando le risposte generate dall’AI diventano il riferimento, gli errori si normalizzano. L’AI rischia così di diventare il collega di cui tutti si fidano e che nessuno controlla, il che (in contesti critici) è esattamente il tipo di fiducia che non ci possiamo permettere.

Non a caso, le grandi aziende (e anche quelle meno grandi ma con una visione strutturata del problema) hanno iniziato seriamente a mettere dei paletti, passando da “fai tutto veloce fidandoti dell’AI” a un approccio decisamente più critico che impone di scrivere prompt contestualizzati, e soprattutto di leggere ogni singola riga di codice generata, cercando di capire davvero cosa stia facendo invece di limitarsi a un copia e incolla alla cieca (che è poi il minimo per chiunque voglia definirsi un professionista).

L’AI non ha un curriculum

E qui arriviamo alla questione che mi sta più a cuore. Non trovo particolarmente problematico che certi lavori vengano ridefiniti nel ruolo di “controllo” o, in alcuni casi, sostituiti. Quello che solleva criticità più serie è che l’AI possa occupare certi spazi senza un percorso formativo e professionale equivalente a quello umano. Se questa tecnologia vuole davvero prendere il mio posto, allora che si certifichi: che dimostri che i suoi dati di addestramento sono puliti e verificabili, invece di assorbire qualsiasi cosa trovi in giro senza nemmeno sapere se la fonte “avesse davvero studiato”.
Dobbiamo sviluppare strumenti per validare tutto questo: non è più un’opzione, è una necessità tecnica e normativa. Ed è qui che la blockchain smette di essere un tema di nicchia e diventa una risposta concreta, non solo come strumento di tracciabilità, ma come infrastruttura per un nuovo modello di governance dei dati, un vero e proprio layer di controllo che avrebbe il potenziale di soddisfare le richieste dell’AI Act europeo.

La blockchain permette di rendere i dati immutabili e sempre verificabili, creando quella tracciabilità necessaria per stabilire se un modello è stato addestrato su basi solide o su fonti di provenienza incerta o artificiale, trasformando la trasparenza da obbligo normativo a garanzia tecnica non smentibile (Agenda Digitale).
È importante però chiarire un punto: la blockchain non garantisce la veridicità del dato in sé, ma l’immutabilità della sua registrazione. In altre parole, certifica che un’informazione è stata dichiarata in un certo modo, in un certo momento, ma non che quella dichiarazione sia corretta. Per questo il vero nodo non è solo tecnologico ma anche istituzionale: servono meccanismi affidabili per validare ciò che viene registrato, altrimenti si rischia di rendere permanenti anche errori o informazioni di bassa qualità.

Come sottolineato già in passato dal Professor Quattrini, “il futuro della tecnologia non dipenderà esclusivamente dalla quantità di dati posseduti, ma dalla capacità di garantirne un accesso equo e sicuro”: una prospettiva che non riguarda solo la sicurezza tecnica, ma anche e soprattutto la responsabilità etica di chi produce contenuti e di chi ne trae valore. La sinergia tra blockchain e AI è con ogni probabilità la risposta tecnica più solida che abbiamo a una crisi di affidabilità che sta attraversando l’intera industria.

Non basta dire “ho studiato”, serve certificare.

La direzione che mi sembra più urgente (e che fatica ancora a entrare nel dibattito normativo mainstream, probabilmente per la complessità istituzionale che comporta) è quella degli enti certificatori su blockchain dedicati alla qualità dei dati di addestramento. L’idea consisterebbe nell’istituire organismi tecnici investiti della responsabilità di attestare, in modo indipendente e non alterabile, che un dataset, un repository, un articolo, un libro sia stato prodotto con standard verificabili: da chi, con quali strumenti e informazioni, con quale grado di revisione umana.

Progetti come Ocean Protocol o Fetch.ai indicano già una direzione verso ecosistemi distribuiti dove ogni passaggio di validazione viene tracciato in modo trasparente, ma quello che ancora manca è il salto istituzionale: norme che non si limitino a chiedere trasparenza, ma che la rendano strutturale attraverso enti terzi capaci di certificarla.

Nota: Ocean Protocol e Fetch.ai sono progetti basati su tecnologia blockchain con token associati il cui valore di mercato può variare significativamente. Questo articolo non costituisce consulenza finanziaria né un invito all’investimento.

Questo implica però un problema che, ad oggi, non ha ancora una risposta definitiva: chi certifica i certificatori? Una direzione possibile è quella di un modello multilivello, in cui diversi enti indipendenti validano gli stessi dataset, distribuendo la fiducia invece di centralizzarla. Un registro condiviso, in cui la qualità dei dataset viene valutata nel tempo da più enti indipendenti, costruendo un consenso distribuito invece di un giudizio unico. Ma è una proposta che richiede ancora una riflessione normativa seria, non solo tecnica.

Il processo di validazione di materiale generato con il supporto dell’AI, affinché sia certificabile, deve seguire criteri specifici che ne dimostrino il grado di consapevolezza e comprensione umana. Ritengo che se scrivo del codice o un articolo aiutandomi con l’AI ma mettendoci sopra la mia comprensione, i miei test e la mia revisione, quel lavoro rimanga profondamente mio e abbia un valore che merita di essere dimostrato tecnicamente. Se si condividessero degli standard operativi dimostrabili, avremmo una prova tecnica in grado di attestare come e con quali garanzie un contenuto sia stato prodotto.
In termini pratici, si potrebbe immaginare un flusso di questo tipo: un dataset viene prodotto, documentato e sottoposto a revisione umana; successivamente viene generato un hash crittografico che ne rappresenta in modo univoco il contenuto, e questo hash viene registrato su blockchain insieme ai metadati (ad esempio autore, strumenti utilizzati, livello di revisione). Un modello di AI che utilizza quel dataset potrebbe quindi dichiararne esplicitamente l’origine, rendendo verificabile a posteriori la qualità delle fonti su cui è stato addestrato.

Anche questo articolo è stato rifinito con il supporto dell’intelligenza artificiale, utilizzata come strumento di revisione e miglioramento strutturale. Una forma di certificazione artigianale (la mia, per il momento) di quello stesso processo che questo articolo propone di rendere strutturale.

La certificazione è un bene pubblico?

Chiunque produca contenuto di valore (un articolo, un libro, un repository, una serie di fotografie, una partitura musicale) dovrebbe poter richiedere la certificazione di quel contenuto su blockchain, proponendolo esplicitamente come dato affidabile per l’addestramento dell’AI. Non come cessione di copyright, ma come dichiarazione di qualità verificabile: una sorta di timbro che attesta l’origine senza trasferire la proprietà né autorizzare automaticamente l’uso (i diritti rimarrebbero separati dalla certificazione).
Ritengo avrebbe senso che questo avvenisse dietro compenso, non solo per sostenere i costi infrastrutturali, ma perché introdurrebbe un incentivo alla cura: la certificazione avrebbe un valore economico solo se il contenuto la giustifica. Non è una garanzia assoluta di qualità, ma è un meccanismo di selezione che oggi manca del tutto.

Qui si apre la domanda alla quale volevo giungere: chi dovrebbe sostenere la spesa? Le grandi aziende AI che di quei dati si nutrono? I contribuenti? I fruitori dei contenuti? Non è una domanda tecnica, ma politica, culturale, forse anche filosofica. La risposta che do è inevitabilmente parziale: la conoscenza autentica è un bene comune, e come tale la sua certificazione dovrebbe essere sostenuta collettivamente. Non è l’unica risposta possibile, ma è quella che, a mio avviso, ha più senso in un’epoca in cui tutto può essere simulato e sempre meno può essere verificato.
La difesa della cultura, dell’arte, dell’ingegno umano, quella capacità tutta nostra di creare cose nuove partendo da attitudini, competenze, idee proprie, non è forse una delle poche cose che vale ancora la pena finanziare insieme, nell’epoca in cui tutto può essere simulato?

Se decidiamo che sì, la conoscenza autentica è un bene comune, allora ha senso che la sua certificazione venga sostenuta come tale: un’infrastruttura pubblica per la qualità del sapere, nell’interesse di tutti, incluse le macchine che da quel sapere dipendono per non diventare spazzatura. Se non costruiamo oggi un’infrastruttura di fiducia per i dati, il rischio (già realtà) è quello di costruire un ecosistema che continua a generare contenuti senza alcun legame verificabile con la realtà.

Fonti

Alemohammad, Sina, et al. “Self-Consuming Generative Models Go MAD.” arXiv, 2023. https://arxiv.org/abs/2307.01850

Bender, Emily M., et al. “On the Dangers of Stochastic Parrots.” FAccT ’21, 2021. https://doi.org/10.1145/3442188.3445922

Denning, Peter J., e Matti Tedre. “AI and the Profession of Computing.” Communications of the ACM, 2023. https://cacm.acm.org/opinion/ai-and-the-profession-of-computing/

Hern, Alex. “The Rise of ‘Slop’.” The Guardian, 2024. https://www.theguardian.com/technology/article/2024/may/19/spam-junk-slop-the-latest-wave-of-ai-behind-the-zombie-internet

Javaid, Uzair, et al. “Blockchain for Tracing Provenance of AI Training Data.” IEEE PerCom Workshops, 2022. https://doi.org/10.1109/PerComWorkshops53851.2022.9767357

Kabir, Samia, et al. “An Analysis of the Impact of ChatGPT on Stack Overflow.” CHI ’24, 2024. https://dl.acm.org/doi/10.1145/3613904.3642596

McConaghy, Trent. Ocean Protocol Technical Whitepaper. 2020. https://oceanprotocol.com/tech-whitepaper.pdf

Parlamento Europeo. “Regolamento (UE) 2024/1689 – AI Act.” 2024. https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX:32024R1689

Quattrini, N., Affidaty. “Blockchain e AI: L’intelligenza decentralizzata che cambierà il futuro.” 2025. https://affidaty.io/blog/it/2025/02/blockchain-ai-dati/

Shumailov, Ilia, et al. “AI Models Collapse When Trained on Recursively Generated Data.” Nature, 2024. https://doi.org/10.1038/s41586-024-07566-y

Thomas, Humayun, et al. “Fetch.ai Developer Platform.” Fetch.ai Docs, 2024. https://www.fetch.ai/docs

Zdorovtsov, Artem, et al. “The 2024 State of the Octoverse.” GitHub, 2024. https://github.blog/open-source/octoverse/octoverse-2024