Agenti AI, prodotti pericolosi e responsabilità: quando il diritto costringe l’innovazione a diventare adulta

Agenti AI, prodotti pericolosi e responsabilità: quando il diritto costringe l’innovazione a diventare adulta (Avv. Alessandro Tarducci)

Quando si parla di innovazione tecnologica, il linguaggio dominante è quello delle possibilità: automazione, efficienza, scalabilità. La responsabilità giuridica entra quasi sempre in scena dopo, come un effetto collaterale imprevisto.

Il dibattito sugli agenti AI open source — come OpenClaw e sistemi analoghi — segue esattamente questo schema: molta attenzione alle capacità tecniche, pochissima alle conseguenze prevedibili della loro diffusione.

Eppure, il diritto europeo e la recente giurisprudenza italiana stanno tracciando una linea sempre più chiara: quando un prodotto è intrinsecamente rischioso, la neutralità formale non è più sufficiente.

Dal software “as is” al sistema che agisce

Per anni il software è stato considerato uno strumento neutro: esegue istruzioni, non decide, non agisce autonomamente. In questo contesto, l’open source e la distribuzione “as is” hanno rappresentato una sorta di zona di comfort giuridica.

Gli agenti AI rompono questo paradigma. Non si limitano a elaborare dati, ma agiscono: accedono a sistemi, utilizzano credenziali, prendono decisioni operative che producono effetti concreti su persone, dati e patrimoni di terzi spesso inconsapevoli.

La domanda, allora, non è più solo tecnica: possiamo davvero continuare a considerare neutra la distribuzione di strumenti il cui uso pericoloso è prevedibile?

Prodotto pericoloso e prodotto difettoso: due piani, una stessa logica

Nel diritto europeo convivono due categorie distinte:

• Prodotto pericoloso, disciplinato dalla normativa sulla sicurezza generale dei prodotti (oggi Regolamento UE 2023/988): una logica preventiva, che riguarda ciò che non dovrebbe essere messo sul mercato senza adeguate cautele.
• Prodotto difettoso, disciplinato dal Codice del Consumo (ex Direttiva 85/374/CEE): una logica risarcitoria, che interviene quando il danno si è già verificato.

Non sono la stessa cosa, ma condividono un criterio centrale: la sicurezza che una persona può legittimamente attendersi, tenendo conto dell’uso prevedibile, anche scorretto, del prodotto.

La sentenza della Cassazione: il rischio non è il difetto, ma non è irrilevante

La recente sentenza della Corte di Cassazione in materia di responsabilità da prodotto difettoso (caso vaccini) chiarisce un punto spesso frainteso: un prodotto può essere pericoloso senza essere difettoso, ma la sua pericolosità incide profondamente sugli obblighi del produttore.

La Corte afferma che:

• la conformità formale agli standard non basta;
• il rischio insito nel prodotto non coincide automaticamente con il difetto;
• ciò che conta è se il prodotto soddisfa le legittime aspettative di sicurezza del destinatario.

Un passaggio decisivo riguarda l’informazione: avvertenze generiche o formule di stile non sono sufficienti. L’informazione deve essere specifica, comprensibile e funzionale a una scelta consapevole del rischio.

Questo sposta il baricentro della responsabilità: non solo cosa viene prodotto, ma come viene progettato, presentato e distribuito.

Il parallelo con i farmaci: prodotti pericolosi per definizione

Il diritto conosce da tempo una categoria di prodotti intrinsecamente pericolosi: i farmaci.
Possono causare danni, effetti collaterali gravi, persino la morte. Eppure non sono vietati.

Perché?
Perché il diritto non pretende l’assenza di rischio, ma una valutazione preventiva rischio/beneficio, una distribuzione controllata, un obbligo informativo rafforzato e, non ultimo, un sistema di monitoraggio continuo (farmacovigilanza).

Il produttore non risponde perché il farmaco è rischioso in sé, ma perché non ha valutato, comunicato o gestito correttamente quel rischio.

Agenti AI e farmaci: non identici, ma giuridicamente assimilabili

Gli agenti AI non sono farmaci, ma il parallelismo giuridico è tutt’altro che forzato.

Come i farmaci, gli agenti AI:

• non sono neutri;
• producono effetti su soggetti terzi;
• possono causare danni gravi se usati senza competenze;
• richiedono valutazioni ex ante e controlli ex post.

La differenza è che, mentre per i farmaci questo modello è consolidato, per il software lo stiamo costruendo ora. Ma la logica è la stessa: quando un prodotto è intrinsecamente rischioso, la libertà di diffusione non può essere assoluta.

La cybersecurity come requisito di sicurezza del prodotto

Questa evoluzione diventa ancora più evidente con il Cyber Resilience Act (CRA), che trasforma la cybersecurity da opzione tecnica a requisito legale di sicurezza del prodotto (secure by design).

In questo nuovo quadro una vulnerabilità informatica non è più un semplice incidente ma diventa un possibile difetto del prodotto, se compromette le aspettative legittime di sicurezza dell’utente.

Un agente AI manipolabile tramite prompt injection o exploit prevedibili, a causa di carenze progettuali, non è solo “mal configurato”: non soddisfa il livello di sicurezza atteso.
Il CRA introduce inoltre obblighi di monitoraggio lungo l’intero ciclo di vita del prodotto: la mancata gestione delle vulnerabilità o l’inerzia nel rilascio di patch diventa fonte di responsabilità.

Qui l’analogia con la farmacovigilanza si rafforza: non basta immettere sul mercato un prodotto “sicuro al momento zero”. Serve una cura continua della sicurezza.

Open Source: fine della zona franca giuridica

È necessario chiarire un equivoco diffuso: l’open source non è una zona franca giuridica.

Il diritto europeo tutela la ricerca e lo sviluppo collaborativo, ma questa tutela vale finché il software resta fuori dal mercato. 

Nel momento in cui un agente AI open source viene integrato in un prodotto commerciale, fornito come servizio e deployato in un contesto operativo professionale, il soggetto che lo distribuisce o lo utilizza assume la piena responsabilità della conformità, inclusa la sicurezza.

Non è possibile invocare la licenza permissiva, il rilascio “as is” o l’origine open del codice per giustificare danni causati a terzi. 

La neutralità del codice, a mio avviso, cessa nel momento in cui produce impatto sui diritti degli utenti. Chi trae utilità economica o operativa dall’agente AI ne diventa garante, indipendentemente da chi abbia scritto il codice sorgente.

Un’innovazione che entra nell’età adulta

Gli agenti AI non sono semplicemente software più avanzati. Sono sistemi che agiscono in contesti complessi, spesso opachi per chi li subisce.

Il diritto europeo, la giurisprudenza italiana, il Cyber Resilience Act e l’evoluzione della disciplina sui prodotti pericolosi convergono su un punto: l’innovazione non è più valutata solo per ciò che rende possibile, ma per ciò che rende prevedibilmente rischioso.

Come è già accaduto per i farmaci, anche per l’AI stiamo entrando in una fase di maturità, in cui libertà tecnica e responsabilità giuridica non possono più essere separate.

La vera sfida non è fermare l’innovazione.

È decidere fino a che punto siamo disposti ad accettare che strumenti potenti vengano diffusi senza farsi carico delle loro conseguenze prevedibili.