14 termini spiegati senza gergo, in ordine alfabetico.
Sistema basato su un modello linguistico che non si limita a rispondere: pianifica, usa strumenti (browser, shell, API, email) e compie azioni in autonomia verso un obiettivo. Ogni strumento e ogni permesso in più allarga la superficie d'attacco.
Vedi anche: Prompt injection, Lethal trifecta, RAG
Contaminazione dei dati usati per addestrare, affinare o far consultare un modello, in modo da alterarne il comportamento: errori mirati, distorsioni o una backdoor che si attiva solo con un certo innesco.
Vedi anche: Model extraction, RAG, MITRE ATLAS
Immagine, video o audio generato o alterato con l'AI per far apparire una persona reale mentre dice o fa ciò che non ha mai detto o fatto. Usato per frodi sui pagamenti, truffe e contenuti sessuali non consensuali.
Vedi anche: Voice cloning, Caso Arup, archivio
Controllo che limita ciò che un sistema AI può ricevere, fare o restituire: filtri su input e output, permessi minimi sugli strumenti, approvazione umana per le azioni sensibili. Riduce il rischio ma non lo elimina, e va testato come ogni altra difesa.
Vedi anche: Red teaming, Jailbreak, Agente AI
Variante in cui le istruzioni ostili non arrivano dall'utente ma da contenuti che il modello legge: una pagina web, un'email, un PDF. Il modello non distingue in modo affidabile dati e comandi e può eseguirle.
Vedi anche: Prompt injection, RAG, Lethal trifecta
Tecnica per aggirare le regole di sicurezza di un modello e fargli produrre ciò che dovrebbe rifiutare. Si distingue dalla prompt injection: il jailbreak punta alle regole del modello, l'iniezione all'applicazione che lo usa.
Vedi anche: Prompt injection, Guardrail, Red teaming
Il caso peggiore per un assistente AI, nominato da Simon Willison (giugno 2025): dati privati, contenuti non fidati e comunicazione verso l'esterno nello stesso sistema. Basta togliere una delle tre capacità perché il percorso di fuga dei dati si interrompa.
Base di conoscenza di tecniche usate contro sistemi AI, sul modello di MITRE ATT&CK. Dà un linguaggio comune per descrivere un attacco. Nell'ottobre 2025 sono state aggiunte 14 tecniche per agenti. I conteggi cambiano da fonte a fonte: citiamo sempre la versione.
Vedi anche: OWASP LLM Top 10, Red teaming, Data poisoning
in italiano: In italiano, furto di modelli
Attacco in cui chi interroga un modello molte volte ne ricostruisce il comportamento o ne copia i parametri, ottenendo un modello sostitutivo o informazioni riservate. Si limita con quote, monitoraggio delle richieste e limiti sulle risposte.
Vedi anche: Data poisoning, MITRE ATLAS
Elenco dei dieci rischi principali per le applicazioni basate su LLM, da LLM01 Prompt Injection a LLM10 Unbounded Consumption. Include LLM03 Supply Chain, LLM06 Excessive Agency e LLM07 System Prompt Leakage. Per gli agenti esiste l'elenco ASI01-ASI10, pubblicato il 9 dicembre 2025.
Vedi anche: Prompt injection, Agente AI, MITRE ATLAS
in italiano: In italiano, iniezione di prompt
Attacco in cui un input costruito ad arte induce un modello linguistico a ignorare le istruzioni dello sviluppatore e a seguire quelle di chi attacca. Nasce dal fatto che il modello riceve istruzioni e dati nello stesso flusso di testo e non li separa in modo affidabile.
Vedi anche: Indirect prompt injection, Jailbreak, Guardrail
in italiano: Retrieval-Augmented Generation
Il modello risponde dopo aver recuperato passaggi pertinenti da una base documentale: archivi, wiki, email. Aiuta a ancorare le risposte ai documenti, ma ogni testo recuperato è un contenuto non fidato che può contenere istruzioni ostili o dati avvelenati.
Vedi anche: Indirect prompt injection, Data poisoning
Prova offensiva autorizzata: un gruppo simula un avversario per trovare le falle prima degli attaccanti. Sui sistemi AI mette alla prova prompt injection, jailbreak e abuso degli strumenti, sempre su ambienti propri e isolati.
Vedi anche: Guardrail, MITRE ATLAS, Jailbreak
in italiano: In italiano, clonazione vocale
Sintesi di una voce che imita quella di una persona reale a partire da campioni audio. Usata per telefonate in cui il truffatore si spaccia per un dirigente o un'autorità. Non esistono strumenti automatici infallibili per smascherarla in tempo reale: servono verifiche fuori banda.
Vedi anche: Deepfake, Caso falso Crosetto, archivio