Un AI agent è un software che può usare strumenti e compiere azioni per conto di qualcuno. Quando invia un documento o modifica un dato, la conversazione racconta solo una parte della storia. La domanda più utile è se quell'azione fosse consentita e cosa sia successo dopo.
Chi verifica dovrebbe poter rispondere tramite un registro collegato all'azione. Non serve conservare ogni prompt o tutti i dati visti dall'agent. Serve collegare la richiesta, la regola e il risultato.
Cinque domande a cui il registro dovrebbe rispondere
- Step 01Chi ha agito? Registrate un identificativo stabile dell'agent e, quando serve, della persona o del servizio che ha autorizzato il compito. Un semplice nome visualizzato può cambiare.
- Step 02Cosa voleva fare? Indicate lo strumento o la destinazione, l'operazione e la risorsa coinvolta. Quando il contenuto completo non serve, usate un ID o una categoria.
- Step 03Quali autorizzazioni aveva? Conservate la versione della regola o del permesso valida in quel momento. Una modifica successiva non deve cambiare la storia di un'azione precedente.
- Step 04Cosa ha deciso il controllo? Registrate se l'azione è stata consentita, bloccata o inviata a una persona per approvazione, insieme al motivo o all'ID della regola.
- Step 05Cosa è successo davvero? Registrate l'esito dello strumento, inclusi errori e annullamenti. Una richiesta consentita non prova che l'azione sia riuscita.
Collegate le cinque risposte con l'ora e numeri di riferimento che uniscano i passaggi correlati. È uno schema operativo suggerito, non uno standard universale. I campi giusti dipendono dall'azione e dal sistema.
Un esempio verificabile
Immaginate che un agent di assistenza debba inviare un file cliente a un indirizzo esterno. Il registro potrebbe dire: agent support-17, caso 4821, tentativo di usare lo strumento email con il file 729; la versione 6 della regola blocca i destinatari esterni; lo strumento email non è stato chiamato. Chi verifica vede il tentativo, la decisione e l'esito senza conservare il file o il testo dell'email nel registro.
Se la richiesta viene invece approvata, registrate chi l'ha approvata, i limiti dell'approvazione e se l'invio è riuscito. Approvazione ed esecuzione sono eventi distinti. La differenza conta quando un'azione viene ripetuta o fallisce dopo l'approvazione.
Conservate prove utili, limitate i dati
I log possono diventare una seconda copia dei dati dei clienti. Le indicazioni di OpenTelemetry per le attività AI avvertono che parametri, risultati e messaggi degli strumenti possono contenere informazioni sensibili. Partite da identificativi, categorie, decisioni ed esiti. Conservate il contenuto integrale solo quando una specifica indagine o un obbligo lo richiede, con controlli di accesso e tempi di conservazione definiti.
La traccia di un'azione non dimostra, da sola, che un controllo abbia funzionato. Può mostrare che uno strumento è stato chiamato, ma non quale regola sia stata valutata o se la chiamata sia stata fermata prima di raggiungere lo strumento. Collegate la decisione all'attività a cui si riferisce.
Il requisito di legge è più circoscritto
L'Articolo 12 dell'EU AI Act richiede la registrazione automatica degli eventi per i sistemi classificati ad alto rischio; non impone questo schema a cinque campi a ogni AI agent. Secondo l'attuale calendario europeo, le regole per i sistemi ad alto rischio dell'Allegato III si applicano dal 2 dicembre 2027. Conviene costruire registri utili già ora, verificando gli obblighi applicabili a ciascun sistema.
Una prova pratica per questa settimana
- Scegliete un'azione dell'agent che possa modificare dati o inviare informazioni fuori dall'organizzazione.
- Eseguite un caso consentito, uno bloccato e uno fallito. Provate a ricostruirli usando soltanto i registri.
- Se non riuscite a capire chi ha autorizzato l'azione, quale regola si è applicata o se l'azione si è conclusa, aggiungete il collegamento mancante prima di ampliare l'accesso dell'agent.
È la stessa sequenza su cui si basa HikmaAI per le interazioni supportate: valutare il percorso, applicare un controllo al confine protetto e conservare le prove dell'esito. Il registro è utile quando anche chi non ha progettato il sistema riesce a capire la decisione.
