L'AI che abbiamo scelto di non usare
Costruire uno strumento di conformità all'AI Act ci ha insegnato che la decisione più matura sull'AI è spesso dove non mettere un modello.
Di Logical
Costruiamo con gli LLM ogni settimana. Così, quando ci siamo messi a sviluppare una piattaforma di conformità all'AI Act europeo — il tipo di prodotto in cui "AI" è scritto già nel brief — la decisione interessante non era quale modello usare. Era scegliere, di proposito, di tenere l'AI generativa fuori proprio dalla parte in cui tutti se la aspettavano.
La tentazione
La presentazione si scrive da sola: dai in pasto a un modello le risposte di un'azienda, lascia che ragioni sulla norma, fagli generare un report di conformità su misura. In demo è bellissimo. Ed è esattamente lo strumento sbagliato.
Un assessment di conformità deve essere verificabile e ripetibile. Gli stessi dati devono produrre la stessa classificazione, ogni volta, e devi poter indicare il perché. Un LLM non ti dà nessuna delle due cose gratis. Due esecuzioni possono divergere. Chiedigli di citare l'articolo e potrebbe inventarne uno con grande sicurezza. Quando un'autorità — o l'avvocato del cliente — chiede come un sistema sia finito nel livello "alto rischio", "il modello ne era convinto" non è una risposta.
La classificazione del rischio è un albero decisionale, non una sensazione. Così abbiamo scritto un albero decisionale.
Dove il modello si guadagna il posto
L'assessment quindi è deterministico: un motore di regole mappa ogni risposta su uno dei quattro livelli di rischio della norma, e il report nasce da quelle regole. Stesso input, stesso output, con un percorso tracciabile dalla domanda all'obbligo. Nessun articolo allucinato.
Non vuol dire niente AI. Vuol dire AI dove serve davvero:
- Tradurre il legalese in parole semplici nei materiali di formazione, con una persona che rivede ogni riga prima della pubblicazione.
- Abbozzare lezioni e domande dei quiz che poi un esperto corregge — il modello come prima bozza più veloce, mai l'ultima parola.
- Aiutare gli utenti a descrivere cosa fanno i loro sistemi, così il motore deterministico riceve dati più puliti.
La lezione generale
La decisione di ingegneria AI più matura è quasi sempre per sottrazione. Sapere quando un modello è l'astrazione sbagliata — troppo imprevedibile per un percorso che deve essere difendibile, troppo costoso per un lavoro che una tabella di lookup fa alla perfezione — vale più di sapere la finestra di contesto dell'ultimo modello.
"Usiamo l'AI" è facile. Sapere esattamente dove tracciare la linea, e saperlo spiegare a un'autorità, è la parte per cui i clienti ti pagano davvero.