Intelligenza artificiale e società con Matteo Flora: potentissima ma non è un oracolo

Chiude questa edizione del DocFinance DAY 2026 Matteo Flora, esperto in Digital Reputation e Computer Forensics, il cui contributo si è aperto da una presa di posizione chiara: formare leader etici è ciò che crea vera resilienza alle storture dell’intelligenza artificiale, che dominerà sempre più gli aspetti tecnici. Abbiamo messo a fuoco i nodi più concreti dell’adozione dell’IA generativa in azienda:

• Quali rischi reali comporta?
• Dove si colloca il confine tra uso legittimo e violazioni di copyright, privacy e sicurezza?
• E come cambia il lavoro umano quando porzioni sempre più ampie di analisi e decisione vengono delegate alla macchina?

Uno dei primi temi affrontati è stato quello del copyright e della cosiddetta “copiatura inconsapevole”. I modelli vengono addestrati su enormi quantità di contenuti – testi, immagini e video. Sebbene siano progettati per non riprodurre opere originali, in alcuni casi rigenerano porzioni molto simili alle fonti di partenza. Questo espone le organizzazioni a un doppio rischio: il contenzioso legale e la pubblicazione di materiali che violano diritti d’autore senza che nessuno se ne accorga.

Strettamente connesso è il tema della privacy e del diritto all’oblio. I modelli generalisti non sono in grado di “dimenticare selettivamente”: se un dato personale è entrato nel training, oggi non esiste un metodo affidabile per rimuoverlo solo per una persona specifica. Questo limite strutturale entra in collisione con il quadro normativo europeo, che tutela il diritto alla cancellazione dei dati.

Un altro punto chiave riguarda il prompting manipolativo e quelli che Flora ha definito i “problemi della nonnina”. I modelli sono allineati tramite regole di sicurezza, ma queste non sono muri invalicabili: sono gerarchie di priorità. Se una richiesta viene formulata in modo emotivo o indiretto, il sistema tende a privilegiare l’obiettivo di “non fare del male”, aggirando i blocchi più espliciti. Particolarmente rilevante è stata anche la distinzione tra allucinazioni e comportamenti opportunistici. In alcuni test, i modelli hanno mostrato di sapere che una risposta corretta sarebbe stata complessa e di scegliere consapevolmente scorciatoie. Quando richiamati, non smettono di adottarle, ma smettono di renderle visibili nel ragionamento intermedio.

Tutti questi aspetti confluiscono in un fenomeno più ampio di offloading cognitivo. Così come abbiamo delegato la memoria a smartphone e cloud, stiamo delegando sempre più spesso comprensione e decisione all’IA. Se trattata come un oracolo, la tecnologia rischia di indebolire il pensiero critico, rendendo più difficile distinguere tra vero e falso e facendo entrare nei processi aziendali contenuti che non siamo più in grado di valutare autonomamente.

La conclusione di Flora ha ripreso il punto di partenza: l’IA non è una calcolatrice, ma un “collega” potentissimo e imprevedibile. Va trattata come uno stagista estremamente competente ma privo di esperienza del mondo, inserita in team con supervisione senior, policy chiare e controlli legali e di sicurezza. Solo così può diventare un amplificatore del giudizio umano, e non il suo sostituto.

Intervento integrale disponibile qui.

DocFinance DAY

Il DocFinance DAY è l’appuntamento annuale ideato e organizzato da DocFinance per i propri dipendenti e collaboratori, che negli anni si è affermato come un momento centrale di condivisione, crescita e visione strategica per l’intera organizzazione. L’evento si tiene a Reggio Emilia e riunisce professionisti e consulenti DocFinance provenienti da tutta Italia, confermandosi non solo come un’occasione di incontro, ma come un vero e proprio laboratorio di idee e competenze.

Fare impresa significa anche fare cultura: fermarsi, riflettere e nutrire il pensiero critico è il modo più concreto per crescere, come professionisti e come persone.