Arianna Benatti ha spiegato che Agos già da anni si è accorta di quanto siano performanti certi modelli di machine learning applicati ai loro servizi, come il credit scoring, oltre ai modelli statistici più tradizionali. Per questo, come Chief Data Officer, racconta che entro il prossimo anno Agos vorrebbe convertire tutti i loro modelli in apprendimento automatico. Ciò rende necessaria un’attenzione e un monitoraggio ancora maggiori che però, come sottolineava Bonaita, non sono nuovi: i rischi che vanno considerati per servizi come il credit scoring hanno imposto all’azienda già da tempo di dotarsi di chiare regole interne. Ad esempio, ci sono alcune variabili che vengono considerate “proibite” e non possono essere inserite all’interno dei modelli. Tra queste c’è il genere, per evitare che un modello di credito possa penalizzare una donna rispetto a un uomo, a parità di caratteristiche finanziarie. Anche i giovani vengono trattati separatamente, perché se trattati allo stesso modo degli adulti con decenni di esperienza e con un reddito alto verrebbero automaticamente esclusi da certi servizi. C’è forte consapevolezza sul fatto che non basti nascondere le variabili, perché ce ne sono altre che potrebbero fare da proxy e rivelare le stesse informazioni, e per questo vengono fatti controlli sviluppando sempre sei modelli contemporaneamente, per valutare le performance e confrontare i risultati grazie al supporto del team di Data Governance.

Su questo tema ha insistito anche Andrea Beccari, Senior Director di EXSCALATE in Dompé farmaceutici: un settore non storicamente data-driven, ma che sta beneficiando enormemente dei calcoli computazionali per costruire modelli in grado di prevedere patologie o terapie. Mancano però i dati, o perché non sono anonimizzabili (come quelli genetici) o perché non si hanno ancora linee guida sufficienti su come controllare i modelli. Antonio Ballarin, Chief Artificial Intelligence Officer di Sogei, è un fisico con una lunga esperienza nell’AIA soprattutto nella pubblica amministrazione e proprio per questo gli ho chiesto se pensa sia importante mantenere un controllo umano nei processi e chi dovrebbe occuparsene. Ha sottolineato che i dati, il loro utilizzo e i processi automatizzati sono un tema molto sensibile. Per questo, è necessario che le persone che ci lavorano siano consapevoli dei limiti impliciti delle macchine, che saranno sempre parziali perché non descriveranno mai in maniera completa la realtà, e quindi soggette a errori. Il ruolo umano è imprescindibile e ineliminabile, ma non basta quello dei data scientist. La complessità di gestione di questi processi non può essere relegata esclusivamente alla statistica, ma richiede visioni strategiche, etiche, in grado di trovare interpretazioni e soluzioni più ampie. Questo perché, come sottolinea Benatti, lo scopo di chi crea modelli è di raggiungere un risultato ottimale dal punto di vista tecnico, e quindi difficilmente potrà da sola accorgersi di anomalie di altra natura. 

In chiusura, Nicola Scarfone e Filippo Prazzoli sono andati proprio in questa direzione, illustrando dettagliatamente tutti i requisiti dei sistemi ad alto rischio che saranno introdotti dall’AI Act europeo. Data governance, gestione del rischio, documentazione e tracciabilità, supervisione umana, trasparenza, gestione dei bias. Hanno presentato l’Engine di SAS per rispondere a questo grande cambiamento, un processo che aiuta le imprese a gestire ognuna di queste future richieste normative per assicurare compliance ai propri modelli. Particolarmente importante la rete di stakeholder da coinvolgere.

Siamo partiti dai principi, per arrivare a un framework molto concreto di gestione dei cicli di vita dell’IA. Ascoltare esperienze e conoscere modelli alternativi è un passaggio fondamentale per stimolare chi ancora non se ne occupa ad adottare un approccio responsabile all’AI, sia internamente che nei confronti di clienti e persone. Penso davvero che diffondere casi pratici su possibili soluzioni, test e valutazioni dei modelli sia uno dei modi migliori per stimolare un cambiamento. Per far capire che è possibile porsi le domande giuste, farlo in anticipo, e farsi carico delle proprie scelte.