di Maria Lista*
Immaginiamo un sistema di intelligenza artificiale utilizzato in ambito sanitario per prevedere il rischio di complicazioni nei pazienti. L’algoritmo analizza migliaia di cartelle cliniche per stabilire chi dovrebbe ricevere cure preventive o un monitoraggio più attento. Ma c’è un problema: per alcuni gruppi il rischio viene sistematicamente sottovalutato. Questo accade non perché stiano meglio, ma perché non hanno avuto pari accesso alle cure o sono stati curati tardi, creando così vuoti nei dati. L’Intelligenza artificiale, basandosi su queste informazioni, prende decisioni che sembrano oggettive, ma che in realtà rafforzano e amplificano una discriminazione già esistente.
Questi meccanismi non riguardano solo la sanità ma ogni ambito della nostra società. In passato, ad esempio, alcuni sistemi di selezione automatica del personale hanno favorito certi profili — ad esempio maschili — rispetto ad altri. Immaginiamo il ruolo dell’autista o dell’ingegnere aerospaziale: se in passato questi ruoli erano ricoperti quasi esclusivamente da uomini, un algoritmo rischia di “apprendere” che il candidato ideale deve essere maschio, escludendo automaticamente donne altrettanto qualificate.
Pochi esempi che ci aiutano a capire un punto fondamentale: l’intelligenza artificiale non è neutrale. E questo crea un paradosso interessante. Storicamente, l’automazione è nata per ridurre l’errore umano e rendere i processi più oggettivi. Eppure, oggi sappiamo che l’IA non elimina automaticamente i pregiudizi: spesso li assorbe e li amplifica, secondo il principio semplice del “garbage in, garbage out”. Se una macchina è alimentata con dati che contengono stereotipi, disuguaglianze o abitudini consolidate, li riproporrà nei risultati. Ed è proprio questo che si intende quando si parla di bias dell’IA: pregiudizi nascosti nei dati possono tradursi in decisioni ingiuste o discriminazioni involontarie
Il parallelismo con la società dell’informazione in cui viviamo arriva spontaneo. Siamo costantemente esposti a una grande quantità di notizie, dati e contenuti. Ma avere più informazioni non significa automaticamente avere maggiore consapevolezza. Anche noi formiamo il nostro pensiero critico e prendiamo decisioni — sul lavoro, in ambito sociale, politico o nella vita quotidiana — in base alla qualità delle informazioni che consumiamo.
Diventa quindi indispensabile governare la tecnologia anche attraverso regole e normative. L’Italia, infatti, ha approvato la prima legge nazionale specificamente dedicata all’intelligenza artificiale (la Legge n. 132 del 23 settembre 2025) affinché questa tecnologia venga utilizzata in maniera etica e vantaggiosa per la società, per supportare le persone e non per sostituirle. Una tecnologia guidata dai principi di integrità, trasparenza ed equità, affinché possa contribuire al bene comune, senza creare nuove disuguaglianze.
Parlo di questo tema non solo come osservatrice, ma anche come project manager IT, con percorsi di formazione ed esperienza nella gestione di progetti basati su GenAI. Ho imparato che l’intelligenza artificiale ci mostra un meccanismo che esiste da sempre, ovvero ciò che ripetiamo ci forma, ciò che scegliamo ci definisce, e ciò che escludiamo pesa quanto ciò che includiamo. Lo stesso vale per i dati, per gli algoritmi e persino per la costruzione della nostra coscienza sociale. Comprendere questo è il primo passo per non subire l’IA, ma per governarla, e forse anche per raccontare e capire meglio ciò che succede intorno a noi.
Technical Implementation Manager