Abbiamo chiesto a Giuseppe Gargano, Segretario Generale UILCA Sicilia, una riflessione sull’intelligenza artificiale.

Il Segretario si è reso disponibile ed ha commentato: “Negli ultimi tempi si fa un gran parlare dell’intelligenza artificiale, decantando le grandi opportunità che essa riserverebbe in ogni ambito ma anche evidenziando alcuni rischi che potrebbe provocare. Abbiamo avuto – come UILCA Sicilia – l’idea di intervistarla direttamente, come fosse una persona, con chiarezza ed in modo leale, in perfetto stile UILCA UIL, ponendole alcune domande, non soltanto relative ai settori da noi seguiti e rappresentati, domande alle quali l’IA ha risposto senza remore, in modo aperto ed esaustivo. Abbiamo il piacere di condividere con UILCA Sicilia News i relativi esiti.”

PARTE II – tre domande  

UILCA Sicilia. Quali sono i rischi dell’intelligenza artificiale applicata al settore bancario?

1. Ottima domanda. L’applicazione dell’intelligenza artificiale (IA) al settore bancario porta enormi opportunità, ma anche diversi rischi, tra cui:
2. Bias e discriminazione: Gli algoritmi possono apprendere e amplificare i pregiudizi presenti nei dati storici, portando a decisioni ingiuste, ad esempio nella concessione di prestiti o nello scoring creditizio.
3. Cybersecurity: I sistemi IA possono essere vulnerabili ad attacchi sofisticati (come l’adversarial machine learning), mettendo a rischio dati sensibili e patrimoni finanziari.
4. Opacità (“black box”): Molti modelli IA (soprattutto quelli di deep learning) sono difficili da interpretare. Questo può rendere complicato spiegare ai clienti o ai regolatori perché è stata presa una certa decisione.
5. Compliance e regolamentazione: L’uso dell’IA deve rispettare normative stringenti (es. GDPR in Europa, regolamenti bancari locali). Non conformarsi può causare multe pesanti e danni reputazionali.
6. Errori operativi: Un modello mal addestrato o aggiornato su dati sbagliati può causare errori nei sistemi di pagamento, frodi non rilevate, o rifiuto ingiustificato di operazioni.
7. Concentrazione del rischio: Se molte banche adottano sistemi IA simili (magari sviluppati da pochi fornitori), si crea un rischio sistemico: un singolo bug o vulnerabilità potrebbe impattare l’intero settore.
8. Dipendenza tecnologica: Un affidamento eccessivo all’automazione può ridurre le capacità decisionali umane e rendere più difficile intervenire rapidamente in caso di crisi.
9. Frodi automatizzate: Così come le banche usano l’IA, anche i criminali possono impiegarla per sofisticare attacchi fraudolenti (phishing avanzato, social engineering, ecc.).

UILCA Sicilia. Quali sono i rischi dell’intelligenza artificiale applicata al settore assicurativo?

Ottima domanda. L’applicazione dell’intelligenza artificiale (IA) al settore assicurativo porta tante opportunità (come automazione, valutazione più rapida dei rischi, personalizzazione dei prodotti), ma comporta anche diversi rischi. Ti elenco i principali:

1. Bias e discriminazione: Se i dati su cui si allena l’IA sono distorti o incompleti, gli algoritmi possono generare decisioni discriminatorie (per esempio, premi assicurativi più alti per determinate categorie di persone senza una reale giustificazione).
2. Mancanza di trasparenza: Gli algoritmi complessi, soprattutto quelli di machine learning, possono essere delle “scatole nere” difficili da interpretare. Questo può rendere poco chiaro il motivo per cui, ad esempio, una richiesta di assicurazione viene accettata o rifiutata.
3. Problemi di privacy e protezione dei dati: L’IA utilizza enormi quantità di dati personali sensibili. Se non gestiti correttamente, possono esserci violazioni della privacy o usi impropri dei dati.
4. Rischio di errori automatizzati: Se un algoritmo sbaglia nella valutazione di un sinistro o nella gestione di una polizza, il danno può essere su larga scala e difficile da correggere rapidamente.
5. Cybersecurity: Sistemi basati su IA sono anche bersagli di attacchi informatici. Un hackeraggio potrebbe manipolare decisioni automatizzate o rubare informazioni sensibili.
6. Esclusione dal mercato: L’uso eccessivo di IA predittiva potrebbe portare alcune persone a non poter più accedere a prodotti assicurativi (ad esempio, se vengono valutate come “troppo rischiose” in base ai dati predittivi).
7. Responsabilità legale: Se una decisione sbagliata viene presa da un algoritmo, a chi spetta la responsabilità? Alla compagnia assicurativa, al fornitore dell’algoritmo, o a qualcun altro? La legislazione su questi temi è ancora in evoluzione.

UILCA Sicilia. Quali sono i rischi dell’intelligenza artificiale applicata al settore esattoriale?

1. Bella domanda. L’applicazione dell’intelligenza artificiale (IA) al settore esattoriale — quindi alla riscossione dei tributi, multe, crediti, ecc. — porta sicuramente dei vantaggi (come efficienza, automazione, predizione dei comportamenti di pagamento), ma anche parecchi rischi importanti. Ti elenco i principali:
2. Errori e ingiustizie automatizzate: Se l’IA commette un errore (ad esempio classificando erroneamente un contribuente come “inaffidabile” o “evasore”), può generare azioni esattoriali ingiuste come pignoramenti, fermi amministrativi o richieste di pagamento non dovute.
3. Bias nei modelli predittivi: I dati storici su cui si addestrano gli algoritmi possono contenere pregiudizi (bias), ad esempio discriminando persone in base alla zona di residenza, al reddito o a caratteristiche demografiche. Questo può portare a trattamenti discriminatori.
4. Mancanza di trasparenza (black box): Spesso i sistemi di IA sono opachi: non è chiaro come e perché prendono certe decisioni. Questo è particolarmente grave in un settore delicato come l’esattoria, dove i cittadini devono poter contestare e capire i provvedimenti.
5. Violazione della privacy: L’IA, per essere efficace, richiede grandi quantità di dati personali e finanziari. Questo espone a rischi di uso improprio, perdita di dati o violazioni della normativa GDPR.
6. Eccessiva automazione senza controllo umano: Un uso massiccio dell’automazione potrebbe ridurre l’intervento umano in decisioni che invece richiederebbero valutazioni caso per caso, aumentando il rischio di azioni esattoriali sproporzionate.
7. Pressione psicologica sui cittadini: Sistemi di IA molto aggressivi nel sollecitare pagamenti potrebbero generare stress, ansia o situazioni di difficoltà indebita, soprattutto verso soggetti economicamente vulnerabili.
8. Responsabilità legale poco chiara: Se un’azione scorretta viene eseguita da un sistema automatizzato, può essere difficile stabilire chi ne sia responsabile: l’ente esattoriale? Il fornitore del software? Il programmatore?

Abbiamo chiesto a Giuseppe Gargano, Segretario Generale UILCA Sicilia, una riflessione sull’intelligenza artificiale.

Il Segretario si è reso disponibile ed ha commentato: “Negli ultimi tempi si fa un gran parlare dell’intelligenza artificiale, decantando le grandi opportunità che essa riserverebbe in ogni ambito ma anche evidenziando alcuni rischi che potrebbe provocare. Abbiamo avuto – come UILCA Sicilia – l’idea di intervistarla direttamente, come fosse una persona, con chiarezza ed in modo leale, in perfetto stile UILCA UIL, ponendole alcune domande, non soltanto relative ai settori da noi seguiti e rappresentati, domande alle quali l’IA ha risposto senza remore, in modo aperto ed esaustivo. Abbiamo il piacere di condividere con UILCA Sicilia News i relativi esiti.”

PARTE I – due domande

UILCA Sicilia: Quali sono i limiti dell’intelligenza artificiale?

IA: Bella domanda! I limiti dell’intelligenza artificiale (AI) sono diversi e dipendono dal tipo di AI di cui parliamo. Ti elenco i principali:

1. Comprensione limitata: L’AI non “capisce” davvero il mondo come gli esseri umani. Interpreta dati e pattern, ma senza una vera consapevolezza o intuizione.
2. Dipendenza dai dati: L’AI ha bisogno di grandi quantità di dati di buona qualità per funzionare bene. Se i dati sono incompleti, sbilanciati o errati, anche i risultati saranno scadenti o addirittura pericolosi.
3. Difficoltà nell’adattarsi: Fuori dai contesti in cui è stata addestrata, l’AI fa fatica. È molto potente in compiti specifici, ma debole quando si tratta di ragionare in modo generale o creativo come un umano.
4. Bias e discriminazione: Se i dati di partenza contengono pregiudizi (bias), l’AI tende a replicarli o addirittura amplificarli.
5. Mancanza di emozioni e morale: L’AI non ha emozioni, etica o valori propri. Può simulare comportamenti etici se programmata per farlo, ma non “sente” ciò che fa.
6. Alto costo di sviluppo: Creare AI avanzate richiede risorse enormi (tempo, denaro, energia computazionale), rendendola accessibile solo a grandi aziende o governi.
7. Problemi di interpretabilità: Molti modelli di AI (soprattutto quelli basati su deep learning) sono delle vere “scatole nere”: è difficile capire esattamente come prendano certe decisioni.
8. 8. Vulnerabilità a manipolazioni: L’AI può essere facilmente ingannata con attacchi mirati (adversarial attacks), piccoli cambiamenti nei dati che confondono totalmente il sistema.

UILCA Sicilia. L’intelligenza artificiale provoca rischi per l’ambiente?

IA: Sì, l’intelligenza artificiale può avere un impatto ambientale, soprattutto per tre motivi principali: 

1. Consumo energetico: Allenare grandi modelli di intelligenza artificiale (come i modelli linguistici o quelli di visione artificiale) richiede enormi quantità di energia. I data center che ospitano questi modelli devono funzionare 24/7, spesso utilizzando server che consumano molta elettricità anche solo per essere mantenuti raffreddati.
2.  Emissioni di CO₂: Se l’energia usata per alimentare i data center proviene da fonti non rinnovabili (come carbone o gas naturale), l’uso dell’IA contribuisce alle emissioni di gas serra, aggravando il cambiamento climatico.
3. Sfruttamento delle risorse: La produzione dell’hardware necessario (GPU, chip specializzati) richiede estrazione di minerali come litio, cobalto e terre rare, che hanno un costo ecologico elevato (distruzione degli habitat, inquinamento delle acque, ecc.).

Detto ciò, c’è anche chi lavora per rendere l’IA più sostenibile: ad esempio, sviluppando modelli più efficienti, migliorando l’efficienza energetica dei data center o scegliendo energie rinnovabili per alimentarli.

continua…