Anche l’Intelligenza Artificiale può nascondere ‘pregiudizi’ e non essere del tutto equa: ma ora, grazie a due realtà italiane, le eventuali possibili discriminazioni operate da servizi di A.I. possono essere corretti.

Il tema è sempre più discusso in quanto il compito dell’Intelligenza Artificiale è classificare le informazioni, quindi discriminare i contenuti assegnandoli in categorie, “e questo l’A.I. lo fa affidandosi ad algoritmi e dati forniti da persone”.

Così ha recentemente spiegato la questione a Wired Enrico Frumento, senior domain expert di Cefriel, centro di innovazione digitale fondato nel 1988 dal Politecnico di Milano e che vede tra i soci quattro atenei, Regione Lombardia e 17 grandi aziende.

Il problema nasce dunque dai data set su cui si costruiscono gli algoritmi, e dal fatto che talvolta i dati non rappresentano adeguatamente specifiche comunità di popolazione.

Cefriel e ZenaByte, spin-off dell’Università di Genova specialista in A.I. e data Analytics, sostenuti dal finanziamento della Commissione europea grazie al piano Horizon 2020, hanno messo a punto uno strumento software che potrà misurare il grado di equità ed etica di una soluzione di A.I, e fornire la miglior soluzione disponibile sul mercato. Il software è Amnesia - il nome completo è Assessment of fairness of Ngi Ai-based future interactive technologies - ed è dedicato alle piccole e medie imprese che normalmente sviluppano servizi o applicazioni basati sull’Intelligenza Artificiale sfruttando le più diffuse piattaforme automatiche.

Amnesia fornisce la possibilità di selezionare i set di dati di riferimento, il software di apprendimento automatizzato di interesse e altri parametri per eseguire simulazioni. In seguito a questo processo gli sviluppatori delle aziende ottengono un’indicazione e possono scegliere la propria suite di riferimento. A oggi le imprese possono scegliere tra più di 20 segmenti di applicazione e ottenere velocemente un responso, ma l’obiettivo è quello di consentire l’operazione su base dati di proprietà delle aziende.

× Condividi con gli utenti della tua rete

CONDIVIDI