Lo sviluppo di soluzioni basate sull’intelligenza artificiale (IA) mettono le aziende nella condizione di dover affrontare problemi nuovi, non solo sul piano tecnologico. L’esperienza più significativa e di maggior impatto sul grande pubblico rimane quella nel settore automobilistico, impegnato nella sviluppo dell’auto a conduzione autonoma. Si tratta di una vera e propria case history in cui si stanno sviscerando le diverse implicazioni di un servizio erogato autonomamente da un computer con autonomia decisionale e discrezionale. Uno degli aspetti che si sta rilevando di maggiore impatto è quello legale; non si tratta solo delle questioni di responsabilità civile, di cui si è parlato autonomamente rispetto all’incidente nell’ambito del test Uber, ma dei principali si sta sviluppando il nuovo normativo: protezione dei dati, rispetto della privacy e sicurezza informatica. Non a caso sono questi i tre pilastri su cui è stato elaborato il GDPR di imminente attuazione.

Perché proprio questi tre elementi? Il punto fondamentale dei sistemi IA - come di quasi tutte le altre tecnologie abilitanti della DX - è la possibilità di accedere e operare sui dati: informazioni sulle casistiche precedenti, informazioni congiunturali sul contesto, dati sugli utenti, dati sui sistemi coinvolti e poi i dati di apprendimento ovvero le informazioni raccolte e lavorate dal sistema di IA che, in tendenza, dovrebbero poter coinvolgere il maggior numero di operatori possibile. Tutto questo coinvolge - come una locomotiva lanciata a tutta velocità - le esigenze di tutela e di riservatezza dei singoli (come pure delle comunità e delle organizzazioni). Se, infatti, i dati diventano il “petrolio” delle nuove macchine e più dati garantiscono maggiori performance, è anche vero che il trattamento di tali dati deve essere trasparente. In termini di IA trasparenza significa poter avere chiarezza sugli algoritmi e i data set. Significa poter avere informazioni certe e non modificabili su come gli algoritmi estraggono e utilizzano le informazioni e le utilizzano per prendere le loro scelte. Si parla di verification e validation: il primo concetto riguarda la certezza che una certa soluzione faccia effettivamente quello per cui è stata creata, il secondo, invece, concerne la sicurezza che il sistema non faccia anche altro.

Sul piano organizzativo, la tendenza è sviluppare team multidisciplinari in cui siano presenti e operativi anche i giuristi, al fine di fare in modo che gli atti legali siano in grado di rappresentare e tutelare la conoscenza in ambito digitale.

Fonte: https://www.soiel.it/news/dettaglio/affrontare-il-cambiamento/#

× Condividi con gli utenti della tua rete

CONDIVIDI