Arrivano le regolamentazioni ISO sulle Ai | Ecco cosa cambia nel mondo del lavoro

L’arrivo degli standard è uno degli elementi indispensabili per permettere alle persone di tutto il mondo di lavorare con qualcosa nella maniera giusta; a inizio 2024 si concretizza la “norma delle norme” dedicata al mondo delle intelligenze artificiali.

Ci ricorderemo di certo il 2024 come l’anno in cui ha iniziato a mettere le radici la regolamentazione per l’utilizzo responsabile dell’intelligenza artificiale. 

Già diversi documenti “basilari” come l’AI Risk Management Framework e l’Executive Order on Safe Secure, and Trustworthy Artificiale Intelligence avevano già fatto parlare di se nel corso del 2023 per il mondo americano; durante lo stesso periodo il consiglio dell’Unione Europea e il rispettivo parlamento hanno raggiunto un accordo sul regolamento sull’AI.

Di tutti questi documenti il più importante, forse, è l’ultimo arrivato: pubblicato il 18 Dicembre 2023 è il lavoro della ISO, ovvero l’organizzazione internazionale per la normazione. Andiamo a scoprire più da vicino la norma ISO/IEC 42001 – Information Technology – Artificial Intelligence – Management System!

Di che norma stiamo parlando?

Lo scopo di questa norma (esattamente come accade per la stragrande maggioranza degli altri documenti che abbiamo citato all’interno di questi articoli) è quello di fornire strumenti adatta alla protezione di una serie di valori durante tutto il ciclo di vita di un sistema di intelligenza artificiale, qualsiasi questo sia. 

I valori in questione si possono riassumere in sicurezza, tutela, trasparenza, qualità dei dati, qualità dei sistemi ed equità: tutto quello che è ritenuto necessario per la creazione di un sistema per gestire le intelligenze artificiali (siglato per l’occasione come AIMS).

È importante sapere che, al fine di facilitare l’integrazione della norma con tutte le altre norme di gestione che già vengono utilizzate (esempi: ISO/IEC 27001:2022 su cybersecurity, ISO/IEC 27701:2019 sulla privacy, ISO 9001:2015 per i sistemi di gestione della qualità, etc) senza dover richiedere un eventuale implementazione come pre requisito.

Chi dovrebbe essere interessato a questa nuova norma ISO?

La norma è dedicata a tutte quelle organizzazioni che realizzano/utilizzano prodotti o servizi che impiegano sistemi di intelligenza artificiale in una qualsiasi fase tra sviluppo, fornitura, uso e monitoraggio. Questo perché la presenza di sistemi di intelligenza artificiale in questi comporta dei rischi aggiuntivi all’interno di un sistema.

Facciamo qualche esempio di considerazioni specifiche che vanno fatte quando l’AI entra a far parte di un prodotto.

I moderni sistemi di intelligenza artificiale sono dotati di capacità di apprendimento continuo, con modifica progressiva del comportamento durante l’uso; qui è necessario porre particolare attenzione per garantire che l’utilizzo del prodotto o servizio risulti responsabile anche in caso di continui cambiamenti dovuti al processo di miglioramento.

L’apprendimento viene fatto attraverso processi di analisi dei dati, di conoscenza e più in generale sistemi di machine learning; questi se vengono sostituiti dalla logica possono cambiare in generale la maniera in cui i sistemi vengono sviluppati, distribuiti e valutati.

I processi decisionali in seno alle intelligenze artificiali, inoltre, devono risultare trasparenti e comprensibili, così da permettere un eventuale supervisione e amministrazione serena che siano comparabili a quanto viene fatto dai sistemi informatici tradizionali.

Attraverso la norma ISO 42001 è necessario che un elevato livello di controllo venga applicato durante tutto il ciclo di vita di prodotti e servizi, con controlli applicativi in maniera costante e capillare proprio per controbilanciare il dinamismo proprio delle intelligenze artificiali; il rischio è che in assenza di controlli si possano moltiplicare in maniera anche imprevedibile gli esiti di prodotti e servizi.

La norma a grandi linee

Senza addentrarci troppo nei cavilli e nella normativa (siamo pur sempre un sito di videogiochi e sopratutto vi vogliamo abbastanza bene), la struttura della norma si può esemplificare nella seguente maniera.

• Requisiti
• Controlli
• Esemplificazione degli obbiettivi per cui viene impiegata l’intelligenza artificiale
• analisi delle minacce individuate nel processo di valutazione del rischio relativo a progettazione / sviluppo / funzionamento dell’intelligenza artificiale
• obbiettivi e fonti di rischio da tenere in considerazione
• analisi delle metodologie di uso dei sistemi di gestione dell’intelligenza artificiale con esempi settorializzazioni e integrazione dei sistemi con quelli già esistenti nella normativa ISO
• lista di azioni con cui poter gestire i rischi, trattamento dei rischi sistemici e valutazione dei rischi
• guide operazionali all’esecuzione della gestione

Ampia parte della norma è legata alla descrizione dei requisiti e alla strutturazione di controlli e obbiettivi dei controlli. Solo questi ultimi sono divisi in 39 voci diverse comprendenti di tutto e di più: dalle politiche legate all’intelligenza artificiale all’analisi dell’impatto dei sistemi dotati di AI e ai rapporti con le terze parti.

Al momento la norma è in fase di pubblicazione, a cui dovrà seguire una fase di revisione e un eventuale fase di rinuncia in caso di problemi o modifiche importanti; sul sito dell’ISO volendo è possibile acquistarla in formato digitale o cartaceo per poco più di 200 €.

Inutile dire che se non siete degli addetti ai lavori le informazioni che vi abbiamo dato noi o che potrete trovare in rete nel corso di questi mesi saranno più che abbastanza per venire a capo della cosa; tutti gli altri (sfortunati) invece sapranno maledirci ripetendo i commi più odiosi e le nozioni più sfuggenti, di questo ne siamo certi!