ChatGPT è stato “addestrato” da esseri umani… Sottopagati | É il secondo caso per OpenAI

In realtà, il rivoluzionario bot ChatGPT per funzionare al meglio utilizza l’ingegno di centinaia di lavoratori sottopagati

ChatGPT, il popolarissimo chatbot IA, è alimentato da sistemi di apprendimento automatico ed ha rivoluzionato la concezione attuale sulle intelligenze artificiali. Le capacità del bot di emulare il linguaggio ed il ragionamento umano sono incredibili e lasciando presagire scenari in cui le macchine potranno davvero sostituirci.

Eppure, non è tutto oro quel che luccica. Persino ChatGPT, a quanto pare, ha bisogno di noi poveri esseri umani per funzionare.

Gli umani dietro la macchina

I sistemi di apprendimento del bot sono guidati da lavoratori umani, molti dei quali non sono pagati particolarmente bene. Un nuovo rapporto mostra che OpenAI, la startup dietro ChatGPT, ha pagato frotte di appaltatori statunitensi per assisterla nel necessario compito di etichettatura dei dati, il processo di formazione del software di ChatGPT per rispondere meglio alle richieste degli utenti. Il compenso per questo compito fondamentale? Un’entusiasmante cifra di 15 dollari all’ora.

Siamo lavoratori umili, ma senza di essi non esisterebbero sistemi linguistici di intelligenza artificiale. Puoi progettare tutte le reti neurali che vuoi, puoi coinvolgere tutti i ricercatori che vuoi, ma senza etichettatori non hai ChatGPT. Non avete nulla

Ha dichiarato Alexej Savreux, uno dei lavoratori

Un lavoro essenziale

L’etichettatura dei dati – il compito che Savreux e altri hanno dovuto affrontare – è il processo integrale di analisi dei campioni di dati per aiutare i sistemi automatici a identificare meglio particolari elementi all’interno del set di dati. Gli etichettatori etichettano particolari elementi (siano essi immagini visive distinte o tipi di testo) in modo che le macchine possano imparare a identificarli meglio da sole. In questo modo, gli operatori umani aiutano i sistemi automatici a rispondere con maggiore precisione alle richieste degli utenti, svolgendo un ruolo importante nella formazione dei modelli di apprendimento automatico.

Tuttavia, nonostante l’importanza di questa posizione, la maggior parte dei moderatori non viene compensata particolarmente bene per il proprio lavoro. Nel caso dei moderatori di OpenAI, i data labeller non ricevono alcun benefit e sono pagati poco più di quello che in alcuni Stati è il salario minimo. Savreux ha sede a Kansas City, dove il salario minimo è di 7,25 dollari.

Prima andava anche peggio

Per quanto terribile, si tratta comunque di un miglioramento rispetto al modo in cui OpenAI impiegava i suoi team di moderazione. In precedenza, l’azienda affidava il proprio lavoro a moderatori in Africa, dove – a causa dei salari bassi e delle leggi sul lavoro limitate – poteva arrivare a pagare i lavoratori anche 2 dollari l’ora.

In precedenza ha collaborato con una società chiamata Sama, un’azienda americana che dice di dedicarsi a una “catena di fornitura etica dell’IA”, ma la cui principale affermazione è quella di mettere in contatto grandi aziende tecnologiche con appaltatori a basso salario nei Paesi del Terzo Mondo. In passato Sama è stata citata in giudizio e accusata di fornire condizioni di lavoro inadeguate.

I mod del Kenya a basso salario hanno aiutato OpenAI a costruire un sistema di filtraggio in grado di eliminare il materiale sgradevole o offensivo inviato al suo chatbot. Tuttavia, per ottenere questo risultato, i moderatori, pagati poco, hanno dovuto passare in rassegna schermate di materiale sgradevole, tra cui descrizioni di omicidi, torture, violenze sessuali e incesti.

Come il mago di Oz

L’intelligenza artificiale può sembrare una magia – che prende vita e risponde alle richieste degli utenti come se fosse un incantesimo – ma in realtà è aiutata da frotte di lavoratori umani invisibili che meritano di meglio per il loro contributo.

Insomma, un Mago di Oz che, però, non vive in un castello di smeraldo, ma in qualche paese del Terzo Mondo dove può essere sfruttato per continuare a fare le sue magie.