Domenico Ascione
ChatGPT ha numerosi difetti e bug: chi sarà in grado di segnalarli verrà ricompensato con migliaia di dollari da OpenAI
ChatGPT è senza ombra di dubbio l’innovazione tecnologica che sta facendo più discutere negli ultimi mesi. Disponibile da novembre, il bot di IA testuale di OpenAI ha invaso il mercato portando le altre multinazionali a sviluppare altrettante tecnologie simili per stare al passo con i tempi.
Tuttavia, ChatGPT non è assolutamente perfetto, anzi, tutt’altro. Il bot sbaglia spesso, si blocca, si confonde, inventa cosa (quello che in termine tecnico viene definito “allucinazioni”). Questo ha spinto i suoi creatori a correre ai ripari per trovare le falle, affidandosi proprio agli utenti.
Una taglia sui bug
OpenAI ricompenserà chiunque sarà in grado di trovare bug ed errori in ChatGPT.
Martedì OpenAI ha annunciato un programma di bug bounty che ricompenserà le persone tra i 200 e i 20.000 dollari per aver trovato bug in ChatGPT, nei plugin OpenAI, nelle API OpenAI e in altri servizi correlati.
Vi invitiamo a segnalare le vulnerabilità, i bug o le falle di sicurezza che scoprite nei nostri sistemi. Condividendo le vostre scoperte, giocherete un ruolo cruciale nel rendere la nostra tecnologia più sicura per tutti Si legge nell’annuncio condiviso anche su Twitter
Seri rischi per la sicurezza
Il lancio di un programma di bug bounty da parte di OpenAI arriva sulla scia di una violazione di dati e di crescenti preoccupazioni sui rischi per la privacy. Qualche settimana fa è stato scoperto un bug che ha esposto i titoli delle chat, il primo messaggio delle nuove conversazioni e le informazioni di pagamento degli utenti di ChatGPT Plus.
OpenAI è stata anche sottoposta a un intenso esame per il modo in cui protegge i dati degli utenti, soprattutto quando si tratta di minori. ChatGPT è stato vietato in Italia proprio per questo motivo. Questi problemi, oltre a una lettera aperta firmata da Steve “Woz” Wozniak ed Elon Musk che chiedeva una pausa di sei mesi sui sistemi di intelligenza artificiale, sembrano aver spinto OpenAI ad affermare pubblicamente il suo impegno per la sicurezza.
Un punto a favore per il Garante della Privacy italiano che, con una discussa presa di posizione, ha bloccato il bot nel nostro Paese proprio per questi rischi sulla sicurezza. Anche se contestata, la scelta sembra trovare fondamento nell’ammissione di colpa di OpenAI.
Come cacciare i bug
Il programma di bug bounty è gestito da Bugcrowd che si occuperà delle segnalazioni e delle ricompense. L’importo della ricompensa si basa sulla gravità del bug. Ma non entusiasmatevi ancora troppo. Ci sono lunghe linee guida e regole di ingaggio per ciò che non sarà ricompensato. L’evasione, il “far dire al modello cose cattive” e le allucinazioni sono esplicitamente fuori dal campo di applicazione. Inoltre, non tentate attacchi che possano “degradare, interrompere o avere un impatto negativo sui servizi o sull’esperienza dell’utente”, come un attacco Denial of Service (DDoS) o truffe come l’ingegneria social o il phishing.