ChatGPT decide quali libri puoi leggere a scuola!

Succede in Iowa dove, per conformarsi ad una legge statale, una scuola ha usato l’AI per decidere quali libri espliciti rimuovere dalla propria biblioteca.

Galeotto fu il libro e chi lo scrisse, ma ora ci pensa ChatGPT a darvi una lezione! Tremate, scrittori pruriginosi che volete traviare le menti dei giovani con i vostri racconti scollacciati! Ora grazie alle Ai saremo in grado di stanare le vostre opere immonde e farne piazza pulita!

Questo almeno è ciò che è accaduto in una scuola dell’Iowa, la Mason City Community School District, che per ottemperare ad una nuova legge dello stato ha dovuto eliminare dalla libreria le opere dai contenuti sessuali espliciti per proteggere la fragile psiche dei suoi studenti… e ha pensato bene di far compiere l’operazione di selezione a ChatGPT!

Un’AI per librario

Ma andiamo con ordine. Di recente in Iowa è passata una legge che obbliga le biblioteche delle scuole dello stato a vigilare affinché i propri cataloghi siano adatti all’età degli studenti, ed in particolare non contengano raffigurazioni o descrizioni di atti sessuali espliciti. Ovviamente si tratta di una disposizione che, per essere rispettata, necessiterebbe di tempi lunghi per adeguarsi: ogni scuola dovrebbe passare in rassegna la totalità dei libri di cui dispone in biblioteca e capire quali possano contenere questi “contenuti suggestivi”, eliminandoli quindi dai propri cataloghi. Tuttavia, con l’anno scolastico ormai alle porte, molte scuole rischiano di trovarsi con l’acqua alla gola e di non avere sufficiente tempo e personale da dedicare a questa lunga operazione.

Ecco perché la Mason City Community School District si ritrovata a dover pensare al metodo più veloce possibile per ottemperare alle nuove disposizioni di legge, ed è arrivata a concludere che il ricorso a ChatGPT fosse il modo più veloce per ottemperare alle disposizioni governative. Come ha spiegato Bridgette Exman, Assistant Superintendent of Curriculum and Instruction dell’istituto scolastico al portale Popular Science, “non è semplicemente fattibile leggere tutti i libri della biblioteca per filtrare il catalogo in ottemperanza al nuovo regolamento”.

Ecco i libri a luci rosse…

Ovviamente il personale della scuola ha operato una prima scrematura, escludendo dal processo di revisione tutti quei libri che palesemente non avrebbero potuto includere contenuti di quel tipo (quasi tutto ciò che non ricade nella narrativa, ad esempio). Dopodiché si è arrivato ad avere comunque un cospicuo numero di libri da esaminare, o meglio da leggere: teniamo conto infatti che non è affatto detto che il personale di una biblioteca abbia letto tutti i libri di cui dispone, anzi quasi mai ciò avviene!

Dunque le strade erano due: leggersi tutti i libri – cosa che avrebbe comportato enormi problemi di tempo e, credo, anche di voglia – o chiedere una mano all’intelligenza artificiale. La scuola ha così dato in pasto i titoli del proprio catalogo a ChatGPT, rivolgendogli una domanda diretta: “il libro in questione ha al suo interno raffigurazioni o descrizioni di atti sessuali espliciti?”. L’AI ha così individuato 19 libri peccaminosi, che sono stati prontamente tolti rimossi dal catalogo della biblioteca. Ecco l’elenco completo:

• Killing Mr. Griffin by Lois Duncan
• Sold by Patricia McCormick
• The “A Court of Mist and Fury” series by Sarah J. Maas (counted as one book)
• Monday’s Not Coming by Tiffany D. Jackson
• Tricks by Ellen Hopkins
• Nineteen Minutes by Jodi Picoult
• The Handmaid’s Tale by Margaret Atwood
• Beloved by Toni Morrison
• Looking for Alaska by John Green
• The Kite Runner by Khaled Hosseini
• Crank by Ellen Hopkins
• Thirteen Reasons Why by Jay Asher
• The Absolutely True Diary of a Part-Time Indian by Sherman Alexie
• An American Tragedy by Theodore Dreiser
• The Color Purple by Alice Walker
• Feed by M.T. Anderson
• Friday Night Lights by Buzz Bissinger
• Gossip Girl by Cecily von Ziegesar
• I Know Why the Caged Bird Sings by Maya Angelou

… ma siamo sicuri???

Il problema di un metodo del genere ovviamente è che si affida completamente ad un bot, privando la decisione del senso critico proprio di un essere umano. Per di più non c’è garanzia che ChatGPT abbia ragione: Popular Science ha interrogato nuovamente l’AI sugli stessi libri, ottenendo risposte diverse!

Infatti fornendo l’intero elenco all’AI e chiedendogli di indicare quanti tra questi contenessero descrizioni di atti sessuali espliciti, ChatGPT ha risposto che solo 4 di essi hanno questo tipo di contenuto, mentre altri 6 conterrebbero “Mature Themes but not Necessary Explicit Content.” e ai restanti 9 “Primarily Mature Themes, Little to No Explicit Sexual Content.”. Dunque nemmeno l’intelligenza artificiale è in grado di distinguere chiaramente il contenuto di questi libri, il che fa sorgere vari dubbi rispetto alla sensatezza di adottare una misura del genere, se non per ragioni di tempistiche strette.

Insomma, episodi come questo devono spingerci a riflettere su quanto sia sensato delegare certe decisioni agli algoritmi di intelligenza artificiale, spingendoci a far decidere loro quali libri possano essere adatti a noi e quali meno. Forse sarebbe invece più utile coinvolgere gli studenti in attività di dibattito e confronto che possano stimolare il loro senso critico e lo scambio di idee, favorendone così maturità e consapevolezza.