Pierluigi Michetti
Il Project Maven solletica deliziosamente il sesto senso non soltanto degli appassionati dei film distopici degli anni Ottanta, ma anche dei cospirazionisti e dei teorici del complotto.
Una potente corporazione Hi-Tech collabora con un malvagio governo tecnocratico per sviluppare sistemi di intelligenza artificiale per droni militari. No, non è la trama per un reboot di Terminator Genisys: si tratta di un progetto che vede come partner Google e il Ministero della Difesa degli Stati Uniti d’America.
I dipendenti di Google, però, non ci stanno: dando ascolto alla vocina che sussurrava loro che utilizzare l’intelligenza artificiale per scopi bellici non è affatto la più furba delle idee, alcuni degli impiegati del colosso di Mountain View hanno deciso di licenziarsi.
Perché i dipendenti Google ce l’hanno col Project Maven?
Il timore è che questo progetto possa essere una sorta di episodio pilota per una corsa agli armamenti nell’ambito del cloud computing e dell’intelligenza artificiale.
Anche se al momento si tratterebbe soltanto di sviluppare un’IA che, grazie alle API TensorFlow di Google, sia in grado di riconoscere oggetti e di fornire quindi informazioni agli analisti dei servizi d’intelligence, è facilmente intuibile come le informazioni così ottenute verrebbero utilizzate per attacchi chirurgici. Ma non solo: il passaggio dal Project Maven ai droni killer guidati da una fredda IA non è così assurdo come si potrebbe pensare.
La questione è più complessa, però: vanno considerate anche alcune dinamiche aziendali.
Se da una parte Google ha sempre promosso un ambiente di lavoro aperto e paritario, offrendo ai dipendenti la possibilità di contestare le scelte della dirigenza, dall’altra il Progetto Maven è stato in un primo momento tenuto segreto, e finora le proteste dei dipendenti non hanno ottenuto chissà quale risultato concreto.
La protesta dei dipendenti Google contro l’uso militare della tecnologia
Oltre ai dieci impiegati che hanno preso una decisione drastica, più di quattromila dipendenti Google hanno sottoscritto una petizione interna che richiede a Google non solo di chiudere immediatamente il Project Maven, ma anche di ribadire ufficialmente che l’azienda californiana e i suoi contractors sono assolutamente contrari all’utilizzo bellico delle tecnologie da loro sviluppate.
Sul sito dell’International Committee for Robot Arms Control, inoltre, è stata pubblicata una lettera aperta, scritta dai dipendenti Google che supportano l’iniziativa e da altri lavoratori dei settori legati all’Hi-Tech e all’intelligenza artificiale.
Le implicazioni etiche del Project Maven
Da decine di millenni gli umani uccidono altri umani. Si protesta, ci si strappano i capelli, ci si lacerano le vesti, poi si festeggia la pace, ma il secolo successivo si ricomincia da capo.
Stavolta la dinamica è leggermente differente: qui si comincia a parlare di umani che creano intelligenze artificiali che uccidono umani. La questione è diversa, se ci pensate.
La recente diffusione virale del video SlaughterBots, che immagina l’utilizzo militare di droni-killer in un vicino futuro distopico in stile Black Mirror, dimostra come l’attenzione del pubblico per questi concetti sia piuttosto alta.
La risposta di Google alla protesta dei dipendenti
L’azienda afferma che, in fin dei conti, il suo contributo al progetto consiste soltanto in un software open-source, quindi già liberamente accessibile da parte del Pentagono, e nella relativa assistenza tecnica.
Oltretutto, pare, il sistema d’intelligenza artificiale fornito da Google non verrà impiegato in congiunzione con sistemi d’arma in senso stretto: il suo utilizzo sarà limitato alla mappatura di alcune aree tramite Wide Area Motion Imagery, al riconoscimento di oggetti e obiettivi sensibili, e al loro tracciamento in tempo reale.
Ci sarà una marcia indietro da parte di Google?
Almeno per quanto riguarda l’immediato futuro, Google andrà avanti con la collaborazione. Anzi, cercherà di ampliarla, provando ad accaparrarsi il Progetto JEDI che, purtroppo, non c’entra con la Forza e le spade laser [n.d.A.: lightsaber, dannazione!]: l’acronimo sta per Joint Enterprise Defense Infrastructure. All’incirca dieci miliardi di dollari per mettere al servizio dei militari alcuni dei servizi di cloud computing già disponibili per buona parte dei consumatori civili.
Ma non è detto che la protesta dei dipendenti non porti i suoi frutti, in futuro.
Non si tratterebbe nemmeno della prima volta: già in passato Google è tornato sui propri passi in seguito alle proteste di una parte dei propri dipendenti. Ricorderete come, nel 2015, sia stato ritirato il ban ai contenuti erotici sulla piattaforma Blogger, in seguito al massiccio backlash da parte dei dipendenti e di una larga fetta dell’utenza.
D’altronde tutti sanno che “the internet is for…” -ok, sapete tutti a cosa alludo. Torniamo a parlare di droni killer, su! Tanto sappiamo benissimo come andrà a finire la faccenda.
«Definizione: “Amore” è colpire le ginocchia di un bersaglio a 120 chilometri di distanza, usando un fucile di precisione Aratech con un’ottica a tre luci.»
