L’intelligenza artificiale dell’S24 è così confusa da colpire i suoi stessi watermark

L’intelligenza artificiale dentro i Samsung S24 è così avanzata da essere un problema per sé stessi; le immagini create con l’intelligenza artificiale create dal cellulare hanno infatti un watermark che… può essere tranquillamente rimosso dalla stessa!

Recentemente Samsung ha presentato la sua nuova gamma di cellulari di fascia alta, S24, S24+ e S24Ultra; se avete seguito le notizie allora saprete sicuramente che questi telefoni cellulari sono caratterizzati da un notevole livello di integrazione con il mondo dell’intelligenza artificiale.

Ora lasciamo da parte tutte quante le diatribe che ci possono essere dietro l’aver comunicato in maniera pessima la natura a pagamento dell’intelligenza artificiale e concentriamoci su quello che può fare: creare immagini, ad esempio. Dato che le immagini create artificialmente nel corso degli ultimi anni stanno venendo sempre più utilizzate per disinformazione o bullismo, Samsung ha pensato bene di dotare quelle realizzate dal suo A24 di un simpatico watermark come contromisura.

Tutto perfetto no? Diciamo di no: il watermark può essere eliminato nel giro di pochissimi secondi dalla gomma magica dell’editor interno del telefono, editor che utilizza un tipo di content aware fill per riempire i buchi che si possono lasciare nelle immagini.

Samsung: l’aggira watermark

Durante il corso del recentissimo Galaxy Unpacked, l’azienda coreana ha dichiarato la presenza di una filigrana che rende riconoscibili tutte le immagini realizzate attraverso la capacità generative dell’azienda; questa filigrana è un logo di watermark che appare nell’angolo in basso a sinistra dell’immagine.

Secondo dei test portati avanti da Gizmodo, tale loghino si può eliminare con la massima semplicità possibile utilizzando lo strumento di cancellazione degli oggetti basato sull’intelligenza artificiale, una delle diverse funzioni pubblicizzate dalla compagnia che ha il ruolo di eliminare e sostituire le parti indesiderate di una foto.

La prova è stata fatta utilizzando il Galaxy S24 Ultra provato dal sito ed è un bug notato anche da altre testate americane, che di fatto invalida un’azione buona ma anche obbligata dal sempre più elevato numero di immagini falsificate che rendono internet un posto peggiore di quanto non lo fosse 15 anni fa giorno dopo giorno.

Sottolineiamo poi che Samsung ha dichiarato in maniera esplicita che, come azienda, non si assume la responsabilità per alcuna tipologia di deepfake realizzato malamente.

Nel testo che si trova in fondo alla stessa clip, Samsung ha dichiarato esplicitamente che non si assume la responsabilità di alcun deepfake impreciso.

Il “Generative Edit” richiede una connessione di rete e l’accesso all’account Samsung. La modifica attraverso Generative Edit produce una foto fino a 12MP; al momento del salvataggio, sull’immagine prodotta viene sovrapposta una filigrana visibile per indicare che l’immagine è stata generata dall’IA. L’accuratezza e l’affidabilità dell’immagine generata non sono garantite”.

Sempre Gizmodo ha contattato Samsung chiedendo un commento su questa funzionalità “imprevista” del magic eraser, chiedendo alla compagnia se stesse già lavorando a un qualche tipo di soluzione. 

L’utilizzo di questi sistemi di content aware fill rischia di mettere alla berlina qualsiasi tipologia filigrana, motivo per cui le compagnie dovranno iniziare a pensare a un sistema più elaborato, magari sfruttando tecniche innovative come quelle utilizzate da Glaze o Nightshade per “inquinare” il training delle intelligenze artificiali.

Esistono soluzioni realmente praticabili?

Per il momento la soluzione del watermark sembra essere quella più popolare tanto tra le aziende che realizzano contenuti attraverso l’intelligenza artificiale generativa (vedi Adobe) quanto presso le istituzioni che questo genere di cose le dovrebbero combattere (vedi la Casa Bianca). 

Da un certo punto di vista tutto questo è indubbiamente utile perché i watermark non agiscono soltanto visivamente ma vanno a modificare i metadati delle immagini, specificando la presenza di modifiche attraverso l’intelligenza artificiale; inutile dire che anche in quest’ultimo caso modificare i metadati di un’immagine è particolarmente semplice con un minimo di competenze informatiche, senza contare che applicazioni come Instagram o altri social network non permettono in alcuna maniera all’utente di leggere i metadati di ciò che vedono nel loro feed.

La capacità dell’intelligenza artificiale di rimuovere in autonomia un watermark è quindi un problema che deve essere risolto prima o poi e il tentativo di Samsung, per quanto goffo, rimane comunque un tentativo. 

Per il momento, oltre alle soluzioni brutali di strumenti come NightShade (di cui abbiamo parlato poco sopra), abbiamo poco su cui speculare. DeepMind, una delle divisioni di Google specializzate in intelligenza artificiale, ha dichiarato tempo fa di aver trovato una nuova metodologia per apporre watermark in maniera semi-irremovibile lavorando proprio sull’essenza dei pixel delle immagini; c’è un unico problema: questo tipo di strumento (chiamato SynthID) è compatibile soltanto con i sistemi generativi per immagini interni di Google e pertanto non si applica alla stragrande maggioranza della produzione di immagini sul web.

Che casino quest’intelligenza artificiale, eh?