Google sta per lanciare una tecnologia in grado di identificare se una foto sia stata scattata con una fotocamera, modificata da un software come Photoshop o prodotta da modelli di intelligenza artificiale generativa. Nei prossimi mesi, i risultati di ricerca di Google includeranno una funzione aggiornata “Informazioni su questa immagine” per far sapere alle persone se un’immagine sia stata creata o modificata con strumenti di intelligenza artificiale.
Il sistema utilizzato da Google fa parte della Coalition for Content Provenance and Authenticity (C2PA), uno dei più grandi gruppi che cercano di affrontare il problema delle immagini generate dall’IA. L’autenticazione C2PA è uno standard tecnico che include informazioni sull’origine delle immagini e funziona sia sull’hardware che sul software per creare una traccia digitale. Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic e Google hanno tutti sostenuto l’autenticazione C2PA, ma l’adozione è stata lenta. L’integrazione di Google nei risultati di ricerca sarà un primo grande test per l’iniziativa.
Google ha contribuito a sviluppare l’ultimo standard tecnico C2PA (versione 2.1) e lo utilizzerà insieme a una prossima lista di fiducia C2PA, che consente a piattaforme come Google Search di confermare l’origine dei contenuti. “Ad esempio, se i dati mostrano che un’immagine sia stata scattata da uno specifico modello di fotocamera, la lista di fiducia aiuta a convalidare che questa informazione sia accurata”, ha affermato Laurie Richardson, vicepresidente di fiducia e sicurezza di Google.
Google prevede, inoltre, di integrare i metadati C2PA nei suoi sistemi pubblicitari. “Il nostro obiettivo è aumentare gradualmente ciò nel tempo e utilizzare i segnali C2PA per informare su come applichiamo le politiche chiave”, ha spiegato Richardson. “Stiamo anche esplorando modi per trasmettere le informazioni C2PA agli spettatori su YouTube quando i contenuti vengono acquisiti con una fotocamera, e avremo ulteriori aggiornamenti in merito più avanti nel corso dell’anno”, ha aggiunto.
Mentre Google si distingue come una delle prime grandi aziende tecnologiche ad adottare lo standard di autenticazione C2PA, ci sono molte sfide di adozione ed interoperabilità da affrontare per farlo funzionare su un’ampia varietà di hardware e software. Solo una manciata di fotocamere di Leica e Sony supportano lo standard tecnico aperto di C2PA, che aggiunge ai metadati delle impostazioni della fotocamera anche i dati e la posizione in cui è stata scattata un’immagine. Nikon e Canon si sono impegnate ad adottare lo standard C2PA, e stiamo ancora aspettando di sapere se Apple e Google implementeranno il supporto C2PA negli iPhone e nei dispositivi Android.
Le app Photoshop e Lightroom di Adobe possono aggiungere dati C2PA, ma Affinity Photo, Gimp e molti altri non lo fanno. Ci sono anche sfide su come visualizzare i dati una volta aggiunti a una foto, con la maggior parte delle grandi piattaforme online che non offrono etichette. L’adozione di Google nei risultati di ricerca potrebbe incoraggiare altri a implementare etichette simili.
“Stabilire e segnalare la provenienza dei contenuti rimane una sfida complessa, con una serie di considerazioni basate sul prodotto o servizio”, ha ammesso Richardson. “E mentre sappiamo che non esiste una soluzione miracolosa per tutti i contenuti online, lavorare con altri nel settore è fondamentale per creare soluzioni sostenibili e interoperabili”. Fonte: TheVerge.
Questo contenuto è stato scritto da un utente della Community. Il responsabile della pubblicazione è esclusivamente il suo autore.