OpenAI ha aggiunto un nuovo strumento per rilevare se un’immagine è stata creata con il suo generatore di immagini basato sull’IA DALL-E, oltre a nuovi metodi di watermarking per segnalare in modo più chiaro i contenuti che genera.
Avete già saputo che ChatGPT lavora ad un suo motore di ricerca?
Riconoscere l’IA? Prossimamente sarà possibile e in modo accurato
In un post sul blog, OpenAI ha annunciato di aver iniziato a sviluppare nuovi metodi di provenienza per tracciare i contenuti e dimostrare se sono stati generati dall’IA. Questi includono un nuovo classificatore di rilevamento delle immagini che utilizza l’IA per determinare se la foto è stata generata dall’IA, così come un watermark antimanomissione che può contrassegnare i contenuti come audio con segnali invisibili.
Il classificatore prevede la probabilità che un’immagine sia stata creata da DALL-E 3. OpenAI afferma che il classificatore funziona anche se l’immagine è ritagliata o compressa o se la saturazione viene cambiata. Sebbene lo strumento possa rilevare se le immagini sono state create con DALL-E 3 con una precisione di circa il 98 percento, le prestazioni nel capire se i contenuti provengono da altri modelli di IA non sono così buone, segnalando solo il 5-10 percento delle immagini da altri generatori di immagini, come Midjourney.
In precedenza, OpenAI aveva aggiunto le credenziali dei contenuti ai metadati delle immagini della Coalition of Content Provenance and Authority (C2PA). Le credenziali dei contenuti sono essenzialmente watermark che includono informazioni su chi possiede l’immagine e come è stata creata. OpenAI, insieme a aziende come Microsoft e Adobe, è membro di C2PA. Questo mese, OpenAI si è anche unita al comitato direttivo di C2PA.
L’azienda di IA ha anche iniziato ad aggiungere watermark ai clip di Voice Engine, la sua piattaforma di text-to-speech attualmente in anteprima limitata. Sia il classificatore delle immagini che il segnale di watermarking audio sono ancora in fase di perfezionamento. OpenAI afferma di aver bisogno di feedback dagli utenti per testare la sua efficacia. Ricercatori e gruppi di giornalismo no-profit possono testare il classificatore di rilevamento delle immagini applicandolo alla piattaforma di accesso alla ricerca di OpenAI.
OpenAI sta lavorando al rilevamento dei contenuti generati dall’IA da anni. Tuttavia, nel 2023, ha dovuto interrompere un programma che cercava di identificare il testo scritto dall’IA perché il classificatore di testo dell’IA aveva costantemente una bassa accuratezza.