OpenAI ha aggiunto un nuovo strumento per rilevare se un’immagine è stata creata con il suo generatore di immagini AI DALL-E, così come nuovi metodi di watermarking per segnalare più chiaramente i contenuti che genera.
Avete già saputo che Il modello attuale di ChatGPT arà obsoleto tra 12 mesi
Immagini IA? Sempre più vicini al preciso riconoscimento
In un post sul blog, OpenAI ha annunciato di aver iniziato a sviluppare nuovi metodi di provenienza per tracciare i contenuti e dimostrare se sono stati generati dall’AI. Questi includono un nuovo classificatore di rilevamento delle immagini che utilizza l’IA per determinare se la foto è stata generata dall’AI, così come un watermark anti-manomissione che può contrassegnare i contenuti come audio con segnali invisibili.
Il classificatore predice la probabilità che un’immagine sia stata creata da DALL-E 3. OpenAI afferma che il classificatore funziona anche se l’immagine è ritagliata o compressa o se la saturazione è cambiata. Anche se lo strumento può rilevare se le immagini sono state create con DALL-E 3 con circa il 98 percento di accuratezza, le prestazioni nel capire se il contenuto proviene da altri modelli AI non sono altrettanto buone, contrassegnando solo il 5-10 percento delle immagini provenienti da altri generatori di immagini, come Midjourney.
In precedenza, OpenAI ha aggiunto credenziali dei contenuti ai metadati delle immagini dalla Coalition of Content Provenance and Authority (C2PA). Le credenziali dei contenuti sono essenzialmente watermark che includono informazioni su chi possiede l’immagine e come è stata creata. OpenAI, insieme a società come Microsoft e Adobe, è membro di C2PA. Questo mese, OpenAI si è anche unita al comitato direttivo di C2PA.
La società di intelligenza artificiale ha inoltre iniziato ad aggiungere watermark ai clip da Voice Engine, la sua piattaforma text-to-speech attualmente in anteprima limitata.
Sia il classificatore delle immagini che il segnale di watermarking audio sono ancora in fase di perfezionamento. OpenAI afferma di aver bisogno di feedback dagli utenti per testarne l’efficacia. Ricercatori e gruppi di giornalismo non profit possono testare il classificatore di rilevamento delle immagini applicandolo alla piattaforma di accesso alla ricerca di OpenAI.
OpenAI ha lavorato per anni al rilevamento dei contenuti generati dall’IA. Tuttavia, nel 2023, ha dovuto interrompere un programma che cercava di identificare il testo scritto dall’IA perché il classificatore di testo AI aveva costantemente bassa precisione.