TikTok contrassegnerà i contenuti generati da intelligenza artificiale

TikTok ha annunciato nuovi strumenti per aiutare i creator a etichettare i contenuti generati dall’intelligenza artificiale. Inoltre, martedì 19 settembre la società ha dichiarato che intende “iniziare a testare modi per etichettare automaticamente i contenuti generati dall’intelligenza artificiale”.

“L’intelligenza artificiale offre incredibili opportunità creative ma può potenzialmente confondere o fuorviare gli utenti se non sono consapevoli che il contenuto è stato generato o modificato con essa”, ha scritto la piattaforma in un comunicato stampa. “L’etichettatura dei contenuti aiuta a risolvere questo problema, rendendo chiaro agli spettatori quando il contenuto viene alterato o modificato in modo significativo dalla tecnologia AI”.

La preoccupazione per l’uso improprio di intelligenza artificiale

Poiché l’intelligenza artificiale è diventata migliore – ad esempio nel generare immagini dall’aspetto credibile o nell’imitare le voci delle pop star – e più popolare, le autorità di regolamentazione hanno espresso crescente preoccupazione per il potenziale di utilizzo improprio della tecnologia.

A luglio l’amministrazione del presidente Biden ha annunciato che sette aziende leader nel settore dell’intelligenza artificiale si sono impegnate volontariamente “per contribuire a procedere verso uno sviluppo sicuro, protetto e trasparente della tecnologia dell’intelligenza artificiale”.

Il punto chiave: “Le aziende si impegnano a sviluppare meccanismi tecnici robusti per garantire che gli utenti sappiano quando il contenuto viene generato dall’intelligenza artificiale, come un sistema di watermark. Questa azione consente alla creatività che usa l’intelligenza artificiale di prosperare, ma riduce i pericoli di frode e inganno”.

TikTok e i contenuti generati da intelligenza artificiale

L’impegno a contrassegnare i contenuti è ovviamente volontario. Per questo TikTok ha anche annunciato che “inizierà a testare un’etichetta ‘AI-generated’ che eventualmente prevediamo di applicare automaticamente ai contenuti che rileviamo essere stati modificati o creati con l’intelligenza artificiale”.

Esistono già strumenti per determinare se un’immagine è stata creata dall’intelligenza artificiale, e alcuni sono migliori di altri. A giugno il New York Times ha testato cinque programmi, riscontrando che “i servizi stanno progredendo rapidamente, ma a volte non sono all’altezza”.

Il problema è che man mano che la tecnologia di rilevamento migliora, aumenta anche la tecnologia per eludere il rilevamento stesso. Cynthia Rudin, professoressa di informatica e ingegneria alla Duke University, ha dichiarato al giornale che “ogni volta che qualcuno costruisce un generatore migliore, le persone costruiscono rilevatori migliori. Poi le persone usano il rilevatore migliore per costruire un generatore migliore. I generatori sono progettati per poter ingannare un rilevatore”.

Simili tentativi di rilevamento vengono discussi nell’industria musicale, che dibatte su come valutare le canzoni generate dall’intelligenza artificiale rispetto alle tracce che incorporano creatività umana.

Il punto di vista delle aziende

“Oggi sul mercato sono disponibili tecnologie in grado di rilevare una traccia generata dall’intelligenza artificiale con una precisione del 99,9%, rispetto a una traccia creata dall’uomo”, ha affermato ad aprile Denis Ladegaillerie, co-fondatore e CEO di Believe. “Dobbiamo finalizzare i test, dobbiamo implementarli”, ha aggiunto, “ma queste tecnologie esistono”.

Deezer ha presentato a giugno il proprio piano per “sviluppare strumenti per rilevare i contenuti generati dall’intelligenza artificiale”. “Da un punto di vista economico, ciò che conta di più è regolamentare le cose che diventano davvero virali. Di solito queste sono le canzoni generate dall’intelligenza artificiale che utilizzano voci false o voci copiate senza approvazione”. Lo ha detto a Billboard quest’estate il CEO di Deezer Jeronimo Folgueira.

Anche Moises, un’altra azienda di sviluppo di intelligenza artificiale, si è tuffata nella mischia, annunciando la propria serie di nuovi tool il ​​1° agosto. “Sicuramente c’è molto dibattito”, ha detto a Billboard Matt Henninger, vicepresidente delle vendite e dello sviluppo aziendale di Moises. “Ci sono molti test su diversi prodotti”.