O TikTok anunciou em maio que começará a implementar uma tecnologia avançada para identificar imagens e vídeos gerados por inteligência artificial.
Durante o Festival Internacional de Criatividade de Cannes, a empresa confirmou um novo projeto que envolve influenciadores de IA, inicialmente para testar campanhas publicitárias.
O recurso, chamado Symphony, permitirá que anunciantes criem publicidade utilizando avatares, substituindo influenciadores humanos. Esses modelos virtuais são capazes de se comunicar em mais de 10 idiomas e começaram a ser testados em maio de 2024.
O Symphony oferece duas opções: um avatar genérico ou um personalizado, inspirado em um porta-voz específico da marca. Todo o conteúdo gerado por essas ferramentas virá com um aviso indicando que foi “gerado por IA”.
Além disso, a empresa anunciou a adoção de “Credenciais de Conteúdo”, uma marca d’água digital desenvolvida pela Adobe, que identifica como as imagens foram produzidas e editadas. Essa tecnologia já foi adotada por outras grandes empresas, como a OpenAI, criadora do ChatGPT.
Pesquisadores têm expressado preocupações sobre o potencial uso de conteúdo gerado por IA como ferramenta de desinformação durante períodos eleitorais.
Para mitigar esses riscos, 20 empresas de tecnologia, incluindo o TikTok, assinaram um acordo comprometendo-se a combater a desinformação.
Entre os signatários estão a Meta (controladora do Instagram e do Facebook) e o YouTube, que também planejam utilizar a tecnologia de Credenciais de Conteúdo.
Para que o sistema de identificação funcione adequadamente, é necessário que tanto o criador da ferramenta de IA quanto a plataforma de distribuição concordem em usar a tecnologia.
Por exemplo, se uma pessoa utiliza o Dall-E para gerar uma imagem, a OpenAI anexa uma marca d’água ao resultado. Quando essa imagem é carregada no TikTok, ela é automaticamente rotulada.
Atualmente, o TikTok já marca o conteúdo gerado por IA com ferramentas internas do aplicativo. No entanto, a nova medida garantirá que todo conteúdo gerado fora do serviço também receba um rótulo adequado.
“Também temos políticas que proíbem conteúdos de IA sem rótulos, portanto, se algo aparecer na plataforma sem essa informação, nós o removeremos por violar nossas diretrizes da comunidade”, afirmou Adam Presser, chefe de operações e segurança do TikTok.
FONTE: Forbes
Seja o primeiro a comentar