Preocupado com uso de deepfake, Meta irá rotular conteúdos criado com IA!

A gigante norte-americana Meta surpreendeu o mundo nesta terça-feira (6) ao anunciar sua iniciativa para identificar, nos próximos meses, qualquer imagem gerada por inteligência artificial (IA) que circule em suas redes sociais, incluindo Facebook, Instagram e Threads. A empresa, conhecida por suas inovações tecnológicas, já havia introduzido a Meta IA em dezembro, uma ferramenta própria para identificação de imagens geradas por robôs.

Nick Clegg, responsável por assuntos internacionais da Meta, revelou em um blog que a empresa planeja rotular imagens detectadas como provenientes de IA, seguindo as normas da indústria. Além disso, Clegg destacou a intenção de estender essa identificação para conteúdos criados por ferramentas de outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. A empresa está atualmente construindo essa ferramenta, que será implementada nos próximos meses com etiquetas em diversos idiomas compatíveis com cada aplicativo.

A iniciativa surge em meio ao aumento da utilização de IA generativa, levantando preocupações sobre seu potencial uso para gerar caos político e disseminar desinformação, especialmente em um ano em que quase metade da população mundial estará indo às urnas em 2024. O temor de um fluxo incontrolável de conteúdos degradantes, como deepfakes pornográficas, também é um fator preocupante, com casos notórios como a deepfake da cantora Taylor Swift que permaneceu online por aproximadamente 17 horas antes de ser removida.

Nick Clegg admitiu que a ferramenta não eliminará totalmente o risco de produção de imagens falsas, mas alegou que certamente minimizará sua proliferação dentro dos limites tecnológicos atuais. Ele ressaltou que a iniciativa é uma das tentativas mais avançadas de fornecer transparência significativa a todos os usuários. Além disso, Clegg expressou sua esperança de que a Meta incentive outras empresas a colaborarem para desenvolver padrões comuns na indústria.

O comprometimento da Meta em compartilhar sua tecnologia aberta o mais amplamente possível foi enfatizado por Clegg. Isso se alinha com a postura da empresa californiana OpenAI, criadora do ChatGPT, que em meados de janeiro também anunciou ferramentas para combater a desinformação e destacou sua recusa em permitir o uso de suas tecnologias para fins políticos. A indústria parece estar reconhecendo a necessidade urgente de abordar os desafios éticos e práticos associados ao avanço da inteligência artificial generativa.

Preocupado com uso de deepfake, Meta irá rotular conteúdos criado com IA!