Anthropic anuncia que Claude vai identificar textos e imagens gerados por inteligência artificial

A Anthropic, desenvolvedora do assistente de inteligência artificial Claude, anunciou nesta terça-feira (11) que a ferramenta passará a sinalizar quando um texto ou uma imagem tiver sido criado com o uso de seus modelos. A mudança coloca o Claude, um dos concorrentes diretos do ChatGPT e do Gemini, entre as primeiras plataformas do setor a adotar esse tipo de identificação de forma mais ampla.

Motivação regulatória

Segundo a empresa, a atualização foi feita para atender ao AI Act, legislação da União Europeia que passou a exigir das empresas de tecnologia mecanismos capazes de indicar quando um conteúdo foi produzido por inteligência artificial. A norma europeia é considerada uma das mais rígidas do mundo em matéria de regulação de IA.

Como vai funcionar

De acordo com a Anthropic, os modelos do Claude lançados a partir de 2 de agosto já contam com a marcação integrada, aplicada automaticamente a textos e imagens gerados pela ferramenta. Versões anteriores do sistema também passarão a identificar os conteúdos criados por elas, mas dependerão de atualizações para incorporar o recurso.

Corrida por transparência no setor

A medida acompanha uma tendência do setor de inteligência artificial, no qual empresas como OpenAI e Google já vêm testando formas de marca d’água digital para diferenciar conteúdo humano de conteúdo sintético. A preocupação cresce à medida que textos, imagens e vídeos gerados por IA se tornam mais difíceis de distinguir de produções humanas.

Impacto para os usuários

Para o público em geral, a novidade deve facilitar a identificação de conteúdos produzidos com apoio de IA em redes sociais, sites de notícias e outras plataformas, ponto sensível em meio ao aumento de casos de desinformação e conteúdos manipulados que circulam on-line.

Próximos passos da Anthropic

A empresa não detalhou um cronograma exato para levar o recurso a todas as versões anteriores do Claude, mas indicou que a expansão da marcação faz parte de um esforço mais amplo de adequação às exigências regulatórias que vêm sendo adotadas em diferentes países.

Conteúdo produzido com apoio de inteligência artificial, com curadoria editorial da Gazeta Nacional.

— Redação Gazeta Nacional