Profissionais de IA temem futuro da humanidade, afirma ex‑pesquisador da Anthropic
Um ex‑pesquisador da Anthropic, uma das principais empresas de inteligência artificial, afirmou que os colegas de sua área estão “genuinamente assustados” com a velocidade dos avanços tecnológicos e as possíveis consequências para a sociedade.
Contexto da declaração
Em entrevista concedida na última segunda‑feira (13 de setembro), o profissional – que pediu demissão da Anthropic nas últimas semanas – descreveu um clima de apreensão entre engenheiros, cientistas e desenvolvedores que trabalham com sistemas de IA generativa. Segundo ele, a rapidez com que algoritmos mais sofisticados são lançados tem gerado dúvidas sobre a capacidade de regulação e de mitigação de riscos.
Motivações do medo
Entre os fatores citados, o pesquisador destacou a escalabilidade dos modelos de linguagem, a capacidade de criação autônoma de conteúdo e a possibilidade de uso indevido em desinformação ou manipulação de decisões críticas. “Quando vemos que um modelo pode gerar textos quase indistinguíveis de um humano em poucos segundos, percebemos que ainda não temos controle suficiente sobre como ele será empregado”, explicou.
Repercussão no setor
Especialistas de outras empresas de IA corroboram a sensação de urgência. Executivos de startups e representantes de grandes laboratórios afirmam que a pressão por inovações competitivas tem ofuscado discussões sobre segurança e ética. Alguns projetos internos de auditoria foram reforçados, mas ainda há preocupação sobre a eficácia dessas medidas diante da velocidade de desenvolvimento.
Impacto nas políticas públicas
O alerta do ex‑funcionário chega em um momento em que governos ao redor do mundo buscam legislar o uso de IA. No Brasil, projetos de lei que propõem requisitos de transparência e responsabilidade para sistemas de alto risco estão em tramitação no Congresso. A comunidade técnica tem pedido que esses esforços sejam acompanhados de investimentos em pesquisa de segurança e em mecanismos de governança.
Próximos passos
Para o pesquisador que saiu da Anthropic, o próximo passo é concentrar-se em iniciativas independentes que abordem a segurança de IA. Ele planeja colaborar com instituições acadêmicas e organizações de defesa de direitos digitais, buscando criar um ambiente em que a inovação tecnológica caminhe lado a lado com salvaguardas robustas.
Enquanto isso, a sensação de medo – descrita como “genuína” – permanece entre os profissionais que, apesar de reconhecem o potencial transformador da inteligência artificial, alertam para a necessidade de uma abordagem mais cautelosa e regulada.
Com informações de Folha Mercado.
Conteúdo produzido com apoio de inteligência artificial, com curadoria editorial da Gazeta Nacional.
— Redação Gazeta Nacional