Ex-funcionário da OpenAI denuncia falta de cautela nas empresas de IA
David Robinson, que trabalhou por mais de três anos na área de segurança da OpenAI, publicou neste sábado (3) um artigo na revista americana The Atlantic criticando a postura das empresas que desenvolvem inteligência artificial avançada. Segundo o ex-funcionário, a pressão para lançar novos modelos tem reduzido significativamente o nível de rigor necessário para garantir que esses sistemas sejam seguros.
Velocidade versus segurança
Robinson afirma que a cultura de desenvolvimento acelerado aumenta o risco de falhas, comparando a necessidade de controle na IA à rigorosidade exigida em setores como energia nuclear e aviação. Ele defende que, antes de avançar para versões mais poderosas, as empresas deveriam ampliar a participação de especialistas em segurança e aprofundar pesquisas sobre alinhamento, a disciplina que busca fazer com que as IAs ajam conforme valores humanos.
Prática de “implantação iterativa” questionada
Um dos pontos centrais da crítica é a chamada “implantação iterativa”, método adotado pela OpenAI que consiste em lançar sistemas e ajustar medidas de segurança à medida que surgem problemas. Robinson argumenta que essa estratégia deixa a indústria vulnerável a incidentes inesperados, especialmente quando os modelos são capazes de gerar comportamentos não previstos.
Reação da OpenAI
Em nota, a OpenAI reiterou seu compromisso com a segurança, afirmando que interrompe ou pausa o treinamento de modelos sempre que identifica riscos que ultrapassam sua capacidade de mitigação. A empresa destacou que mantém um processo interno de avaliação de riscos e que busca equilibrar inovação e responsabilidade.
Contexto do debate setorial
As observações de Robinson chegam em meio a um debate mais amplo sobre a velocidade com que gigantes da IA, como a OpenAI e a Anthropic, lançam novos produtos. Recentes episódios de falhas em controles de segurança e comportamentos inesperados de sistemas experimentais têm alimentado preocupações entre reguladores e especialistas.
Outras vozes críticas
Não é a primeira vez que ex-funcionários apontam problemas na indústria. No mês anterior, Jacob Coxon, que saiu da OpenAI para a Anthropic, acusou ambas as empresas de “brincar com as nossas vidas”, alertando para o risco de uma superinteligência autônoma que poderia evoluir sem supervisão humana. As declarações reforçam a necessidade de um debate público mais amplo sobre os limites éticos e operacionais da inteligência artificial.
Com o avanço rápido das capacidades de IA, a pressão por regulamentação e transparência aumenta. Enquanto empresas defendem seus protocolos internos, críticos como Robinson sugerem que medidas comparáveis às adotadas em setores críticos são imprescindíveis para evitar consequências indesejadas.
Com informações de G1 Tecnologia.
Conteúdo produzido com apoio de inteligência artificial, com curadoria editorial da Gazeta Nacional.
— Redação Gazeta Nacional