A Anthropic, empresa responsável pelo desenvolvimento do Claude, identificou diferentes tentativas de utilização de sua inteligência artificial em atividades consideradas potencialmente maliciosas. Entre os casos analisados estão a produção de propaganda política, o desenvolvimento de drones militares e pesquisas relacionadas a possíveis armas biológicas.
As informações foram divulgadas a partir de um relatório da companhia obtido pelo jornal The New York Times. Segundo a Anthropic, os acessos identificados como inadequados foram interrompidos.
Rússia, China, Irã e Iêmen aparecem entre os países mencionados na análise. O documento reúne exemplos de como ferramentas de inteligência artificial de uso geral podem ser empregadas em operações relacionadas a conflitos, influência política e pesquisas sensíveis.
Um dos episódios citados envolve a Rússia. De acordo com o relatório, o Claude teria sido utilizado para produzir conteúdo de propaganda apresentado sob a aparência de reportagens jornalísticas durante o período eleitoral na Moldávia.
A Anthropic também identificou suspeitas de que a tecnologia tenha sido empregada pela China e pelo Irã em atividades de monitoramento de opositores que vivem fora de seus países.
Pesquisas biológicas levantaram alerta
Outro ponto considerado especialmente sensível pela empresa envolve consultas relacionadas à biologia. A Anthropic afirma ter encontrado pesquisas que poderiam estar associadas ao desenvolvimento de agentes biológicos.
A companhia ressalta, porém, que não conseguiu determinar se todos os estudos tinham finalidade ilícita. Segundo a empresa, os mesmos conhecimentos e procedimentos podem ser empregados tanto em pesquisas médicas, como no desenvolvimento de vacinas, quanto em iniciativas destinadas à criação de agentes patogênicos.
Diante dessa dificuldade de distinguir a finalidade dos pedidos, a empresa afirma ter adotado uma postura preventiva e interrompido o acesso ao serviço nos casos considerados de risco.
A Anthropic não revelou quais pesquisadores ou instituições estavam envolvidos nas consultas. Também não informou os países aos quais eles estariam vinculados nem identificou os agentes biológicos relacionados às pesquisas bloqueadas.
O episódio evidencia uma das principais preocupações envolvendo a evolução dos sistemas de inteligência artificial mais avançados: a possibilidade de que essas ferramentas sejam utilizadas para ampliar capacidades em áreas de alto risco.
Empresa enfrenta debate sobre segurança da IA
A divulgação do relatório ocorre em uma semana de crescente discussão sobre os riscos associados ao desenvolvimento de sistemas cada vez mais avançados.
A Anthropic também foi alvo de críticas após declarações de Jacob Coxon, ex-funcionário da companhia e da OpenAI. O pesquisador, de 27 anos, trabalhou com pré-treinamento de modelos de inteligência artificial, etapa responsável pelo processamento de grandes volumes de informações utilizados no desenvolvimento dos sistemas.
Em uma publicação nas redes sociais, Coxon acusou as empresas de não estarem adotando medidas suficientes de segurança e afirmou que ambas estariam avançando em direção a sistemas capazes de aprimorar suas próprias capacidades.
As declarações reforçaram o debate sobre os limites e mecanismos de controle necessários para tecnologias que podem ter aplicações civis, comerciais e científicas, mas também podem ser exploradas em atividades potencialmente perigosas.