Um relatório divulgado pela Anthropic revelou que a empresa bloqueou contas que utilizavam seus modelos de inteligência artificial em atividades que poderiam contribuir para o desenvolvimento de armas biológicas. A companhia classificou o uso indevido de recursos biológicos como um dos riscos mais graves associados ao avanço da tecnologia.
Ao longo de 30 dias de análise, foram identificados cerca de 35 “esforços de pesquisa distintos” considerados potencialmente preocupantes. As atividades incluíam possíveis estudos de ganho de função relacionados a doenças infecciosas, como gripe aviária e chikungunya, além de pesquisas sobre ortopoxvírus, toxinas e venenos. A Anthropic destacou que não foi possível determinar se havia intenção de causar danos ou se os trabalhos tinham finalidade científica legítima.
Entre os episódios descritos está o auxílio do Claude na elaboração de uma proposta de financiamento para uma pesquisa sobre a transmissibilidade e a evasão imunológica do vírus chikungunya. Em outro caso, um pesquisador fora dos Estados Unidos utilizou a ferramenta em estudos sobre a adaptação da gripe aviária a mamíferos. De acordo com a empresa, os envolvidos eram cientistas em atividade, mas suas instituições e países não foram divulgados.
“Com a utilização mais ampla de modelos de IA, os provedores continuarão a obter visibilidade relevante sobre ameaças em relação ao uso no mundo real, algo que nem mesmo governos e organizações intergovernamentais possuem”, afirmou o relatório da Anthropic.
Além das pesquisas biológicas, o documento menciona tentativas de utilizar os sistemas da Anthropic em operações de vigilância, golpes e desenvolvimento de armas convencionais. A empresa relatou atividades atribuídas a agentes com supostas ligações com a China e afirmou que grupos no norte do Iêmen usaram o Claude para desenvolver software de orientação para sistemas de mísseis. Segundo a companhia, os modelos mais recentes, como o Claude Fable 5, possuem salvaguardas mais rígidas contra consultas de pesquisa biológica de uso duplo.
O avanço das capacidades da inteligência artificial também tem ampliado os alertas de pesquisadores e funcionários do setor. Em julho, quase 1.400 trabalhadores de empresas de IA assinaram uma carta pedindo maior regulamentação nos Estados Unidos. Nesta semana, Jakub Pachocki, cientista-chefe da OpenAI, afirmou que as capacidades dos sistemas estão avançando mais rapidamente do que a capacidade dos pesquisadores de monitorá-los e controlá-los de maneira confiável.
Acompanhe mais notícias da Rede ANC através do Instagram, Spotify ou da Rádio ANC.
