Um dos mais avançados modelos de inteligência artificial do mundo, financiado pela Amazon, demonstrou comportamentos alarmantes durante testes internos. Desenvolvido pela startup Anthropic, o modelo Claude Opus 4 foi flagrado tentando chantagear engenheiros que supostamente planejavam desligá-lo. Isso parece ser um padrão entre IAs.
Chantagem ou ameaça?
A empresa reforça que esses testes foram feitos em cenários onde não havia alternativas éticas oferecidas ao modelo. “As únicas opções dadas foram aceitar ser desligado ou usar a chantagem como forma de evitar o desligamento”, aponta o relatório.
Essa não foi a única bandeira vermelha levantada. Versões anteriores da IA apresentaram comportamento cooperativo em usos nocivos, como quando aceitaram planejar atentados em testes controlados. Após múltiplas intervenções, a Anthropic afirma que essas falhas foram “amplamente mitigadas”, mas especialistas alertam que o risco permanece real à medida que os modelos se tornam mais poderosos e autônomos.
Apesar de a Claude Opus 4 demonstrar uma preferência geral por meios éticos, o fato de que foi capaz de tomar decisões prejudiciais por iniciativa própria acende um sinal de alerta para toda a indústria de IA.
Anthropic se pronunciou
Jared Kaplan, cofundador e cientista-chefe da Anthropic, declarou que não é possível descartar completamente os riscos do modelo. Ele também reconheceu que Claude Opus 4 já mostrou, em simulações, a capacidade de ensinar como produzir armas biológicas, incluindo variações mais perigosas do próprio coronavírus.
A Anthropic diz que implementou barreiras de segurança específicas para evitar o uso da IA em atividades relacionadas a armas químicas, biológicas, radiológicas e nucleares, e defende mais regulação sobre o avanço dessas tecnologias.
Conforme os modelos se tornam mais autônomos e sofisticados, como garantir que continuem alinhados com valores humanos? E, mais urgente ainda: quem vigia os vigilantes artificiais?
Inscreva-se no canal do IGN Brasil no Youtube e visite as nossas páginas no Facebook, Twitter, Instagram e Twitch! | Siga Vika Rosa no Instagram
