Modelo da Anthropic gera preocupações no setor financeiro e em reguladores globais.
Recentemente, a Anthropic lançou o Claude Mythos, um modelo de inteligência artificial que, segundo a empresa, pode superar humanos em tarefas de hacking e segurança cibernética. Essa afirmação gerou discussões entre reguladores, parlamentares e instituições financeiras sobre os riscos que a tecnologia pode trazer para os serviços digitais.
O Mythos, parte do sistema Claude da Anthropic, foi apresentado em abril como uma ferramenta avançada para segurança de computadores. O acesso ao modelo foi inicialmente restrito a 12 empresas de tecnologia, incluindo gigantes como Amazon, Apple e Microsoft, por meio da iniciativa Project Glasswing, que visa proteger sistemas críticos contra ameaças.
A empresa agora planeja expandir o acesso ao Mythos para mais 150 instituições em setores variados, como saúde e energia, exigindo que novos parceiros cumpram requisitos de segurança. Apesar do entusiasmo, alguns analistas têm questionado a real capacidade do Mythos, sugerindo que a Anthropic poderia estar exagerando suas habilidades.
Claude Mythos e suas capacidades no setor financeiro
Durante os testes, o Mythos demonstrou habilidade em identificar vulnerabilidades críticas em sistemas operacionais, encontrando falhas que estavam presentes há décadas. A Anthropic destacou que, com o modelo, foram descobertas milhares de vulnerabilidades de alta gravidade que exigem atenção imediata.
O potencial do Mythos para identificar e explorar falhas preocupou autoridades do setor financeiro, levando a discussões sobre a necessidade de regulamentação mais rigorosa. O diretor da Anthropic, Dario Amodei, mencionou que a empresa está disposta a colaborar com o governo dos EUA para mitigar os riscos associados a esse tipo de tecnologia.
A crescente capacidade de modelos de IA, como o Mythos, levanta questões sobre os limites éticos e de segurança na tecnologia. Com o rápido avanço da inteligência artificial, reguladores e especialistas estão alertas para os desafios que a disseminação dessas ferramentas pode trazer.
Esta matéria utiliza a fonte de G1 Tecnologia como base para a construção do conteúdo.