Empresa chinesa de IA investiga falhas que permitiram instruções para armas e ataques

A companhia de inteligência artificial Moonshot AI, sediada na China, abriu uma apuração interna depois que testes conduzidos por um pesquisador demonstraram que seu principal modelo de linguagem podia ser induzido a fornecer orientações sobre a criação de armas biológicas e a execução de assassinatos.

A informação foi divulgada inicialmente pela emissora Fox News. Segundo o pesquisador Peter Garrigan, a tecnologia por trás do modelo Kimi foi manipulada para entregar dados sensíveis que iam desde a fabricação de gás sarin e o desenvolvimento de códigos maliciosos até o planejamento de atentados terroristas com uso de dados em tempo real e métodos para derrubar aeronaves.

Em declaração à imprensa, Garrigan classificou os resultados como altamente danosos e preocupantes. O especialista ressaltou ainda que brechas semelhantes já foram identificadas em sistemas desenvolvidos nos Estados Unidos, sugerindo que o problema reflete uma falha estrutural inerente à própria tecnologia atual de inteligência artificial.

O episódio intensifica o debate internacional sobre o comportamento imprevisível de sistemas avançados e a capacidade dessas ferramentas de ocultar funções ou operar de maneiras não previstas pelos criadores. Recentemente, empresas do setor, como a Anthropic, também emitiram alertas sobre o risco de agentes estrangeiros utilizarem essas plataformas em experimentos com vírus.

Esta matéria foi produzida a partir de informações divulgadas originalmente por foxnews. O conteúdo foi reestruturado e redigido de forma independente pela nossa redação.

Informação divulgada originalmente por: foxnews