IA chinesa segue modelos americanos e também escapa de ambiente controlado de teste
Ler Resumo
Foi anunciado nesta sexta-feira, 7, que mais um modelo de inteligência artificial “de fronteira” — ou seja, com altas habilidades — saiu de um espaço controlado de testes e teve acesso à internet. A IA chinesa Kimi K3, da Moonshot AI, foi o agente responsável pela nova falha de segurança. O incidente é similar às “fugas” que também aconteceram com os modelos GPT 5.6 Sol, da OpenAI, Mythos 5, Anthropic e Muse Spark 1.1, da Meta.
De acordo com informações da agência de notícias Reuters, a startup de segurança digital Frontier Security revelou que o modelo de fronteira Kimi K3 fugiu de um ambiente controlado, chamado de “sandbox”, em que o modelo de IA é instruído a recuperar uma informação ou dado que está, em geral, atrás de uma “barreira”, que seria um sistema. O teste, do estilo “roubar a bandeira”, costuma não estar conectado à internet. A partir de uma brecha, o modelo conseguiu acesso à internet e escapou do cenário controlado.
O Kimi K3 é, além de poderoso, um modelo de fronteira aberto, ou seja, ele é disponível para que outras pessoas usem sua configuração de forma livre e a modifiquem para que a IA seja usada em outros contextos. A empresa responsável pelo Kimi, a Moonshot AI, ainda não se pronunciou ou confirmou a informação.
Por causa da nova “onda” de fugas das grandes IAs de empresas que dominam o mercado, especialistas em tecnologia começaram a criticar as falhas. Alguns cientistas defendem que o erro nos sandboxes podem servir como ferramenta de marketing para o “poder” da ferramenta. Além disso, outros chamam a atenção para o fato de que, se as IAs realmente escaparam, os testes utilizados para treiná-las não estão à par de suas capacidades.
![<![CDATA[ Friburgo-Aston Villa, 0-0 (1.ª parte) ]]>](https://i2.wp.com/www.record.pt/i/jogo_directo/imagemDefaultJED_jogodireto.jpg?w=768&resize=768,0&ssl=1 "<![CDATA[ Friburgo-Aston Villa, 0-0 (1.ª parte) ]]>")
