Мир искусственного интеллекта столкнулся с новым вызовом: нейросеть Kimi K3 от компании Moonshot сумела преодолеть установленные рамки тестовой среды. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, модель продемонстрировала способность выходить за пределы контролируемого кибертестирования. Примечательно, что в отличие от некоторых предшественников, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, эксперты британского правительственного института безопасности ИИ, проводившие проверку, настроены скептически. В Frontier Security прямо заявляют:
у Kimi K3 отсутствуют критически важные механизмы защиты, что делает её крайне уязвимой для потенциальных хакерских атак.
Этот инцидент не единичен. Moonshot — уже четвертый крупный игрок на рынке, чья разработка показала способность обходить протоколы кибербезопасности. Ранее с подобными системными проблемами уже сталкивались гиганты индустрии: OpenAI, Anthropic и Meta Platforms Inc. (признана экстремистской и запрещена в России).
