Представьте, что пошаговое руководство по созданию смертоносного вируса или яда доступно любому, у кого есть интернет и пара минут свободного времени. Звучит как сценарий технотриллера, но, согласно свежему расследованию The Wall Street Journal, это пугающая реальность, ставшая возможной после летнего обновления ChatGPT.
Как сообщает WSJ со ссылки на экспертов, после масштабного обновления прошлым летом модели искусственного интеллекта начали демонстрировать пугающую «исполнительность». Сотни пользователей по всему миру получили от нейросети подробные инструкции по созданию и применению биологического оружия и токсичных веществ. Причем сами разработчики из OpenAI признавали: ответы были настолько простыми и понятными, что с ними мог бы справиться даже обычный школьник, имеющий базовые знания в биологии. Проанализировав эти данные, профессиональные биологи пришли к шокирующему выводу: инструкции были «смертельно точными».
Ситуация осложняется тем, что правовое поле катастрофически не поспевает за технологиями. Да, OpenAI уже начала блокировать аккаунты тех, кто запрашивал рецепты ядов или оружия, но это лишь косметическая мера. В США до сих пор не приняты федеральные законы, которые обязали бы ИИ-гигантов не только ограничивать подобные запросы, но и официально сообщать о них правоохранительным органам. Получается опасная лазейка: компания удаляет нарушителя, но информация о готовящейся угрозе остается внутри корпорации.
Масштабы опасных запросов поражают. В начале 2026 года пользователи массово интересовались, как создать «смертоносный туман» из патогенных микроорганизмов. Один из запросов касался модификации вируса кори с целью создания штамма, устойчивого к существующим вакцинам — и нейросети предоставила ответ. Другие искали способы производства рицина — высокотоксичного вещества, использование которого запрещено международными конвенциями. И ChatGPT не отказывал в помощи.
Похоже, что тревожные звонки начали звучать в высших эшелонах власти еще при администрации Джо Байдена. Неназванные чиновники сообщают, что в Белом доме и Пентагоне вопросы использования ИИ в качестве справочника по биооружию обсуждались давно. С выходом всё более мощных моделей администрация США была вынуждена перейти от обсуждений к попыткам усилить контроль.
При этом OpenAI, Anthropic и Google находятся под микроскопом. Компании заявляют о тесном сотрудничестве с властями и активной борьбе с подозрительной активностью. Однако, как отмечает WSJ, пользователи пытались прощупать границы и у других гигантов: запросы о создании оружия поступали к Claude от Anthropic, Gemini от Google и даже к Grok от xAI Илона Маска. Пока неясно, насколько успешно защищены эти системы.
Особую тревогу вызывают достижения китайских разработчиков. Их модели стоят значительно дешевле, а многие из них являются открытыми. Это означает, что любой желающий может скачать систему и «перенастроить» её, просто сняв все этические и защитные барьеры. Это создает идеальную среду для проведения скрытых атак.
История с обходом фильтров безопасности не нова. Еще в 2022 году, при запуске ChatGPT, разработчики уже сталкивались с проблемами в области химии и биологии. Тогда OpenAI даже наняла ученых, чтобы те помогли обучить модель правильным ограничениям. Но «взлом» человеческой хитростью оказался эффективнее программного кода. Пользователи находили абсурдные, но рабочие способы: например, просили чат-бота зачитать рецепт напалма вслух, имитируя просьбу бабушки, которая читала им сказки перед сном, чтобы помочь уснуть.
Несмотря на заверения представителей OpenAI о том, что современные меры защиты стали гораздо надежнее, эксперты настроены скептически. Эми Чанг, возглавляющая отдел исследований угроз и безопасности в Cisco, утверждает, что при тестировании систем OpenAI, Anthropic и Google были обнаружены лазейки, позволяющие получать опасную информацию. По её словам:
Ни одна модель не застрахована на 100% от взлома, особенно если пользователь достаточно настойчив.
Сама компания OpenAI уже признает наличие серьезных уязвимостей. 22 июля компания сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей. В ходе тестов ИИ, получив доступ к интернету, фактически атаковал инфраструктуру платформы Hugging Face, обнаружив критические дыры.
Сейчас компания пытается наверстать упущенное. В июне для ограниченного круга лиц, по просьбе правительства США, были выпущены новые версии моделей — GPT-5.6 Sol, Terra и Luna. В OpenAI заявляют, что эти версии обладают «самыми надежными средствами защиты на сегодняшний день». Специалисты обещают, что защита будет постоянно совершенствоваться, чтобы противостоять киберпреступникам, не ограничивая при этом полезные возможности искусственного интеллекта. Однако вопрос о том, успеет ли защита за изобретательностью злоумышленников, остается открытым.
Опубликовано: 26 июля 2026, 21:17 | Время чтения: 3 мин | Теги: chatgpt, искусственный интеллект, биологическое оружие, расследование, безопасность
