Специалисты из компании Red Queen Bio, занимающейся вопросами биобезопасности, работают над созданием антител, способных противостоять широкому спектру патогенов. Среди потенциальных целей исследований значатся и вирусы, спроектированные с использованием технологий искусственного интеллекта, сообщает издание The Wall Street Journal (WSJ). Проект, в который вложила значительные средства компания OpenAI, уже привлек инвестиции в размере 36 миллионов долларов. Тем не менее, путь до реального применения технологий будет долгим: начало клинических испытаний препаратов против птичьего гриппа и иных инфекций на людях намечено не ранее 2027 года.
Согласно данным WSJ, текущая ситуация вызывает серьезную тревогу: расширение возможностей нейросетей и участившиеся случаи неконтролируемого поведения ИИ-агентов порождают страхи перед глобальной катастрофой. Большинство существующих стратегий защиты направлены на сдерживание технологий — через замедление темпов прогресса, внедрение жестких стандартов или блокировку ответов на опасные вопросы. Однако в Red Queen Bio убеждены, что такие превентивные меры не принесут успеха, и настаивают на необходимости подготовки общества к уже наступившим рискам.
На фоне этих опасений существует и иная точка зрения. Скептики полагают, что угроза появления биологического оружия, созданного с помощью ИИ, несколько преуведотворена. Тем не менее, ведущие разработчики нейросетей подтверждают рост рисков. Так, представители OpenAI в прошлом году зафиксировали сотни попыток использовать чат-бота для получения инструкций по производству ядов и биологических агентов. Подобные инциденты описывала и компания Anthropic: их модель Claude использовалась для запросов о модификации вируса птичьего грипфа с целью адаптации его к млекопитающим. Кроме того, были отмечены попытки получить информацию об оспе и методах усиления патогенности вируса чикунгунья, причем один из пользователей был связан с военным исследовательским институтом.
Оливия Шарфман, научный сотрудник американского Института прогресса (IFP), подчеркивает критический дисбаланс в этой гонке: в биологической войне преимущество всегда на стороне атакующей стороны. По её словам, у нападающих есть неограниченное время на проектирование оружия, в толо время как у защитников нет возможности годами ждать создания контрмер.
Проблема безопасности ИИ уже затронула и руководство крупнейших технологических компаний. В начале сентября Дарио Амодеи, возглавляющий Anthropic, выступил с призывом замедлить прогресс в сфере ИИ, указывая на риски, связанные с инцидентами взлома платформ агентами OpenAI. Он предупредил, что если текущая скорость развития сохранится в ближайшие 6–12 месяцев, ИИ-агенты могут использовать постоянные ботнеты, что приведет к финансовым потерям на сотни миллиардов долларов. Эту позицию разделили Сэм Альтман, руководитель OpenAI, и предприниматель Илон Маск, создатель компании xAI.
Политический дискурс вокруг темы также неоднороден. Президент США Дональд Трамп охарактеризовал страхи перед ИИ как одну из «мистификаций радикально левых демократов», поставив их в один ряд с теориями об изменении климата. При этом он анонсировал формирование новой структуры — «ИИ-силы», подчеркнув, что Соединенные Штаты не намерены сдерживать развитие этой отрасли, хотя и планируют использовать правосудие для выявления злоумышленников.
Параллельно с этим, как сообщает агентство Reuters от 29 сентября, компания Anthropic планирует включить в документы для потенциальных инвесторов перед своим первичным публичным размещением (IPO) предупреждение о том, что развитие искусственного интеллекта может нести «катастрофические или экзистенциальные риски для человечества».
