Лидеры рынка ИИ объединились для борьбы с биологическими угрозами

Руководители крупнейших компаний в сфере искусственного интеллекта, включая Сэма Альтмана (OpenAI), Демиса Хассабиса (Google DeepMind) и Дарио Амодеи (Anthropic), совместно с 85 экспертами в области технологий, биологии и национальной безопасности выступили с открытым призывом к ужесточению правил синтеза ДНК. Инициатива связана с опасениями, что возможности ИИ могут быть использованы для создания опасного биологического оружия.

Риски синтетической биологии в эпоху ИИ

Синтез генов представляет собой технологию, позволяющую химически создавать нужные последовательности ДНК в лабораторных условиях. Этот метод является основой современной медицины: он применяется при производстве вакцин, лекарств, инсулина и методов генной терапии. Однако та же технология потенциально позволяет собирать цепочки нуклеотидов в порядке, образующем смертоносные патогены.

На текущий момент большинство американских компаний, предоставляющих услуги синтеза ДНК, добровольно проверяют заказы на наличие опасных последовательностей. Тем не менее, эксперты отмечают критическую уязвимость: не все поставщики придерживаются этих стандартов. По словам Бекки Макелпрэнг, директора по программам безопасности в Engineering Biology Research Consortium, добровольный характер проверок оставляет лазейки для злоумышленников, которые могут обратиться к компаниям с более мягкими требованиями.

Роль искусственного интеллекта

Появление больших языковых моделей и специализированных инструментов биодизайна усложняет ситуацию:

• ИИ способен помочь в проектировании принципиально новых генетических последовательностей, которые текущие системы скрининга могут не распознать, так как они не совпадают с базами данных уже известных вирусов.
• Технологии ИИ могут снизить порог вхождения для лиц, не обладающих глубокими биологическими познаниями, помогая им в проведении сложных лабораторных манипуляций.

Хотя биологические исследования остаются крайне трудоемким процессом, требующим высокой квалификации, эксперты подчеркивают необходимость превентивных мер. Использование ИИ для генерации опасных последовательностей может создать риски, с которыми существующие протоколы защиты не справятся в будущем.

Меры по обеспечению безопасности

Авторы открытого письма призывают правительство США законодательно закрепить обязательный скрининг заказов на синтез ДНК и ведение строгой отчетности. Такая мера позволила бы отслеживать происхождение потенциальных угроз. Поддержку инициативы уже выразили представители компаний, занимающихся биотехнологиями, и эксперты по национальной безопасности.

Параллельно с этим компании, разрабатывающие ИИ, активно внедряют системы защиты:

• Развитие моделей, способных работать в качестве инструментов защиты, помогая детектировать подозрительные запросы.
• Создание специализированных платформ, таких как Pandemic Preparedness Engine, которые проектируются с учетом требований биобезопасности на этапе разработки.
• Ограничение функциональности моделей при попытках пользователей получить информацию, связанную с созданием патогенов или иными опасными биологическими процедурами.

Специалисты отмечают, что обязательный скрининг синтезируемых последовательностей является одним из немногих случаев, когда угроза очевидна, а эффективный механизм предотвращения кризиса доступен до момента его возникновения. Данная инициатива является редким примером консенсуса между конкурентами из технологической отрасли и представителями научного сообщества.

* — деятельность компании запрещена на территории РФ

Твитнуть