Двойная роль искусственного интеллекта
Развитие нейросетей создает новую проблему: современные модели, такие как Gemini, обладают глубокими знаниями в области биологии. Это помогает ученым искать мишени для вакцин, но теоретически может помочь злоумышленникам восполнить пробелы в понимании опасных вирусов. Google DeepMind и Isomorphic Labs представили программу биорезистентности, чтобы сбалансировать эти возможности.
Программа направлена на решение «двойной задачи»: способствовать научному прогрессу и одновременно не допустить попадания этих инструментов в руки тех, кто может использовать их во вред.
Три направления работы
Стратегия компаний строится на трех «столпах»: предотвращение злоупотреблений, максимально быстрое обнаружение вспышек заболеваний и оперативное реагирование на них. Для этого уже создано более 15 партнерств с государственными органами, исследовательскими группами и организациями по биобезопасности, включая Институт безопасности ИИ Великобритании и Институт Фрэнсис Крик.
В ближайшие полгода компании планируют расширить сотрудничество, сосредоточившись на методах оценки ИИ-агентов и способах защиты от попыток обхода систем безопасности (jailbreak).
Проблема синтеза ДНК
Одной из серьезных угроз является синтез ДНК. Сейчас компании проверяют заказы на синтез генов по спискам известных патогенов. Однако ИИ позволяет проектировать последовательности, которые выполняют те же функции, что и опасные вирусы, но не совпадают с ними по коду достаточно сильно, чтобы сработали фильтры.
В качестве решения предлагается адаптировать технологию SynthID (которая используется для маркировки ИИ-изображений) для биологических последовательностей. Также ведется работа над созданием систем, которые смогут предсказывать токсичность новой ДНК по её функциям, даже если она не похожа ни на один известный патоген.
Ускорение реагирования на пандемии
Другой важный аспект — сокращение разрыва в создании медицинских средств. Многие известные патогены до сих пор не имеют лицензированных диагностических тестов или вакцин. Технология AlphaFold уже помогла ученым в исследованиях туберкулеза, малярии и вируса Mpox.
Isomorphic Labs создала специальное подразделение, которое должно быстро развертывать свои алгоритмы для дизайна лекарств в случае возникновения новой вспышки. Это позволит быстрее разрабатывать антитела и другие средства защиты, когда это критически необходимо.
Что это значит
Программа Google DeepMind — это не готовое решение, а непрерывный процесс борьбы с новыми рисками. Успех инициативы будет зависеть от того, удастся ли компаниям создать эффективные механизмы защиты до того, как методы обхода ИИ-фильтров станут слишком совершенными.