Белки под подписью: как «водяные знаки» пытаются сделать ИИ-биологию безопаснее
Искусственный интеллект дал учёным мощный инструмент для создания белков, которых раньше не существовало. Из них можно делать прорывные лекарства — или опасные биологические агенты. Чтобы снизить риск злоупотреблений, исследователи предложили помечать ИИ-белки скрытыми «водяными знаками», не ухудшая их функцию. Команда Google DeepMind разработала метод, который помогает отслеживать происхождение белков, созданных с помощью ИИ.
«Это может уменьшить угрозы биобезопасности, например несанкционированное создание токсинов, а также помочь с курированием баз данных, не давая искусственным проектам засорять стандартные хранилища», — пояснил Рой Слитор, профессор биологии из Munster Technological University в Ирландии, не участвовавший в работе. По его словам, на практике метод может помочь проследить источник дизайна, помечать сконструированные белки для дополнительных проверок и снижать вводящие в заблуждение заявления о том, как был получен белок. Однако другие эксперты предупреждают: те же ИИ-технологии, которые добавляют метки, пока способны их и удалять.
Программа AlphaFold, представленная в 2020 году, стала вехой в белковой инженерии. Она умеет предсказывать трёхмерную структуру белка по последовательности его строительных блоков — аминокислот. За эту работу Демис Хассабис, Джон Джампер и Дэвид Бейкер получили Нобелевскую премию по химии в 2024 году. Белки складываются как оригами, и их 3D-форма определяет функцию. Но технология AlphaFold открыла дорогу и к совершенно новым белкам, которые могут использоваться для биологических угроз, включая вирусные белки, ускользающие от иммунитета и существующих вакцин.
«Всё, что можно использовать во благо, можно использовать и во вред», — заметил Джордж Роуз, почётный профессор биофизики в Johns Hopkins University. Современные системы скрининга выявляют опасные или ограниченные молекулы по сходству их аминокислотных последовательностей с известными угрозами. Проблема в том, что ИИ может предложить белок, не похожий ни на что известное. Именно эту задачу и пытается решить новая техника маркировки.
DeepMind описывает свой подход как семейство методов SynthIDBio. Первый из них — SynthIDBio-sequence — встраивает «водяные знаки» в аминокислотные последовательности белков, создаваемых программой ProteinMPNN. Пользователь задаёт желаемую 3D-форму, а программа подбирает аминокислоты, которые в неё сложатся. SynthIDBio-sequence незаметно влияет на выбор каждой аминокислоты в соответствии с секретным ключом. После генерации любой, кто знает скрытый код, может оценить, насколько вероятно, что последовательность создана под этим смещением. В недавнем исследовании команда DeepMind показала, что белки с такой меткой по-прежнему связываются с целями так же хорошо, как и немеченые.
Другой метод — SynthIDBio-structure — встраивает метку прямо в структуру белка. Он меняет работу AlphaFold 3, флагманского алгоритма DeepMind для предсказания белков. Когда AlphaFold предсказывает структуру, SynthIDBio-structure даёт ИИ дополнительную задачу: внести микроскопические изменения в расположение атомов. Позже детектор может их обнаружить, но изменения настолько малы, что не выглядят как очевидное искажение. В тесте две системы создали скрытые метки, которые определялись с очень высокой точностью: более 99% меченых белков были отмечены, а 99,9% немеченых — корректно проигнорированы.
При этом опрошенные эксперты согласились, что SynthIDBio — впечатляющее техническое достижение, но к широкому внедрению оно пока не готово. Два метода «эффективны, но хрупки», считает Брюс Виттман, ведущий прикладной учёный в Microsoft. Как отмечает и сама команда DeepMind, метки легко удалить. Для последовательностей «водяной знак» можно убрать повторным секвенированием — изменив аминокислотную последовательность так, что метка перестанет обнаруживаться. Для структур — добавив шум или иначе изменив пространственные координаты. Системы скрининга не смогут определить, что метку удалили.
Эксперты также сомневаются, что маркировка станет долгосрочным решением для биобезопасности. Несмываемая метка может указать, кто изначально создал опасный белок, или выявить несанкционированный доступ к программе генерации. Это может отпугнуть часть нарушителей, но террористы, стремящиеся создать новый белок для биологического оружия, вряд ли будут заботиться об идентификации после успешной атаки, отметил Макс Бракманн, эксперт по химическому, биологическому, радиологическому и ядерному оружию из Spiez Laboratory в Швейцарии. Кроме того, большинство программ для предсказания и генерации белков имеют открытый исходный код, поэтому значительную часть кода можно свободно использовать и менять. Это затрудняет встраивание маркировки в такие программы. Виттман предупредил, что отрасли придётся перейти к закрытым моделям, прежде чем метки смогут стать отраслевым стандартом. По его словам, маркировка может быть одним слоем защиты биобезопасности, а не самостоятельной гарантией. Регулирование сверху вниз тоже будет сложно обеспечить: «Мне трудно представить, как можно гарантировать соблюдение правил». Роуз высказался ещё резче: «Я убеждён, что это не сработает. Как только появляется удобная технология, которая что-то делает, государственное регулирование, чтобы держать её под контролем, никогда не было особенно успешным».
Продолжение: поэтому разумная стратегия — не полагаться на одни «водяные знаки», а строить многоуровневую систему биобезопасности. Она может включать обязательный скрининг последовательностей и структур, проверку аномалий, журналирование доступа к моделям, лицензирование и аудит генеративных сервисов, а также международные нормы и обмен данными об инцидентах. Маркировка полезна как элемент прослеживаемости и курирования баз данных, но её нужно сочетать с устойчивыми криптографическими подписями, метаданными происхождения и контролем на уровне моделей. Для открытых инструментов важно развивать добровольные стандарты и механизмы ответственного раскрытия. Главный вывод: SynthIDBio — шаг вперёд, но не панацея; биобезопасность ИИ потребует технологических, организационных и политических мер одновременно.
Источники: Live Science; Google DeepMind; Munster Technological University; Johns Hopkins University; Microsoft; Spiez Laboratory.
