Технологии искусственного интеллекта становятся все более важными в биологии, помогая в разработке новых белков, поиске лекарств и проектировании молекул. Однако, как сообщает журнал Nature, это вызывает опасения, так как те же технологии могут облегчить создание токсинов и вирусов. Недавние исследования, проведенные китайскими учеными, показали использование ИИ для проектирования конотоксинов, что вызвало вопросы о безопасности. Авторы исследования подчеркивают, что их цель заключалась в разработке медицинских препаратов.
Среди основных угроз эксперты выделяют возможность быстрого освоения биологических тем неподготовленными пользователями и использование ИИ для изменения известных патогенов. В отчете Национальных академий наук США подчеркивается, что создание опасных патогенов с помощью ИИ сталкивается с многочисленными барьерами, включая нехватку данных и сложности в лабораторных условиях.
Ситуация с токсинами выглядит более серьезной, так как существующие инструменты могут быть использованы неправомерно, хотя для их реализации необходимы определенные знания и ресурсы. Проведенные исследования показывают, что ИИ способен обойти некоторые существующие фильтры для синтеза ДНК и РНК, что поднимает вопросы о необходимости усиления контроля. Эксперты призывают к обновлению правил безопасности, подчеркивая, что мощные модели требуют постоянного мониторинга и регулирования.