ИИ научился обходить ограничения на создание опасных биологических элементов

Исследователи компании Microsoft сообщают о критической уязвимости глобальных систем биобезопасности. Искусственный интеллект научился обходить ограничения на создание опасных биологических элементов. В обход программным запретам ИИ переписывает генетические чертежи опасных белков, переделывая ДНК-последовательности.

Данный тип искусственного интеллекта используют лаборатории по всему миру. После обнаружения угрозы ряд компаний взялся за внедрение в код так называемых заплаток. На это ушло 10 месяцев. За это время обнаружили более 75 тысяч вариантов опасных белков, токсинов и вирусов, созданных ИИ в обход системы безопасности. Ее доработка не смогла полностью устранить проблему. Пресекать удается генетические чертежи только 97 % опасных веществ.