Выяснилось, что ИИ может генерировать и усиливать пропаганду

Модели искусственного интеллекта могут генерировать и усиливать пропаганду и ложные сведения. Об этом сообщает РИА Новости, ссылаясь на доклад "РИА-Аналитика" "Влияние искусственного интеллекта на медийное пространство".

"Наука о данных уже фиксирует проблемы, связанные с ИИ-порожденными сообщениями. Например, большие языковые модели статистически подбирают слова, не всегда понимая смысл, из-за чего могут непреднамеренно воспроизводить стереотипы. Более того, такие модели способны генерировать и усиливать ложные сведения и пропаганду, если обучены на смещённых данных", - отмечают аналитики.

В докладе подчеркивается, что, если алгоритм массово распространяет идею, часть общества начинает действовать, исходя из этой идеи, тем самым делая ее "реальной" в социальном смысле.

"Например, достаточно убедительная дезинформация о кризисе может спровоцировать панические настроения или экономические решения, которые материализуют искусственно подготовленный кризис", - считают авторы доклада.

Аналитики пояснили, что неверифицированный генеративный ИИ вместе с данными социальных сетей может стать инструментом массовой дезинформации, способный адаптироваться и учиться на реакциях людей в режиме реального времени.

"Масштаб и скорость такого воздействия беспрецедентны, и традиционные методы опровержения фейков часто не успевают среагировать", - заключили авторы доклада.