Что не так с экологической повесткой и почему ИИ уже опасен для общества
Нейросети сегодня позволяют синтезировать голос и создавать видео, практически неотличимое от реального. Искусственный интеллект научился при создании дипфейков имитировать даже микроколебания кожи, вызванные пульсом, как у живого человека. Как цифровые платформы стали неотъемлемой частью общественно-политических процессов, смотрите в проекте "Тренды".
Социальные сети становятся поводом для пересмотра итогов выборов. Так, например, произошло в Румынии, где побеждавшего кандидата просто сняли с гонки обвинив в том, что его роликов было слишком много в TikTok и они собирали большие охваты. За успехом политика усмотрели внешний фактор, а точнее длинную руку Кремля.
Румынский прецедент демонстрирует возрастающую роль цифрового пространства как основной среды для социальной коммуникации. Фактически виртуальная реальность стала неотделимой частью нашей повседневной жизни. Все, что происходит онлайн, теперь непосредственно влияет на общество и государство. Однако в то же время мы оказались в ситуации, когда правда оказалась дефицитом.
Создать шуточную фейковую новость сегодня в состоянии практически каждый любопытный школьник. Когда за дело берутся профессионалы и политтехнологи, невинная шалость переходит в категорию массового управления. Информационная повестка в таком случае формируется под конкретные политические задачи. Например, совершить государственный переворот руками самих граждан. Манипулирование фактами и продвижение откровенных фейков позволяют полностью изменить ситуацию в стране и даже расколоть общество на два противоборствующих лагеря.
Аналитики Всемирного экономического форума уже несколько лет вносят дезинформацию в свой ежегодный отчет о глобальных рисках. Распространение лжи и формирование нарративов оказывают влияние на все сферы человеческой жизни. С помощью этих технологий искусственно меняют отношение общества к различным вопросам и при необходимости обостряют нужную тему.
Ярким примером является агрессивное продвижение экологической повестки. Проверив тысячи сообщений во Франции, исследователи выяснили, что за первые три месяца текущего года было размещено 128 случаев климатической дезинформации - это примерно по 10 раз в неделю. Ситуацию усугубляет скорость распространения такой информации. По статистике, три из четырех новостей публикуются в соцсетях без предварительного прочтения.
Стив Бэннон, главный стратег Белого дома (2017):
"Большие технологии - это самая опасная вещь в стране. У них есть большой потенциал, но сейчас это олигархическая власть, и я думаю, что большинство из этих ребят технофеодалы, с которыми нам нужно бороться".
Особую опасность вызывают рекомендательные сервисы. Машинное обучение нейросети позволяет собирать и анализировать информацию о наших предпочтениях. В дальнейшем при взаимодействии с сервисом пользователю предоставляют только те товары и услуги, которые ему могут понравиться.
Аналогичным образом формируются культурные и политические предпочтения. Фактически таким образом человека искусственно ограничивают от альтернативного мнения, убеждая, что все придерживаются схожих с ним взглядов. Это ведет к полной утрате способности реально оценивать картину происходящего и ведет к принятию ошибочных решений. В том числе тех, которые влекут юридическую ответственность.