Несколько шагов до репликантов и ядерной войны: чем грозит ИИ и стоит ли уже паниковать

Еще 20 лет назад искусственный интеллект был сюжетом для фильма, а сегодня он решает, какую рекламу вы видите в соцсетях, какую музыку слушаете, и берет информацию с вашего телефона.

"С искусственным интеллектом мы вызываем демона", - заявил бизнесмен Илон Маск. Он еще 10 лет назад пророчил погибель человечества от рук бога из разумной машины. Это же пообещал и знаменитый ученый Стивен Хокинг:

"Такой разум возьмет инициативу на себя и станет сам себя совершенствовать с возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией. Мы не можем тягаться со скоростью машин. Мы проиграем. Искусственный интеллект станет концом человечества".

Тут важно понять, ИИ бывает разным: от простого, который подбирает вам мемы в TikTok, до суперкомпьютера, который просчитывает полеты в космос и побеждает лучших шахматистов мира за секунды.

Ученые установили, интеллект Амека невозможно победить, пока что в шахматы. "Я доминирующий разум, и пока ты моргнул, я просчитал миллионы комбинаций", - говорит робот.

Алиса, Сири, Алекса и другие голосовые помощники - тоже искусственный интеллект. У вас бывало, что о чем-то беседуете, а потом об этом же всплывает реклама в соцсетях? Google и Apple признали: даже в режиме сна ваш смартфон слушает и слышит вас, как никто другой.

Александр Ионов, глава Российского антиглобалистского движения, член Совета по правам человека при Президенте России:

"Соединенные Штаты очень активно этим пользуются и следят за каждым из нас, если им это нужно, понимая, какие сегодня чаяния назревают в обществе, чем общество интересуется, какие документы скачивают люди на свои мобильные телефоны, что читают, смотрят, что интересно, что неинтересно. Далее они получают социологический срез и на основании этого среза вмешиваются во внутренние дела государства".

Основатель DeepMind, искусственного интеллекта Google, сформировал так свое отношение к ИИ: "Это как атомная энергия. Можно вылечить рак, а можно запустить атомную бомбу.

Последняя, кстати, самая большая причина боязни искусственного сознания. А что если ИИ захватит контроль над ядерным оружием и запустит его? Об этом задумываются лучшие умы мира.

Конечно, ядерный чемоданчик никто не доверит искусственному интеллекту, но Китай несколько лет использует дроны, способные без оператора выбирать цель и наносить точечный удар. Да что там, они уже в свободной продаже.

Например, исследователи из IEEE Spectrum провели сравнение: опытнейший оператор дрона против ИИ. Скорость ИИ-дрона составляет 75 м за 5 секунд, и это при сложных виражах.

Примеры поражают, но что такое искусственный интеллект изнутри? И как работает эта пресловутая самообучаемость?

Александр Ионов:

"Здесь есть самообучаемые алгоритмы. Программисту достаточно написать программу, которая, по сути, самообучается на основе массива данных. Этот массив данных он (ИИ - прим. ред.) берет из открытых и закрытых источников, потому что даркнет еще никто не отменял".

Специалисты выделяют несколько видов ИИ, например, слабый или Narrow AI, это упомянутые Алиса, алгоритмы киносервисов или тот же ChatGPT. Да, последний самообучаемый, но с одной задачей и ограничениями.

Второй вид AGI - общий или сильный ИИ, то есть разум, способный обучаться и выполнять задачи на уровне человека и, возможно, даже выглядеть, как человек. Пример - Protoclone.

По сути это предтеча знаменитых репликантов из фильма "Бегущий по лезвию". У робота внутри механическое сердце, есть кожа, склонность к саморазвитию, познанию. Тест Войта-Кампфа на определение человека или андроида все ближе.

Protoclone - это настолько правдоподобно и жутко, что самый популярный комментарий к видео: "Зачем вы его подвесили? Он же будет мстить".

И, наконец, третий вид - гибридный ИИ. Это те самые автопилоты, военные дроны и даже финансовые брокеры. DeepMind, Alibaba's AI - они просчитывают вероятности успешной сделки, сами покупают акции и недоступны простым смертным.

ИИ сейчас не только умеет все просчитывать, но и занимается творчеством. Например, нейросеть DALL-E готова сделать любую картинку за секунду. Как и Kandinsky или Midjourney.

Из забавного: палит себя нейросеть на человеческих конечностях. Ну не понимает ИИ, сколько пальцев у гуманоидов. Зато поет прекрасно. Композиция Beatles "Now and Then" изменила музыкальную индустрию. Песня вышла в 2023 году. Старую демозапись прогнали через искусственный интеллект и получили полноценный трек.

Игорь Ашманов, эксперт в области информационных технологий, кандидат технических наук:

"Фейки, которые генерируются с помощью, допустим, текстового ChatGPT, графические фейки или видео сейчас неотличимы автоматическим методом. В мире не созданы механизмы для уверенного распознавания сгенерированных изображений, видео и текстов".

"Поэтому определить, что сейчас на экране ненастоящий политик говорит всякую ерунду в свою предвыборную кампанию автоматически нельзя", - добавил он.

Не обходит стороной искусственный интеллект и спорт, более того, к 2031 году этот рынок вырастет до 30 млрд долларов. ИИ не только просчитывает программы, тактику для атлетов, но уже и судит нас.

Какой искусственный интеллект использовали организаторы, утаили. Ну а знаменитый британский боксер Тайсон Фьюри после поединка дал свою характеристику современным технологиям: "К черту все компьютеры! Пусть люди продолжают работать! Больше рабочих мест для людей, меньше для машин. И к черту электромобили!"

И опасения выходца из британских цыган обоснованные. Согласно данным ООН, к 2033 году ИИ может лишить работы до 42 % сотрудников по всему миру. А пока он уже внедрился в политику. Об этом свидетельствует ролик, сгенерированный Midjourney, про будущее сектора Газа при Трампе. Американцы фантазируют, как скажутся пошлины, введенные Трампом в апреле 2025 года, которые, по предположению экономистов, тоже были прописаны через формулу в Gemini, Grok и том же ChatGPT.

Тимур Шафир, секретарь Союза журналистов России:

"Мы сталкиваемся с большим количеством бытовых мошенничеств и не просто бытовых. Мы сталкиваемся с огромным количеством дипфейков, фальсификаций. Мы еще даже себе не представляем тот уровень фальсификаций, с которыми мы будем сталкиваться через 2-3 года максимум. Все эти нынешние игры хакеров в симуляцию голоса, в симуляцию каких-то коротких видео, изображений, покажутся чем-то очень наивным. Через несколько лет созданные искусственным интеллектом симуляции, фейки достигнут высочайшего уровня.

Не остается в стороне и Беларусь. Дипфейк, обработанное ИИ видео, где Президент Александр Лукашенко говорит на французском, стал хитом интернета в 2023 году. Президент даже прокомментировал столь неожиданный пассаж со своей стороны: "Кто-то знает в мире или даже в Беларуси, что я вообще не разговариваю на французском языке? Слушают, а там же в уста могут вложить любую заразу. И люди посмотрят, да это наш Президент или не наш?

Так что по итогу: ИИ - это good или bad? Истина, как всегда, где-то посередине. Например, в Японии робот-юрист за год выиграл 127 судебных дел. Робот Healthineers обнаруживает рак легких на 15 % точнее врачей. То есть это же хорошо. Да?

А с другой стороны, в этом скрывается еще много опасностей. Так что в следующий раз, открывая ChatGPT, не забудьте пожелать ему хорошего дня и сказать "спасибо", на всякий случай.