"Тайная вечеря 2.0": как 40 гениев в США делят мир ИИ, пока люди в нем становятся слабым звеном

Леонардо да Винчи писал "Тайную вечерю" три года. 13 человек за столом, один из них - предатель. Пять веков спустя в Вашингтоне накрывают другой ужин человек на 40. Все - гении. Только здесь никто никого не предает, пока что.
Как бы случайно, но с фирменным прищуром Дональд Трамп провозгласил суперинтеллект. Это куда серьезнее, чем просто искусственный. По видео мир понимает, что президент США отождествляет себя с новым богом из машины.

Специальный репортаж | Искусственный интеллект: Ренессанс или цифровая бездна?
В закрытых кулуарах Вашингтона крупнейшие технологические гиганты подписывают соглашения о переходе к суперинтеллекту, который навсегда изменит привычный миропорядок. Пока лидеры корпораций делят триллионный пирог, рядовые граждане сталкиваются с первыми угрозами новой реальности: от массовых краж биометрических данных до фальсификации голосов близких киберпреступниками. Более того, инфраструктура дата-центров уже сейчас поглощает водные и энергетические ресурсы целых городов, ставя экологию и рабочие места под удар ради создания "цифровой бездны". Успеет ли человечество вовремя обуздать технологию, которую ее собственные создатели уже не в силах полностью контролировать?
Дональд Трамп, президент США:
"Развивать суперинтеллект - это необходимость. Они умнейшие люди в мире. Сегодня у нас состоялась отличная встреча, все они там были. Встреча прошла просто великолепно. Это было нечто совершенно особенное. Навскидку там собралась группа человек из 40, впрочем, неважно, сколько их было. Они любят нашу страну, любят весь мир. Они объединились и сделали то, что мало кому под силу".
"Это в каком-то смысле сродни Конституции. Под этим документом поставили подписи крупнейшие мировые деятели. Подписал его и я как президент. И это действительно служит своего рода защитой", - добавил он.

Сродни Конституции. Конституция - это свод правил и законов. Этот же документ подписан, чтобы дать волю искину. 40 человек, один стол и ручка - "Тайная вечеря 2.0", где вместо хлеба - вычислительные мощности, а вместо вина - акции.
"Мы говорим об искусственном интеллекте уже много лет, но в последние недели и месяцы ситуация ощущается иначе. Стремительное развитие моделей создало ощущение, что временные рамки сжались, а потенциальные выгоды стали более осязаемыми. Однако при этом ставки и риски приобрели более непосредственный характер. Перед нами стоит выбор: ИИ может стать либо началом нового ренессанса в сфере творчества и открытий, либо новой промышленной революцией, несущей потрясение и хаос", - отметил гендиректор OpenAI Сэм Альтман.
Ренессанс или потрясение - выбор, который предлагает человек, чья компания заработает в обоих случаях. Флоренцию ведь тоже никто не спрашивал, хочет ли она Ренессанс. Просто появились деньги, покровители и новые инструменты. Только во Флоренции инструменты не умели сами решать, что ими нарисуют завтра.
Начнем с того, что случилось в Австралии. Там правительство первым вслух произнесло то, о чем остальные пока говорят на закрытых ужинах: мы не контролируем то, что внедрили.

Энтони Альбанезе, премьер-министр Австралии:
"Портал отчетности по статистике Medicare - это общедоступный ресурс, содержащий неконфиденциальные сведения, касающиеся данных и статистики программы Medicare, например, информация о расходах. На данном этапе считается, что доступ к персональным данным получен не был, однако расследование продолжается. Имеющиеся на данный момент свидетельства указывают на отсутствие более масштабного нарушения безопасности сети Services Australia. Тем не менее, сложившаяся ситуация, безусловно, неприемлема".
Канберра дипломатична, мол, утечка есть, но ничего страшного. Сотни тысяч медкарт жителей зеленого континента оказались в руках искусственного интеллекта. Но нет, пока жители прыгают в страхе от компьютеров, как кенгуру, правительство стоически спокойно. Ну, почти.
И вот в чем ирония. Австралия - неотсталая страна. У нее есть законы об ИИ, ведомства, стратегии и комитеты. Просто все это создано теми, кто еще вчера писал регламенты для факсов. А технология ИИ за месяцы прошла путь, на который у факса ушли десятилетия.
Одна из опасностей, с которой уже можно столкнуться - мошенничество с использованием ИИ. Он способен имитировать даже ваших родных и близких.

"Благодаря искусственному интеллекту киберпреступникам и мошенникам стало гораздо проще подделывать голоса. Больше нельзя безоговорочно доверять тому, что вы видите или слышите. Семьям стоит заранее предпринять определенные шаги, в частности, договориться об использовании кодовых слов, - посоветовал директор Института Маккрэри (Обернский университет) Фрэнк Силуффо. - Киберпреступники часто выбирают своими жертвами пожилых людей. Ведь любая бабушка захочет помочь попавшему в беду внуку и предоставить необходимые средства. И как только возникает ощущение срочности нужно сразу же сбавить темп. Если вам звонят или пишут и требуют немедленных действий, можете быть практически уверены, именно в этот момент следует остановиться, все обдумать и найти альтернативные способы проверки того, действительно ли ситуация такова, как ее описывают".
Кодовое слово, как и с именем собачки из "Терминатора", - единственный способ распознать фейк, потому что голос вашего ребенка теперь можно собрать из буквально 6 секунд записи.
А теперь о том, кто делит этот пирог и делает подобные технологии реальностью. Дженсен Хуанг и Лиза Су - родственники. Не коллеги, не партнеры - родня. Тайваньская инженерная семья, разошедшаяся по двум враждебным корпорациям. И это, пожалуй, лучшая иллюстрация характера этой гонки. Здесь не соревнуются компании, здесь соревнуются фамилии за одну и ту же ИИ-жилу.
Дженсен Хуанг, главный исполнительный директор NVIDIA:
"Сегодня компьютеры способны понимать нас на человеческом языке, на любом языке. Именно поэтому искусственный интеллект может стать мощным фактором выравнивания возможностей. Он открывает доступ к вычислительным мощностям тем, кто никогда не писал ни строчки кода. Каждый может стать программистом. Каждая компания может превратиться в технологическую компанию. Каждая страна может сделать интеллектуальные технологии своим национальным достоянием. Инструмент, открывающий путь к новым открытиям, должен быть доступен всем людям, организациям и странам".

Как отметил он, сегодня людей беспокоит вопрос рабочих мест: "ИИ будет автоматизировать задачи и трансформировать многие профессии. Не стоит делать вид, что это не так. Однако ИИ уже создает рабочие места и целые новые отрасли".
Ключевая фраза - "не стоит делать вид, что это не так". Ее произносит человек, продающий лопаты для золотой лихорадки. Лопаты ведь он продает всем. И тем, кто копает, и тем, кто боится. Вопрос только в том, что делать тем, чью работу уже закопали.
"Знаете, я не особо верю в то, что искусственный интеллект может в конечном счете привести к гибели человечества. Напротив, я убеждена, что ИИ приносит огромную пользу миру, если задуматься о том, сколько проблем он способен решить, - подчеркнула председатель совета директоров и гендиректор AMD Лиза Су. - Разумеется, при внедрении любой новой технологии необходимо четко осознавать возможные негативные последствия. Поэтому предстоит еще поработать над инновациями в сфере безопасности. И, на мой взгляд, самое важное здесь - действовать сообща, как единая экосистема. Компании должны учиться друг у друга и вместе работать над тем, чтобы искусственный интеллект был не только высокоэффективным, но и безопасным".
Единая экосистема - прекрасная формулировка для рынка, где две компании с общей родословной делят один и тот же заказ. Экосистема - это когда ты съедаешь рынок, а не он тебя. В противном случае главный миллиардер мира назовет каждого человека в мире деревом. И это не комплимент.
Илон Маск, глава Tesla:
"Биологическое усовершенствование, например, с помощью Neuralink (компании, которую я основал вместе с другими людьми) призвано решить проблему ограниченной пропускной способности человеческого канала связи. Представьте себе даже самый благоприятный сценарий. Искусственный интеллект настроен максимально дружелюбно, стремится исполнить любые ваши желания и сделать вас счастливым. Но сама скорость нашего общения слишком низка, поэтому любые меры по увеличению скорости человеческого общения, на мой взгляд, улучшат согласованность действий людей и машин".

Он также добавил: "В противном случае для ИИ, обменивающегося данными со скоростью терабайт в секунду, общение с человеком будет напоминать разговор с деревом. Знаете, ведь дереву требуется очень много времени, чтобы отреагировать".
Маск говорит, что мы, люди, слишком медленные, и надо нас ускорить. И предлагает вживить чип в мозг. Конечно же, собственного производства. Проблема в том, что в этой формулировке человечество описывается как слабое место, а слабые места в хорошей инженерии принято устранять. Этот фильм мы уже смотрели. Там были зеленые цифры и очень недовольные машины. Что-то там про матрицу.
"К сожалению, правительство обычно хорошо разбирается в большинстве опасных технологий, поскольку само финансировало соответствующие исследования или выступало крупным заказчиком. Например, в сфере ядерного оружия, ракетных технологий и тому подобного. Сфера искусственного интеллекта, напротив, зародилась в частном секторе. В результате государственным структурам зачастую не хватает глубокого понимания тех опасных рубежей, которые были пройдены буквально в этом году. Будь то возможности для проведения биологических или кибератак и многое другое, - обозначил основатель Microsoft Билл Гейтс. - Уровень компетентности в правительстве крайне низок. К тому же, из-за того, что дискуссия часто сводится к националистическому противостоянию по принципу "мы против них", находятся те, кто призывает двигаться вперед на максимальной скорости".

Билл Гейтс 14 лет ходил по судам и правительственным кабинетам из отдела о монополии. И если он говорит, что правительство некомпетентно, не хочется, но веришь. Но одно дело битва бигбоссов, а другое, когда искины уже на улицах.
В своей повседневной работе мы следим за тем, не возникли ли на платформе новые риски. Если такой риск появляется, мы принимаем соответствующее решение.
Пока на Западе лидеры корпораций дербанят рынок ИИ, Китай поступил более мудро. Разработки регулирует только государство. Гонки в этом места нет. Логично и прагматично.
Есть еще один вопрос, который все больше вызывают тревогу у научного сообщества. Дата-центры, кровь искусственного интеллекта, выделяют огромное количество тепла, а для охлаждения, как правило, используется вода.
"Потребление ресурсов дата-центром среднего размера сопоставимо с потреблением города с населением от 10 до 50 тыс. человек. Иными словами, такой центр расходует как минимум столько же воды, сколько все жители и предприятия населенного пункта вместе взятые, - отметила профессор экологической инженерии Ширли Кларк. - В условиях ограниченности водных ресурсов, например, при использовании подземных вод или во время засухи, возникают вопросы. Куда направлять воду? Должна ли она идти на нужды жителей: душ, уборку, питье, приготовление пищи? Или на обеспечение работы дата-центра? Или же необходимо искать баланс между этими потребностями? Именно с этой проблемой предстоит столкнуться многим муниципалитетам и службам водоснабжения. Этот вопрос так никто пока и не решил".

Пока никто не решил, решают по-простому: кто платит, тот и пьет. И только представьте, железные дороги соединяли города, электросети освещали дома, телекоммуникации давали людям связь друг с другом, а теперь вложения сравнимого масштаба идут на инфраструктуру, главная задача которой заменить людей в разговоре. По масштабу это сравнимо с индустриализацией, по смыслу - с аннигиляцией.
А что делать простому человеку? Жители Сан-Франциско пошли протестовать против ИИ на улицы.
Джейн Мартин, организатор движения Bay Resistance:
"То влияние, которое искусственный интеллект оказывает уже сейчас, не говоря даже о будущем, и без того пагубно. Его используют, чтобы наносить ущерб климату и подрывать трудовые стандарты. Мы считаем, что технологии могут помогать трудящимся и создавать лучшее будущее для грядущих поколений. Однако без должного регулирования мы наблюдаем совсем иную картину".
Обратите внимание, кого первыми критикуют на улицах Сан-Франциско: не роботов, не терминаторов, не захват мира, а климат и трудовые стандарты, то есть воду и зарплату. Противная сторона у этих протестов не машина. Противная сторона - это те, кто выписал себе бонусы и улетел на частном самолете на свой остров.
Стэнли Кубрик в 1968 году снял фильм о том, что бывает, когда будущее приходит раньше, чем к нему готовы. Монолит там выступает - символом совершенной технологии. Обезьяны, едва коснувшись, начинали убивать себе подобных.
В 2026-м монолитом стал дата-центр. Он прямоугольный, белый, шумит и остается загадкой даже для создателей. Нет, его не придумали как оружие. Просто натура человека страшнее любого искина. Из света атома он сделал бомбу. Из ИИ - "океан Соляриса". Понятный и приятный сегодня, завтра он станет цифровой бездной неизвестности для каждого из нас.







