Восстание Электроников, или как ИИ может стать новым оружием угнетения

Выступая на днях на Генассамблее ООН, президент США Джо Байден, как глава государства, претендующего на мировое лидерство, если не сказать господство, коснулся практически всех важных тем актуальной международной повестки: события на Украине, споры с Китаем, возможное увеличение списка постоянных членов Совета безопасности Организации объединённых наций, проблема нераспространения ядерного оружия, климатическая повестка и прочее.

Но было в его речи нечто новое, нечто, что заставило меня задуматься и попытаться поглубже разобраться в вопросе применения искусственного интеллекта (ИИ) в международных отношениях.

По поводу вероятного использования ИИ на уровне Совбеза ООН нынешний хозяин Белого дома, в частности, сказал: «необходимо убедится в безопасности искусственного интеллекта ООН, прежде чем его обнародовать. Он не должен стать оружием угнетения».

Хм, если лидер западного мира говорит, что нечто не должно быть оружием, я понимаю, что на самом деле он заявляет о желании иметь монополию на это оружие. Вот только с ИИ не всё так просто. Это не только инструмент, но ещё и довольно сложная система, которую будет практически невозможно полностью подчинить, но при этом вполне достаточно будет иметь на неё решающее влияние.

О чём, собственно, речь? Уже некоторое время учёные мужи на Западе и не только продвигают идею использования ИИ в качестве некоего помощника для совершенствования нынешней системы международных отношений. Например, в случае какого-либо мирового кризиса, вроде нынешнего украинского, или сложностей с достижением компромисса по той или иной проблеме, ИИ мог бы помочь найти выход из тупика, предложив оптимальное решение на основе гигантского ранее накопленного опыта, заложенного в его базу данных, а также выработанного им самим универсального алгоритма, фундаментом для которого должно стать бесчисленное количество исторических примеров. Повторю, речь идёт о вспомогательной роли ИИ, и только люди могут решать, прислушиваться к его советам или нет.

Но в том-то и дело, что это только начало. Несложно предположить, что после первого, вполне удачного опыта применения ИИ появятся те, кто сначала призовут к обязательной имплементации решений искусственного интеллекта, затем станут ратовать за передачу ему исключительных полномочий по разрешению споров и разработке норм и правил. Со временем из простого помощника ИИ превратится в третейского судью, в последнюю инстанцию, чьё мнение станет окончательным и не будет подлежать обжалованию. Ну а после мы и не заметим, как окажемся к эдаком цифровом рабстве.

Вам кажется это просто страшилками? Увы, это не так. Опасность чрезмерного использования ИИ в жизни людей осознают даже на уровне ООН. Недаром генсек организации Антониу Гутерриш, выступая ещё 18 июля 2023 года на заседании Совбеза, посвящённом развитию искусственного интеллекта, призвал международное сообщество срочно принять меры по контролю за развитием этой «необычной технологии».

«Скорость и масштабы распространения технологии искусственного интеллекта (ИИ) во всех его формах совершенно беспрецедентны, — отметил глава ООН, — ИИ сравнивают с внедрением печатного станка, но потребовалось более пятидесяти лет, чтобы книги стали широко доступны по всей Европе, а ChatGPT получил 100 миллионов пользователей всего за два месяца».

Так, по оценкам финансовой отрасли, к 2030 году вклад ИИ в мировую экономику может составить от 10 до 15 триллионов долларов.

«Почти каждое правительство, крупная компания и организация в мире работают над стратегией в области ИИ, но даже разработчики понятия не имеют, к чему может привести этот ошеломляющий технологический прорыв», — продолжил Гутерриш, призвав членов Совета рассматривать ситуацию «с пониманием её насущного характера и масштабности», поскольку «то, что мы видим сегодня, — только начало».

Ещё вчера всё, о чём мы сейчас говорим, было предметом научной фантастики, некой недостижимой мечтой больше похожей на сказку. Но в отличие от доброй повести Евгения Велтистова об Электронике, нынешний ИИ — вовсе не 12-летний мальчишка со сверхспособностями, с любопытством познающий этот мир.

Да и труды Азейка Азимова, сформулировавшего когда-то три закона робототехники, согласно которым робот не может причинить вред человеку, увы, остались в далёком прошлом. Нынешний ИИ, если его об этом спросить, вполне способен уничтожить человечество или, по крайней мере, значительно его проредить, если посчитает это правильным и разумным. После известного скандала с нейросетью ChatGPT, предложившей подобное решение, прошло, кажется, не более полугода.

Искусственным интеллектом движет прагматизм в достижении цели. Моральные сомнения, понятия о добре и зле, вере, Боге и прочее — ему не знакомы, и научить ИИ «жить по совести» не сможет ни один даже самый талантливый программист.

Но именно это свойство ИИ так ценно нынешним властителям мира, которые в своих бесчеловечных экспериментах готовы на любые шаги. Все прежние страшилки, приходящие к нам с Запада, про озоновые дыры, глобальное потепление и требование на этом основании начать жрать сверчков вместо нормальных продуктов, очень напоминают «механический» подход к решению проблемы. Такое ощущение, что все эти идеи уже рождены нейросетью.

И пока Генсек ООН справедливо ставит вопросы опасности применения ИИ в решении международных проблем,

«Генеративный ИИ обладает огромным потенциалом — как добра, так и зла, — отмечает Гутерриш. — Сами его создатели предупреждают, что впереди нас могут ждать гораздо большие, потенциально катастрофические и экзистенциальные риски. Если мы не примем мер по устранению этих рисков, мы пренебрежём своими обязанностями перед нынешним и будущими поколениями»,

Запад потихоньку, исподволь продавливает тему внедрения ИИ, сетуя на несовершенство нашего мира, руководимого людьми. Это чистейшая манипуляция в духе окон Овертона.

В итоге, как уже было сказано, сначала использование ИИ признают допустимым, затем его решения станут обязательными, а после любые попытки оспорить суждения ИИ будет рассматриваться как нарушение норм международного права — идеальная система управления человечеством как неким стадом, не раз описанная в современных антиутопиях.

Назовите меня пессимистом, но лично у меня нет и тени сомнения, что как только на Западе найдут способ «гарантировать» формирование нейросетью нужных ему, Западу, решений (именно на это намекал Байден, говоря, что ИИ пока не готов), они тут же начнут «топить» за повсеместное использование искусственного интеллекта. И тогда мы столкнёмся с новой, ране невиданной угрозой нашей свободе, более коварной и страшной, чем даже прямой военный конфликт.