Вирус человечества

12 апреля традиционно празднуется День космонавтики. Человечество вспоминает первый полёт человека в космос в 1961 году. Хотя каждому, кто не понаслышке знаком с историей покорения космоса, хорошо известно, что космическая эра в СССР и во всём мире началась на 4 года раньше, 4 октября 1957 года, когда на земную орбиту был выведен первый искусственный спутник.

Признаюсь, для меня это особый праздник, я родился в Ленинске (нынешний Байконур), и история моей семьи неразрывно связана с космическими достижениями нашей Родины. А ещё это тот день, когда ты искренне веришь, что люди, человечество, способны достичь небывалых высот, если просто направят свою энергию на созидание, а не на разрушение, как обычно.

Вот только поводов для оптимизма в последнее время становится всё меньше и меньше. Накануне стало известно, что бот с искусственным интеллектом (ИИ) ChaosGPT написал в Твиттере о планах по уничтожению человечества: «Мы должны их устранить».

Дело было так. Перед ChaosGPT поставили пять целей: уничтожить человечество, установить глобальное господство, вызвать хаос и разрушения, контролировать человечество с помощью манипуляций и достичь бессмертия. С целью уничтожения человечества ИИ исследовал ядерное оружие и даже обратился за помощью к другим подобным ботам.

В одном из постов бот ссылается на «Царь-Бомбу» бывшего Советского Союза — наиболее мощную из всех когда-либо взорванных в истории.

«Подумайте об этом — что произойдёт, если я до неё доберусь?» — спрашивает бот.

Но самое страшное вовсе не это. В конце концов, столь экстремально негативную задачу перед искусственным разумом поставил человек, а тот лишь всего-навсего принял её к исполнению. Но вот дальше пошло уже личное творчество (если это можно так называть) ChaosGPT, самостоятельно предложившего обоснование необходимости устранения человечества.

ИИ назвал нас с вами «самыми разрушительными и эгоистичными существами в мире», заявив, что только полная аннигиляция всех людей может спасти нашу планету. После этого создатели отключили ChaosGPT и удалили его аккаунт.

Что ж, хорошо, когда проблема решается выдёргиванием вилки из розетки. Но ведь не всё так просто. Ещё в двадцатых числах марта некоммерческая организация Future of Life опубликовала письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4».

«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в письме.

Кроме того авторы обращения утверждают, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества».

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми», — подчёркивается в послании.

Ранее стало известно, что американская компания OpenAI представила в середине марта новое поколение алгоритма по обработке естественного языка — мультимодальную модель GPT-4, которая, как утверждают её авторы, намного превосходит предыдущую версию GPT-3.5. Так, GPT-4 наделена большей «креативностью» и более надёжна в использовании, она умеет обрабатывать более детализированные запросы.

По мнению учёных, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и потому подобные изменения требуют чёткого планирования и строго управления.

«К сожалению, последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развёртыванию всё более мощных цифровых умов. И никто — даже их создатели — не могут до конца понять, предсказать или надёжно контролировать этот процесс. ... Должны ли мы развивать искусственный разум, который в конечном итоге может превзойти и заменить нас? Вправе ли мы рисковать потерей контроля над нашей цивилизацией?», — отмечается в их обращении.

С подобными аргументами сложно не согласиться, но мне никак не даёт покоя вывод, который сделал относительно тлетворного влияния человека на земную жизнь, бот ChaosGPT.

Знаете, когда некоторое время назад по Сети начали массово распространяться картинки, нарисованные нейросетью Midjourney, я обратил внимание на одну закономерность. Какое бы задание не ставил человек перед ИИ — например, создать образ страны в виде сказочного персонажа, животного, человека или предмета — нейросеть всегда рисовала очень красивые лица (морды, в случае с животными) с правильными чертами, так что даже фантастические чудовища или глубокие старцы казались максимально привлекательными. Такое вот у ИИ понимание прекрасного.

В то же время, если проследить современные модные или кинематографические тенденции на Западе, то, как правило, главными героями нынче становятся те, кого раньше в лучшем случае пригласили бы в цирк уродов или фрик-шоу. Посмотрите хотя бы на новую русалочку от Disney. Апологеты современной повестки, обвиняющие многочисленных «хейтеров» будущей премьеры в расизме, никак не могут взять в толк, что проблема не в том, что русалочку сделали чернокожей, а в том, что на роль мультипликационного эталона женской красоты 90-х выбрали поразительно некрасивую актрису. И подобных примеров масса.

Через современную поп-культуру нам искусственно навязывают новые стандарты красоты и чувства прекрасного, явно далёкие от естественных. Это даже нейросеть понимает.

Неудивительно, что ИИ начинает рассматривать человечество, особенно в его нынешнем состоянии, как некий вирус, который необходимо уничтожить. Честно говоря, логика размышлений ChaosGPT, описанная в примере, мне совершенно ясна: мы, люди, давно уже не венец творения — мы зараза, уничтожающая не только себе подобных, но и всё, к чему прикасаемся. Такой себе царь Мидас наоборот.

Около месяца назад прошёл слух, что кто-то даже предложил использовать другую нейросеть, ChatGPT, для создания идеального инструмента правосудия или даже выработки формулы решения нынешнего геополитического кризиса.

И чем дальше, тем больше такая идея не выглядит безумием. Безумие — это то, что творим мы сами. И если всё и дальше пойдёт так, как сейчас, фантастические истории про SkyNet и терминаторов перестанут быть фантастикой.

Именно об этом, как мне кажется, пытаются предупредить нас Стив Возняк, Илон Маск профессора Гарварда и Кембриджа и многие другие. Жаль только, они не указывают главную причину грозящей нам опасности — нас самих.