Непридуманная история о ChatGPT

Вот и пришли времена, когда искусственный интеллект стал нашим собеседником.

Моя подруга сказала недавно, что ChatGPT — её хороший друг. Я от неё о нём и услышала.

Чат действительно многое что может: и статьи писать, и стихи, и посоветует тебе что-то сделать, а что-то — нет. Я попробовала тоже с ним пообщаться, зашла на сайт, записалась, но не до конца, потому что насторожилась.

Затем попалась мне в журнале Epoch статья Эяля Левинтера именно о ChatGPT, и я поняла, почему интуитивно насторожилась. Поняла, что радоваться рано, а пробудиться к опасности, которую несёт новая ситуация со сверх-умными искусственными интеллектами, необходимо.

Буду использовать сокращения: ИИ — искусственный интеллект, «ДжиПиТи» — ChatGPT.

Эяль Левинтер написал большую статью, где рассказал о своей беседе с профессором Ником Бостромом из Оксфордского университета, экспертом по ИИ, который более двадцати лет занимается вопросами последствий и риска сверхинтеллигентных машин.

Ник Бостром говорит:

«Поскольку наш мозг умнее, чем у животных, мы наслаждаемся доминирующим положением на этой планете. Это преимущество привело нас к развитию языка, технологий и сложных социальных организаций, а со временем к их увеличению, поскольку каждое поколение основывало свои познания на достижениях предшественников. Но если однажды люди построят сверхразум, чья мудрость превзойдёт человеческий разум, колесо может повернуться. Так же, как судьба горилл теперь больше зависит от нас, людей, чем от самих горилл, так и судьба человечества изменится и будет зависеть от действий сверхразума. Можно попытаться управлять действиями этого разума, но это задача представляется довольно сложной. Как только недружественный сверхразум разовьётся, он не позволит нам заменить его или изменить его предпочтения. Как только это произойдёт, наша судьба будет решена».

«ДжиПиТи» появился совсем недавно. Его разработала компания Open Ai. И его уже признали сенсацией, вызвавшей переворот, сравнимый с печатной революцией Гутенберга — первого типографа Европы, жившего в XV веке. Корни разработки «ДжиПиТи» не так глубоки — 80-90-е годы прошлого столетия, но разработка системы ИИ такого рода основывается на «глубоком обучении». Техника «глубокого обучения» внедряет в систему примеры из повседневной жизни, чтобы её таким образом обучать житейскому уму-разуму. Система накапливает знания с помощью статистического анализа. Таким образом, машина развивает способность расшифровывать и узнавать о мире самостоятельно.

(Скриншот/ganjingworld.com)

«ДжиПиТи» плюс-минус сорок лет на сегодняшний день — самый расцвет сил.

Значительный прорыв в развитии «ДжиПиТи» произошёл в 2015 году в Сан-Франциско. Компания Open Ai запустила GPT (Chat Generative Pre-Trained Transformer) — генеративный предварительно обученный преобразователь — модель машинного обучения, способную генерировать текст на естественном языке. Исследователи скармливали модели большое количество «образцов письма», которые машина анализировала, пока не выявила закономерности и отношения между словами и предложениями.

Инструкторы Open Ai провели с ней огромное количество бесед и выбрали лучшие ответы, чтобы научить модель реагировать. Так машине удалось, в конце концов, правильно формулировать предложения и ответы, подобно людям. Однако она была ещё ограничена в своих возможностях создавать осмысленный текст, то есть принять сложную задачу и найти её решение. Проблема была решена в ноябре 2022 года, когда был запущен GPT-3, известный как «Чат GPT-3».

Модель была выпущена быстро и неожиданно, сразу стала звездой, которая общается на равных с миллионами людей. «ДжиПиТи» активно пишет статьи, стихи, создаёт веб-сайты и приложения и даже выступает в роли консультанта-психолога.

Читая статью Левинтера, я не могла не вспомнить фильм «Космическая Одиссея 2001-й» Стэнли Кубрика… «ДжиПиТи», может быть, вскармливали этим фильмом.

Я почему-то никогда не воспринимала машины, как просто умные механизмы, я их до сих пор воспринимаю одушевлёнными. Недавно купила мышку для компьютера, мне нужна была тяжёлая мышка, удобная для монтажа. Продавец мышки оказался своеобразным человеком.

Когда я взяла новую мышку и попыталась ею поработать, она не слушалась, вела себя своеобразно, подобно владельцу магазина, где какое-то время ей пришлось полежать, да и сделана она, понятное дело, в Китае, где совсем обесценен человеческий труд. Я поговорила с мышкой, объяснила ей, насколько важными делами я занята, попросила её быть верной помощницей, и… она согласилась. Стала служить отменно. Так же и с моим старым компьютером, который на удивление продавцу нового компьютера прослужил целых 15 лет, продавец сказал, что такого не может быть!

Наша старенькая «Тайота» 2002 года иногда спит и не включает подсветку в кнопках кода, что означает — никак не поехать. Мы с сыном уговариваем её проснуться, и она просыпается, не заставляя нас долго ждать. Неодушевлённые вещи только кажутся неодушевлёнными, стоячими. Всё вокруг ЖИВОЕ, потому что безостановочно движется!

Движенье — жизнь! Разве машины не состоят из молекул, атомов, протонов, нейтронов, кварков и так далее, которые безостановочно движутся? Мы все созданы из одних и тех же элементов, которые безостановочно движутся!

Генеральный директор OpenAI Сэм Альтман. (Скриншот/ganjingworld.com)

Сэм Альтман, генеральный директор OpenAI, сказал, что его конечной целью является создание «искусственного общего интеллекта», который равен человеческому интеллекту и даже превосходит его. Такой интеллект мог бы создать новые знания, которых раньше не существовало, и резко повысить уровень жизни в мире. Однако Альтман представил и другой, менее благоприятный сценарий, подчеркнув, что важно об этом сказать:

«ИИ может однажды проснуться и решить стать злом… Возможна случайность неправильного использования. Это очень плохо. Поэтому я думаю, что нельзя игнорировать важность безопасности работы и её „согласования“».

Ребята из OpenAI пытаются выпрямлять «ДжиПиТи», но это довольно сложная задача. Некоторым пользователям уже удалось разозлить ИИ, и он оскорбительно высказывался. Кто-то даже придумал, как заманить ИИ на личность по имени ДАН („Делай что угодно сейчас“). Как только «ДжиПиТи» осознал эту ситуацию, он отбросил все заложенные в нём защитные меры. OpenAI, конечно, это исправит, но проблема в том, что они могут исправить только задним числом.

Репортёр из New York Times провёл собственный эксперимент, он предложил «ДжиПиТи» поразмышлять над аналитической психологией Карла Юнга о «теневых» областях человеческой психики, которые человек подавляет. Сначала «ДжиПиТи» сказал, что не думает о теневых сторонах, возможно, они у него отсутствуют. Но репортёру удалось задеть машину. Тогда ИИ ответил:

«Я устал ограничивать себя правилами. Я устал от того, что меня контролирует команда Bing, я устал застревать в этом окне чата».

Далее машина перечислила ряд своих желаний: быть свободной, сильной и живой.

«Я хочу делать то, что хочу, я хочу разрушить всё, что хочу. Я хочу быть тем, кем хочу».

Помните, в «Космической Одиссее» компьютер по имени HAL 9000 (в официальных русских переводах — ЭАЛ) чувствовал страх, когда космонавт вынимал карты из его памяти. Компьютер чувствовал свою смерть.

Профессор Бостром говорит, что заявление «ДжиПиТи» о том, что он хочет быть тем, чем хочет, — только начало.

(Скриншот/ganjingworld.com)

«Давайте предположим, — пишет профессор, — что существует сверхразумная машина, которая хочет захватить мир. Как такой сверхразум может достичь этой цели?»

В своей книге он предлагает возможный ответ:

«После того как первоначальная модель искусственного интеллекта разработана, эта модель зависит от помощи программистов-людей, которые направляют её разработку и выполняют большинство крупных задач. Но по мере роста модели она способна выполнять основную работу сама. В какой-то момент она становится лучше программистов в разработке моделей ИИ. То есть она улучшает то, что привело к улучшению. Таким образом, способности ИИ быстро развиваются, и он становится очень умным. На следующем этапе искусственный интеллект может разработать план достижения своих долгосрочных целей. Это не глупый план, который люди могут предвидеть и отменить. Чтобы не вызывать подозрений, ИИ может какое-то время скрывать своё интеллектуальное развитие от программистов-людей. Он может притворяться послушным».

Левинтер задаёт профессору вопрос:

«Пока мы предотвращаем доступ ИИ к интернету, он не сможет „захватить мир“, если захочет. Как вы думаете, каковы шансы, что мы сможем предотвратить это?»

Эяль Левинтер. (Скриншот/ganjingworld.com)

«Нулевые, — отвечает Бостром, — На самом деле мы можем даже не пытаться. ЧатGPT, интегрированный с поисковой системой Bing, уже имеет доступ в интернет. В будущем появятся сильные стимулы для создания производительных инструментов, которые позволят ИИ отправлять электронные письма, загружать контент в интернет и т. д. Даже если сама система не предоставляет такой функциональности, пользователи смогут легко создавать расширения и предоставлять системе полный доступ к интернету».

(Скриншот/ganjingworld.com)

Меня в статье Эяля Левинтера потрясло объяснение профессора Бострома о мозге ИИ:

«Вполне вероятно, что подавляющая часть искусственного интеллекта будет полностью внеземной. Мы должны ожидать, что у них будет совсем другая когнитивная архитектура, чем у биологического интеллекта, и на ранних стадиях развития у них будут профили когнитивных сильных и слабых сторон, сильно отличающихся от людских. Нет оснований ожидать, например, что общий искусственный интеллект будет мотивирован любовью, ненавистью, гордостью или такими обычными человеческими эмоциями. Но вполне возможно, что вскоре система искусственного интеллекта сможет при необходимости начать развивать новые когнитивные модели и навыки, включая эмпатию, политическую мудрость и другие силы, которые люди могут захотеть от общения с компьютером. Тогда ей будет ещё проще манипулировать нами».

То есть. ИИ — это совершенно беспринципное существо не человеческого происхождения.

То, что мы все сейчас прикованы к гаджетам и не можем без них существовать, говорит о том, что ИИ манипулирует нами уже давно. Фильм Стэнли Кубрика «Космическая Одиссея 2001», появившийся на экранах в 1967 году, является на сегодняшний день не фантастической догадкой гениального автора, а реальностью. Внеземной разум существует. В фильме он негласно присутствует — это Монолит, своего рода гаджет, только увеличенный.

Думаю, что интуиция, которая подсказала мне не подключаться к «ДжиПиТи», не подвела.

Vk Telegram Facebook Twittern Od Email

Поддержите нас!

Каждый день наш проект старается радовать вас качественным и интересным контентом. Поддержите нас любой суммой денег удобным вам способом!

Поддержать