Предварительно обученный ИИ сам не учится, его всегда надо проверять

Что, если мы скажем вам, что системы искусственного интеллекта (ИИ), такие как ChatGPT, на самом деле не учатся? Многие люди искренне удивляются, услышав это.

Даже сами системы искусственного интеллекта часто уверенно говорят вам, что они обучаемы. Многие отчёты и даже научные работы утверждают то же самое. Но это связано с ошибочным представлением, точнее, с нечётким пониманием того, что мы подразумеваем под «обучением» ИИ.

ИИ не учится, по крайней мере, так, как люди

Многие ошибочные представления об ИИ связаны с использованием слов, которые имеют определённое значение, когда применяются к человеку, например, «обучение». Мы знаем, как люди учатся, потому что мы делаем это постоянно. У нас есть опыт; мы делаем что-то, что не получается; мы сталкиваемся с чем-то новым; мы читаем что-то удивительное, таким образом, мы запоминаем, обновляем или меняем то, как мы делаем.

Системы искусственного интеллекта учатся не так. Есть два основных отличия.

Во-первых, системы ИИ не учатся на основе какого-либо конкретного опыта, который позволил бы им понимать вещи так, как это делаем мы, люди. Скорее, они «учатся» путём кодирования закономерностей из огромного количества данных — с помощью одной лишь математики. Это происходит в процессе обучения, когда они создаются.

Возьмите большие языковые модели, такие как GPT-4, технологию, которая поддерживает ChatGPT. Он обучается, кодируя математические отношения между словами (на самом деле, шаблоны), с целью делать варианты сочетания одного текста с другим текстом. Эти отношения извлекаются из огромных объёмов данных и кодируются во время фазы интенсивного обучения с вычислительными затратами.

Эта форма «обучения», очевидно, сильно отличается от того, как учатся люди.

Системы ИИ не учатся на конкретном опыте, который позволил бы им понимать вещи так, как это делаем мы, люди.

Системы искусственного интеллекта не учатся на каком-либо конкретном опыте, который позволил бы им понимать вещи так, как это делаем мы, люди. (Rido via Shutterstock)

Это имеет определенные недостатки, поскольку ИИ часто испытывает трудности с простыми, элементарными знаниями о мире, которые люди получают, просто живя в этом мире.

Однако обучение ИИ также невероятно мощное, потому что большие языковые модели «видят» текст в масштабах, намного превышающих возможности человека. Именно поэтому такие системы так полезны при решении языковых задач, таких как написание текстов, составление резюме, кодирование или ведение беседы. То, что эти системы учатся не как мы, а в огромных масштабах, делает их универсальными в тех областях, в которых они используются.

Эксклюзив

Насильственное извлечение органов в промышленных масштабах — плод коммунизма

После обучения обучение прекращается

Большинство систем ИИ, которые используются людьми, например, ChatGPT, также не обучаются после создания. Можно сказать, что системы искусственного интеллекта вообще не обучаются — обучение является лишь способом их создания, но не способом их работы. Буквы P и T в слове GPT означают «предварительно обученный трансформер» (pre-trained transformer).

С технической точки зрения, системы ИИ, такие как ChatGPT, участвуют в «обучении во время тренировки», являющейся частью их разработки, а не в «обучении во время выполнения». Системы, которые обучаются в процессе работы, действительно существуют. Однако они обычно ограничены одной задачей, например, алгоритм Netflix рекомендует, что посмотреть. Как говорится, что сделано, то сделано.

Предварительное обучение означает, что большие языковые модели навсегда застряли во времени. Любые изменения в обучающих данных требуют очень дорогостоящего переобучения или, по крайней мере, так называемой тонкой настройки для внесения небольших изменений.

Это означает, что ChatGPT не учится на ваших подсказках на постоянной основе. Он хранит в своей памяти только то, что происходит в течение одной сессии чата. Закройте окно или начните новую сессию, и каждый раз это будет чистый лист.

Есть способы обойти это, например, хранить информацию о пользователе, но они достигаются на уровне приложения; сама модель ИИ не обучается и остаётся неизменной до тех пор, пока её не переобучат (подробнее об этом чуть позже).

Большинство систем ИИ, которые используются людьми, например, ChatGPT, также не обучаются после создания. (Ascannio via Shutterstock)

Что это значит для пользователей?

Прежде всего, нужно понимать, что вы получаете от своего ИИ-помощника.

Обучение на основе текстовых данных означает, что такие системы, как ChatGPT, являются языковыми моделями, а не моделями знаний. Хотя это действительно удивительно, как много знаний кодируется в процессе математического обучения, эти модели не всегда надёжны, когда им задают вопросы о знаниях.

Их настоящая сила — в работе с языком. И не удивляйтесь, если ответы будут содержать устаревшую информацию, учитывая, что они застыли во времени, или что ChatGPT не запоминает факты, которые вы ему сообщаете.

Хорошая новость заключается в том, что разработчики ИИ придумали несколько умных обходных путей. Например, некоторые версии ChatGPT теперь подключены к интернету. Чтобы предоставить вам более оперативную информацию, они могут выполнить поиск в интернете и вставить результат в ваш запрос перед тем, как сгенерировать ответ.

Другим обходным путём является то, что системы ИИ теперь могут запоминать информацию о вас, чтобы персонализировать свои ответы. Однако это делается с помощью хитрости. Дело не в том, что большая языковая модель сама учится или обновляется в режиме реального времени. Информация о вас хранится в отдельной базе данных и каждый раз подставляется в запрос незаметными способами.

Но это всё равно означает, что вы не можете поправить модель, когда она ошибается (или научить её чему-то), который она могла бы запомнить, чтобы исправлять свои ответы для других пользователей. Модель можно в определенной степени персонализировать, но она всё равно не учится на лету.

Пользователи, которые понимают, как именно ИИ учится — или не учится, будут вкладывать больше в разработку эффективных стратегий запросов, и относиться к ИИ как к помощнику, которого всегда нужно проверять.

Позвольте ИИ помогать вам, но убедитесь, что вы сами учитесь от запроса к запросу.

Кай Ример, профессор информационных технологий, Сиднейский университет, и Сандра Питер, директор Sydney Executive Plus, Сиднейский университет.

__________

Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram

Vk Telegram Facebook Twittern Od Email