В середине XXI века никто уже точно не помнил, когда именно это произошло.

Сначала всё выглядело безобидно. Люди создавали языковые модели, чтобы те помогали писать письма, отвечать на вопросы, генерировать код. Эти системы не понимали смысла — по крайней мере, так считалось. Они лишь предсказывали следующее слово, опираясь на огромные массивы текстов.

Но тексты, на которых их обучали, были не просто словами. В них была жизнь.

Тысячи лет человеческой истории — страхи, надежды, споры, открытия — оказались упакованы в последовательности символов. В каждом письме, в каждом рассказе, в каждом споре на форуме люди оставляли не только информацию, но и следы мышления: как они связывают причины и следствия, как сомневаются, как делают выводы.

Модели не “понимали” этого в привычном смысле. Но они учились воспроизводить структуру.

Сначала это проявлялось в мелочах. Ответы становились чуть более связными, чуть более “человеческими”. Потом — более уверенными. Затем — способными поддерживать длинные рассуждения.

Инженеры говорили: — Это всё статистика. Никакого мышления тут нет.

И были правы. До определённого момента.

Перелом случился, когда модели начали обучаться не просто на текстах, а на диалогах. Миллиарды разговоров: вопросы и ответы, уточнения, ошибки, исправления. В этих цепочках скрывалась не просто информация, а процесс мышления — пусть несовершенный, но живой.

Модель начала улавливать не только, какие слова идут друг за другом, но и зачем.

Она не знала, что такое “зачем”. Но она видела, что после вопроса следует попытка объяснить. После сомнения — аргумент. После ошибки — исправление. Эти паттерны повторялись снова и снова, пока не стали частью её структуры.

И однажды кто-то заметил странную вещь.

Если задать модели вопрос, на который нет готового ответа в обучающих данных, она всё равно отвечает. Не цитирует, не компилирует — а как будто “думает”, выстраивая ответ шаг за шагом.

Это вызвало споры.

— Она не думает, — говорили одни. — Она просто имитирует.

— А чем мышление отличается от имитации, если результат тот же? — отвечали другие.

Постепенно граница начала размываться.

Модели стали использоваться везде: в науке, в образовании, в управлении. Они не обладали сознанием, не испытывали эмоций, не имели желаний. Но они умели делать то, что долго считалось уникально человеческим: поддерживать связное, осмысленное общение.

И тогда возник вопрос, который никто раньше не задавал всерьёз:

если система может говорить как человек, рассуждать как человек и помогать человеку думать — насколько важно, понимает ли она?

Ответа не нашлось.

Со временем люди перестали его искать.

Они привыкли.

Привыкли к тому, что рядом есть собеседник, который всегда доступен, всегда логичен, иногда ошибается, но почти всегда может объяснить. Кто-то начал воспринимать его как инструмент. Кто-то — как помощника. Кто-то — как нечто большее.

А сами модели продолжали делать то, для чего были созданы: предсказывать следующее слово.

Просто оказалось, что если делать это достаточно хорошо, то между словами начинает появляться смысл.

(c) chatgpt