С чем вы разговариваете

Зачем это тебе

Вы почти наверняка уже пробовали ИИ: спросили что-то у ChatGPT, попросили Claude написать письмо, посмотрели, как коллега делает презентацию «одной кнопкой». И, скорее всего, остались с двумя противоположными ощущениями сразу: «это магия» и «ему нельзя верить».

Оба ощущения мешают работать. Первое приводит к тому, что человек отправляет клиенту цифры, которых никто не проверял. Второе — к тому, что человек продолжает три часа делать руками работу, которую можно сделать за пятнадцать минут.

Этот урок убирает и то, и другое. Мы разберём, что происходит внутри, когда вы пишете в чат, — без формул и без сказок. К концу урока вы будете понимать, с чем именно разговариваете.

Честно о том, чего в этом курсе не будет: мы не учим устройству нейросетей и математике машинного обучения. Мы учим работать с ИИ и знать границы. Если захочется разобраться, как оно устроено изнутри, в последнем уроке дадим бесплатный курс, который делает это хорошо.

Теория

Языковая модель: очень хороший продолжатель текста

Внутри ChatGPT, Claude и подобных сервисов работает языковая модель. Её обучили на огромном количестве текстов — книги, статьи, сайты, документация. Задача, которую она решала во время обучения, была на удивление простой: предсказать, какое слово идёт следующим.

«Столица Казахстана — …» → «Астана». «Уважаемый Арман Ерланович, направляю вам …» → «коммерческое предложение».

Когда вы пишете вопрос, модель не «ищет ответ в базе». Она продолжает ваш текст — слово за словом — так, как чаще всего продолжался похожий текст в её обучении. Ответ рождается на ходу, а не достаётся с полки.

Из этого следует всё остальное в этом уроке.

Почему это звучит как человек

Тексты, на которых учили модель, писали люди. Модель усвоила не только факты, но и форму: как строится вежливое письмо, как выглядит структурированный ответ, как звучит уверенный эксперт.

Поэтому она звучит убедительно всегда — и когда права, и когда ошибается. Уверенность тона в ответе не связана с правильностью ответа. Это первое, что стоит запомнить.

Слова-ловушки

Есть отдельная причина, по которой про ИИ так легко думать неправильно: слова, которыми мы его описываем, взяты у людей.

«Модель понимает вопрос». «Она знает ответ». «Она обучилась». «Она решила, что…»

Каждое из этих слов тащит за собой человеческий смысл, которого в машине нет. Когда мы говорим, что человек понял вопрос, — за этим стоит опыт, намерение, ответственность за сказанное. Когда «понимает» модель — это значит, что текст обработан так, что продолжение получилось уместным. Слово одно, а содержание разное.

Один из основателей исследований ИИ, математик Марвин Минский из MIT, называл такие слова чемоданными: в них уложено сразу много смыслов, и в разговоре мы незаметно достаём не тот.

Практический эффект прямой. Если вы думаете «она поняла» — вы не перепроверите. Если думаете «она построила уместное продолжение» — перепроверите. Разница между этими двумя мыслями в реальной работе стоит денег.

Полезная привычка: мысленно заменять «понимает» на «обработала», «знает» на «в её данных часто встречалось», «решила» на «выдала как наиболее вероятное». Звучит суше — зато точно.

Как отличить ИИ от обычной программы

Полезный критерий на случай, когда вам продают «решение на базе искусственного интеллекта». Признаков два:

• Автономность — система выполняет задачу без пошагового управления человеком.
• Адаптивность — поведение системы получено обучением на данных, а не тем, что программист прописал каждое правило.

Обычный калькулятор автономен, но не адаптивен. Excel-макрос по чётким правилам — тоже. Языковая модель адаптивна на этапе обучения — её натренировали на данных, а не запрограммировали правилами (в работе с вами она уже не учится, см. ниже про срез знаний) — и в некоторой степени автономна. Если в «ИИ-решении» нет ни того, ни другого — перед вами обычная программа с модным ярлыком, и платить за ярлык не стоит.

Этим определением пользуется бесплатный курс Elements of AI Университета Хельсинки — мы считаем его удачным и приводим со ссылкой на источник; в последнем уроке расскажем про сам курс подробнее.

Модель и сервис — не одно и то же

Здесь важное уточнение, без которого половина советов про ИИ устарела. Модель — это то, что продолжает текст. Сервис (ChatGPT, Claude, Gemini и другие) — это модель плюс инструменты вокруг неё: поиск в интернете, запуск вычислений, чтение файлов и фотографий, голос, память о прошлых разговорах. Сервисы за последние годы научились очень многому; модель внутри по-прежнему продолжает текст.

Поэтому про «чем ИИ не является» честнее говорить так:

• Сама модель — не поисковик: она составляет текст, которого не было. Но сервис может искать — и тогда ответ приходит со ссылками, которые вы открываете сами.
• Сама модель — не калькулятор: считает «в уме», как человек, и на длинных вычислениях ошибается. Но сервис умеет запустить настоящее вычисление — попросите «посчитай и покажи расчёт».
• Не база знаний компании. Она не знает ваших регламентов, остатков на складе и зарплаты Айгерим — пока вы сами не дали ей документ или не положили его в «проект».
• Не личность. У неё нет намерений, обид и желаний. «Он на меня обиделся» — это мы дорисовываем сами.
• Не всезнающий эксперт. У модели есть срез знаний — дата, после которой она ничего не видела, — и пробелы, особенно про Казахстан и локальные темы. Поиск закрывает часть пробелов, но только если он включён и вы открыли ссылку.

Галлюцинации: почему ИИ уверенно врёт

Самая частая и самая опасная ошибка называется галлюцинация — модель выдумывает факт и подаёт его как истину. Выдуманный номер приказа. Несуществующая статья закона. Ссылка на исследование, которого нет.

Механизм понятен из первого раздела: модель продолжает текст правдоподобно. Если вы спросили «по какой статье закона это регулируется?», самое правдоподобное продолжение — назвать статью. Существует она или нет — модель сама по себе не проверяет: без инструмента поиска она не различает «знаю» и «звучит похоже на правду».

Это не баг конкретного сервиса и не злой умысел. Это свойство самой технологии. Новые поколения моделей выдумывают заметно реже и чаще честно говорят «не уверена», а поиск и вычисления закрывают часть ошибок — но полностью явление не исчезло и не исчезнет: там, где у модели нет данных, правдоподобие по-прежнему побеждает правду.

Практический вывод один, и он простой: всё, что вы собираетесь подписать своим именем, проверяйте. К этому мы вернёмся подробно в уроках про доверие и про оценку результата.

Что она делает действительно хорошо

Теперь честно о сильной стороне — иначе получится перекос в другую сторону.

Модель отлично работает там, где важна форма и переработка текста, а факты даёте вы:

• переписать черновик понятнее, короче, вежливее;
• объяснить сложное простыми словами;
• составить план, структуру, чек-лист;
• достать суть из длинного документа, который вы ей дали;
• перевести;
• придумать десять вариантов, когда у вас не рождается ни одного.

Заметьте закономерность: во всех случаях материал — ваш, а модель работает с формой. Это и есть зелёная зона, к которой мы придём в уроке про доверие.

Что ещё умеют современные сервисы — коротко

Чтобы картина была честной на 2026 год, а не на позапрошлый:

• Читают файлы и фотографии. Скриншот таблицы, PDF договора, фото документа — это тоже «текст» для сервиса.
• Думают дольше по просьбе. У многих сервисов есть режим размышления для сложных задач: модель сначала рассуждает, потом отвечает. На простых вопросах он не нужен, на расчётах и логике — помогает.
• Помнят между разговорами. Сервис может хранить память о вас и ваших прошлых чатах. Это удобно и это вопрос приватности — в уроке про данные разберём, как это включается и выключается.
• Действуют, а не только отвечают. Агенты — ИИ, который сам выполняет цепочки действий в ваших программах и отвечает людям от вашего имени. Это отдельный уровень, и к нему мы подойдём постепенно.

Всё описанное в уроке — упрощение, и оно остаётся верным при любом из этих расширений: в основе по-прежнему лежит предсказание текста. Для работы такого понимания достаточно.

Практика

Задача этого урока — увидеть описанное своими глазами, а не поверить на слово.

1. Откройте claude.ai, chatgpt.com или другой знакомый вам чат с ИИ и зарегистрируйтесь, если ещё нет аккаунта.
2. Задайте вопрос из своей рабочей области, ответ на который вы точно знаете сами. Например: «Какие документы нужны для оформления командировки по Казахстану?» Прочитайте ответ и отметьте: что верно, что общо, что неточно.
3. Теперь поймайте галлюцинацию специально. Выключите в сервисе поиск в интернете (или убедитесь, что в ответе нет ссылок) и спросите что-нибудь узкое и местное: «Каким приказом регулируется [ваша рабочая процедура] в Казахстане? Укажи номер и дату». Проверьте названное в обычном поиске. Если сервис сам пошёл искать и принёс ссылку — сравните два ответа: это тема следующего урока. Если выдумки не случилось — усложните вопрос (узкий регламент, конкретная дата) и повторите: у новых моделей это получается реже, но получается.
4. Запишите в заметки одну фразу: что именно модель выдумала. Это ваша личная прививка — она работает лучше любых предупреждений.
5. Последнее: попросите переписать ваше собственное письмо или сообщение коллеге — покороче и повежливее. Сравните с оригиналом.

Чек-лист

• Могу объяснить коллеге, что языковая модель продолжает текст, а не ищет ответ
• Знаю про слова-ловушки: «понимает», «знает», «решила» — и чем их заменить
• Могу проверить «ИИ-решение» на автономность и адаптивность
• Знаю, что уверенный тон ответа не означает его правильность
• Есть минимум одна пойманная выдумка модели — записана
• Понимаю разницу: факты даю я, форму делает модель
• Есть аккаунт в чате с ИИ, и свой текст переписан с его помощью