Другой курс ▾
Занятие 1. Как работает генеративный ИИ
Цель. Простыми словами объяснить, как генеративный ИИ создаёт текст и почему один и тот же запрос даёт разные ответы.
Когда коллега говорит «мне сказал ИИ», полезно понимать, что на самом деле происходит внутри инструмента. Технические знания не нужны, достаточно ясной картины: инструмент продолжает текст наиболее вероятным образом, опираясь на закономерности из обучения. С такой картиной вы быстро решите, когда черновик безопасен, когда стоит переспросить, а когда лучше отложить инструмент. Это занятие даёт вам такую картину и показывает, как небольшие изменения в запросе меняют результат.
Ключевые идеи
Предсказание, а не понимание
- Текстовый ИИ обучается на огромном объёме текстов и усваивает, какие слова обычно следуют за какими.
- Когда вы пишете запрос, он предсказывает наиболее вероятный следующий фрагмент текста, затем следующий — шаг за шагом.
- Гладко не значит верно. Инструмент создан, чтобы звучать правдоподобно, а не проверять истину.
Токены и контекстное окно
- Инструмент читает текст небольшими кусочками — токенами: это части слов, а не целые предложения.
- Он «видит» лишь ограниченную часть вашего разговора. В длинном чате ранние детали могут потеряться.
- Всё, что вы вкладываете в запрос, определяет результат: чёткий контекст — лучший черновик.
Почему ответы различаются
- Инструмент не всегда выбирает самое вероятное слово: он выбирает из вероятных вариантов, поэтому каждый раз получается иначе.
- Вариативность полезна для идей и опасна для фактов: на один вопрос можно получить и верный, и неверный ответ.
- Относитесь к каждому результату как к одному из возможных черновиков, а не как к «единственному ответу».
Где ошибается: галлюцинации и предвзятость
- «Галлюцинация» — уверенное, но ложное утверждение: выдуманные факты, источники, цитаты или цифры.
- Инструмент отражает закономерности обучающих текстов, поэтому может повторять стереотипы и слабее работает с малыми языками и местным контекстом.
- Он ничего не знает о ваших учениках, программе или сегодняшних новостях, если вы сами об этом не скажете.
Как текстовый инструмент пишет
Обучение и настройка: откуда берётся уверенность
Текстовый ИИ обычно создают в два этапа. Сначала идёт обучение на огромном собрании текстов: модель усваивает закономерности языка и то, как обычно обсуждают темы. Затем наступает настройка: люди оценивают ответы, и модель подстраивают так, чтобы она отвечала полезно, вежливо и упорядоченно. Поэтому инструмент звучит спокойно и уверенно, даже когда ошибается: уверенный тон поощрялся, а проверить каждый факт никто не может.
Отсюда два практических вывода. Модель опирается на закономерности, усвоенные до определённой даты, поэтому свежих событий, новых правил или изменений в учебнике этого года в ней может не быть. И это не база данных: она не находит факт и не пересказывает его, а создаёт текст, похожий на то, как такие факты обычно записывают.
Запрос — это руль
Инструмент продолжает тот текст, который вы ему дали, поэтому чем больше полезного материала вы добавите, тем меньше ему придётся угадывать. Больше всего помогают четыре вещи: кто аудитория (6 класс, узбекское отделение), какова задача, какой нужен формат (пять вопросов, таблица) и какой источник использовать. Если вставить абзац из учебника и написать «используй только этот текст», инструмент будет работать по абзацу, а не по памяти, и проверять станет намного проще.
Можно также попросить показать шаги или сказать, в чём он не уверен. Это не делает инструмент правдивым, но даёт вам что проверять. Если первый ответ слабый, измените запрос и запустите снова.
Примеры из класса
Три ответа о фотосинтезе
Ситуация. Дилноза преподаёт в 5 классе в Самарканде. Она трижды просит ИИ объяснить фотосинтез в четырёх предложениях. Все три ответа читаются гладко. В двух сказано, что растения поглощают углекислый газ и выделяют кислород; в третьем — что растения «дышат кислородом, чтобы создавать питание». Третий звучит так же уверенно, как остальные. Прежде чем выбрать один для класса, Дилноза сверяет все три со страницей учебника.
Вывод. Каждый запуск — это одна выборка, а гладкая фраза всё равно может быть ложной. Там, где запуски расходятся, и нужно проверять.
Источник, которого нет
Ситуация. Азиз преподаёт историю в 9 классе в бухарской школе. Он просит инструмент привести цитату исторического деятеля с названием книги и номером страницы. Ответ приходит с автором, названием и страницей, всё аккуратно оформлено. Азиз ищет в каталоге школьной библиотеки и в интернете, но такой книги нет. Он решает использовать только цитаты, которые видел в настоящей книге, и объясняет ученикам причину.
Вывод. Галлюцинация часто выглядит как настоящая ссылка. Просите источники, чтобы открыть их, а не чтобы им верить.
Забытая инструкция
Ситуация. Малика преподаёт географию в 7 классе в русскоязычной школе в Нукусе. В начале длинного диалога она просила короткие предложения и простые слова для урока об Аральском море. После многих обменов ответы становятся длинными и полными сложных терминов. Она открывает новый диалог, вставляет абзац из учебника, повторяет просьбу одной строкой, и уровень снова подходящий.
Вывод. Инструмент видит лишь ограниченную часть разговора. Повторяйте важные инструкции и начинайте новый диалог для новой задачи.
Типичные ошибки
- Считать, что спокойный уверенный тон означает правильный ответ.
- Принимать один запуск за доказательство; если два ответа расходятся, нужно проверять, а не выбирать более красивый.
- Просить источники и верить им, не открыв их.
- Думать, что инструмент знает вашу программу, ваших учеников или недавние изменения.
Один запрос — три ответа
- Прочитайте запрос: «Объясните фотосинтез 5 классу в четырёх предложениях». Три разных ответа ИИ (A, B, C) — в сборнике упражнений.
- Самостоятельно (5 мин.): выпишите, что общего в трёх ответах и чем они различаются, — длина, тон, примеры, точность.
- В парах (10 мин.): найдите любое утверждение, которое вы не дали бы классу без проверки. Отметьте его.
- В группе (10 мин.): объясните своими словами, почему один запрос дал три ответа. Используйте слова «предсказывает» и «выбирает».
Фасилитатор проведёт вас через это задание на самом занятии.
Вопросы для обсуждения
- Какому из трёх ответов вы доверяете больше и что всё равно проверили бы перед использованием?
- Как вариативность меняет то, как нужно использовать эти инструменты для фактов и для идей?
- Как вы объяснили бы коллеге фразу «он предсказывает текст» одним предложением?
Подумайте
- Где вы уже встречали текст, написанный ИИ, не заметив этого?
- Что вы считали тем, что ИИ «знает», а теперь понимаете, что он лишь предсказывает?
- Какие ваши задачи требуют одного надёжного ответа, а каким полезно много вариантов?
Попробуйте завтра
- Перед уроком запустите один запрос дважды, подчеркните места, где ответы расходятся, и проверьте их в первую очередь.
- Вставьте абзац из учебника с фразой «используй только этот текст» и сравните результат с ответом на тот же вопрос без абзаца.
- Скажите ученикам одной фразой: «Инструмент предсказывает вероятные слова, а факты проверяю я» — и попросите каждого проверить одно утверждение.
Дополнительные материалы и ссылки
ИИ предсказывает вероятный текст. Он не знает, не проверяет и не понимает — проверка остаётся за вами.