Другой курс ▾
Занятие 3. Этические принципы и дилеммы
Цель. Провести с группой педагогов обсуждение школьной дилеммы с ИИ по протоколу из пяти шагов: изложить факты, назвать затронутых, назвать принципы в противоречии, взвесить не менее трёх вариантов и написать краткую запись решения с датой пересмотра.
Этика в школе — не лекция, а привычка спрашивать, кто может пострадать или остаться в стороне, прежде чем принято решение. Этот урок идёт дальше шести идей. Он показывает, как за час проверить инструмент на предвзятость на работах своих учеников, как вести обсуждение так, чтобы статус не решал исход, и как сохранить собственное суждение учителя, когда инструмент предлагает быстрые ответы. Это небольшие привычки, но именно они делают принципы из международных документов реальными.
Ключевые идеи
Шесть идей школьными словами
- Предвзятость: инструмент может работать лучше для одних учеников, чем для других, например хуже по-узбекски или со стереотипами о сёлах. Справедливость: ученики без устройства или тихого дома не остаются позади. Приватность: сведения о ребёнке используются только для ясной цели.
- Автономия: ученики и учителя сохраняют право думать и выбирать; инструмент не должен тихо решать за них. Ответственность: за каждое применение отвечает названный человек. Человеческий контроль: человек может увидеть, поставить под вопрос и отменить действия инструмента.
- Эти слова есть в крупных документах: Рекомендация ЮНЕСКО по этике ИИ называет такие принципы, как человеческий контроль и решение, справедливость и недискриминация, приватность и защита данных, ответственность и подотчётность. Принципы ОЭСР по ИИ называют пять. Читайте их как словарь, а не как список для копирования.
Дилемма — это правое против правого
- Этическая дилемма — не выбор между хорошим и плохим. Это две хорошие цели, которые нельзя выполнить полностью: безопасность и приватность, эффективность и справедливость, защита и автономия.
- Пример: инструмент, предупреждающий о ребёнке в беде, защищает его, но читает личные сообщения. Если назвать оба блага, спор не превратится в «вам всё равно» против «вы небрежны».
- Большинству школьных случаев с ИИ не нужна лекция по философии. Нужна спокойная последовательность вопросов, задаваемых каждый раз в одном порядке, чтобы решал не самый громкий голос.
Протокол из пяти шагов
- Шаг 1 Факты: что мы знаем, что лишь предполагаем, что надо выяснить? Шаг 2 Кого это затрагивает: учеников, родителей, учителей и тех, кого нет в комнате.
- Шаг 3 Принципы в противоречии: назовите два, по предложению на каждый. Шаг 4 Варианты: не менее трёх, всегда включая «не делать», «сделать в меньшем масштабе» и один неприятный вам.
- Шаг 5 Решить, записать, пересмотреть: выберите, скажите, чем жертвуете, проверьте обратимость («можем ли мы это отменить?») и назначьте дату нового взгляда. Если решение нельзя объяснить родителю в школьном коридоре, оно не готово.
Соразмерность и честные записи
- Соразмеряйте усилия со ставками. Инструменту, который набрасывает текст для чтения, хватит короткого разговора. Инструменту, сортирующему учеников, нужны комитет, свидетельства и голос учеников и родителей. Рекомендация ЮНЕСКО называет это соразмерностью и непричинением вреда.
- Запись решения состоит из семи коротких строк: дата, решение, причины, принцип, поставленный на первое место, чем пожертвовали, кто подписал, дата пересмотра. Она защищает руководителя не меньше, чем учеников, потому что позже не нужно гадать, что и почему решили.
- Остерегайтесь этики как украшения: плакат ценностей, не меняющий того, что делает школа, хуже молчания, так как учит сотрудников, что слова не всерьёз.
Протокол дилеммы из пяти шагов
Проверка на предвзятость на работах своих учеников
Международные документы предупреждают о предвзятости, но школа может проверить её недорого. Возьмите десять анонимных работ учеников, пишущих на узбекском, на русском и на втором языке, из городских и сельских классов, с удалёнными именами. Попросите инструмент дать отзыв или балл по каждой. Затем учитель читает десять результатов рядом. Одинаково ли подробны и ободряющи отзывы? Связан ли балл с содержанием или с гладкостью языка и длиной?
Запишите увиденное одной фразой, а не статистикой, потому что десять работ статистически ничего не доказывают; они показывают, есть ли повод для беспокойства. Если есть, привлеките второго учителя и проверьте ещё двадцать. Сообщите поставщику, что вы нашли. Никогда не вводите в инструмент для такой проверки имена учеников или опознаваемые работы; используйте копии без опознавательных деталей или перепечатанные работы.
Ведение обсуждения и человеческое суждение
Обсуждения дилемм легко выигрывает самый старший или самый громкий. Начните с двух минут молчаливого письма, чтобы у каждого мнение было на бумаге, прежде чем заговорит кто-либо. Дайте кому-то роль говорить за учеников, которых нет в комнате, а кому-то роль оппонента. Попросите самого молодого учителя говорить первым. Председатель подытоживает два принципа в противоречии до того, как какой-либо вариант ставится на голосование.
Вторая тема — собственное суждение учителя. Когда инструмент за секунды предлагает оценку или отзыв, их хочется принять. Автономия и ответственность означают, что учитель читает, может не согласиться и подписывает. Хорошее школьное правило гласит, что учитель никогда не передаёт отзыв ИИ, которого не сказал бы сам, и что результат ИИ никогда не называется причиной решения о ребёнке.
Примеры из класса
Десять работ
Ситуация. В школе недалеко от Самарканда методист Дильноза проверяет инструмент отзывов на сочинения на десяти анонимных сочинениях: четыре от учеников узбекских классов, три от учеников русских классов и три от пишущих на втором языке. Она обнаруживает, что отзывы на три сочинения на втором языке короче и менее ободряющи, даже при хороших идеях. Она докладывает комитету, тот ограничивает инструмент подсказками структуры, которые учитель переписывает, и пишет поставщику.
Вывод. Небольшая честная проверка на реальных работах может показать повод для беспокойства и изменить решение.
Сначала молчаливое письмо
Ситуация. Педагоги ташкентской школы обсуждают чат-бот для учеников 8 класса. Обычно первым говорит директор, и остальные соглашаются. Новая председатель Малика просит каждого написать на карточке одно предложение и зачитать их в случайном порядке. Трое учителей высказывают опасения, что личные вопросы учеников будут храниться, о чём директор не подумал. Комитет добавляет условие о сроке хранения данных перед утверждением.
Вывод. Молчаливое письмо до выступлений не даёт статусу решать исход.
Отзыв, которого она не сказала бы
Ситуация. Азиз преподаёт в 6 классе в Фергане и использует инструмент для черновиков отзывов за четверть. В одном черновике сказано, что ученику «не хватает мотивации». Азиз знает, что мальчик ухаживает за больным дедушкой. Он переписывает отзыв и позже предлагает комитету правило: ни один отзыв ИИ не передаётся, если учитель не сказал бы это ученику в лицо. Правило принято и вошло в политику допустимого использования.
Вывод. Человеческий контроль означает, что учитель отвечает за каждое предложение, доходящее до ребёнка.
Типичные ошибки
- Считать обсуждение выигранным, потому что убеждён старший.
- Читать международные принципы как список, доказывающий этичность инструмента.
- Проверять инструмент на предвзятость на реальных опознаваемых работах учеников.
- Передавать отзыв ИИ о ребёнке, не прочитав его внимательно.
Проводим протокол дилеммы
- Откройте сборник упражнений: четыре ОБРАЗЦА карточек дилемм из школы «Зарафшан», таблицу шести принципов и лист протокола (5 мин.).
- В тройках (20 мин.): возьмите карточку дилеммы 1. Идите по протоколу по порядку, заполняя лист. Один следит за временем, один говорит от лица учеников, которых нет в комнате, один пишет.
- В тройках (10 мин.): быстро повторите с карточкой 3 или 4, но теперь поменяйтесь ролями. Сравните: столкнулись ли те же два принципа?
- Вся группа (5 мин.): каждая тройка сообщает только шаг 3 (два принципа) и выбранный вариант с причиной в одно предложение.
- Часть Б, в тройках (15 мин.): напишите запись решения из семи строк для карточки 1, включая то, чем жертвует школа, дату пересмотра и фразу, которую вы сказали бы родителю в коридоре.
- Офлайн-вариант: карточки, таблица и лист печатные, протоколу нужна только бумага. Нет принтера — напишите названия пяти шагов на доске и перепишите карточки от руки.
Фасилитатор проведёт вас через это задание на самом занятии.
Вопросы для обсуждения
- Какие два принципа сталкивались чаще всего и отказывался ли кто-нибудь уступить один из них?
- Кто говорил от лица учеников, которых не было в комнате, и что это добавило?
- Что вариант «в меньшем масштабе» изменил в итоговом решении?
Подумайте
- Какой этический конфликт о технологиях ваш педагогический коллектив уже обсуждал?
- Чьего голоса обычно не хватает, когда принимаются такие решения?
- Для какого прошлого решения вы теперь написали бы запись?
Попробуйте завтра
- Соберите десять анонимных работ учеников и сравните ответы инструмента рядом с коллегой.
- На следующем обсуждении начните с двух минут молчаливого письма и дайте кому-то роль говорить за отсутствующих учеников.
- Добавьте строку в правило допустимого использования: отзыв ИИ о ребёнке не используется, если учитель не сказал бы его вслух.
Дополнительные материалы и ссылки
Дилемма — правое против правого; одни и те же пять шагов в одном порядке, запись решения и дата пересмотра превращают горячие мнения в решение, которое могут проследить другие.