Другой курс ▾
Занятие 4. Риск, поставщики и реагирование на инциденты
Цель. Возглавить группу при оценке рисков ИИ на матрице три на три с мерами контроля, при постановке поставщику десяти письменных вопросов должной проверки и распознавании слабых ответов, а также при проведении короткой тренировки инцидента (вредный результат или утечка данных) с названным ответственным, хронологией и разбором без поиска виновных.
Работа с рисками кажется технической, но по сути это честный разговор. Что может пойти не так, насколько это вероятно на самом деле, насколько плохо это было бы для ребёнка и что мы с этим сделаем? Этот урок идёт дальше матрицы и десяти вопросов. Он показывает, как оценивать вероятность по свидетельствам, а не настроению, как выбирать меры контроля, которые действительно работают, как вести твёрдый, но справедливый разговор с поставщиком и что делать в первый час инцидента, когда спокойствие важнее скорости.
Ключевые идеи
Матрица рисков, которой могут пользоваться руководители
- Оценивайте каждый риск дважды: насколько вероятен (1 редко, 2 возможно, 3 вероятно) и насколько тяжёл (1 мелкий, исправим за день, 2 серьёзный, но обратимый, 3 тяжёлый или вредит ребёнку). Перемножьте: 1-2 низкий, 3-4 средний, 6-9 высокий.
- Одно исключение: тяжёлое влияние на ребёнка всегда высокий риск, даже если маловероятно. Не позволяйте приятной цифре скрыть вред ребёнку.
- Затем запишите меру контроля (кто что делает, чтобы снизить риск) и оцените заново. Матрица полезна, только если заканчивается действиями с ответственными. Держите список из десяти рисков, важных в эту четверть.
Десять вопросов поставщику
- Курс 14.6 учил взвешенной оценке предложений и условиям договора. Здесь акцент на доверии: кто эта компания, какие данные собирает, используются ли данные учеников для обучения её моделей, где хранятся данные и кто имеет к ним доступ, как долго и можно ли их удалить?
- Спросите также: для какого возраста он создан и какие детские настройки есть, хорошо ли работает на узбекском и русском на ваших образцах текстов, что будет с нашими данными, если мы уйдём, и как быстро вы сообщите нам об инциденте безопасности?
- Спрашивайте письменно и храните ответы. Расплывчатые слова вроде «мы серьёзно относимся к приватности» — не ответ. Отказ отвечать — тоже информация. Бесплатные предложения требуют больше вопросов, а не меньше: если сервис бесплатный, выясните, что он собирает.
Инциденты случатся: будьте готовы
- Два вероятных вида в школах: вредный результат (инструмент показывает ученику неуместное или опасно неверное содержание) и утечка данных (имена и телефоны учеников вставлены в инструмент или список отправлен не в ту группу).
- Шесть шагов: Остановить (прекратить использование в первый час) - Сообщить (названному ответственному и директору сразу) - Оценить (что, чьи, сколько, насколько вредно) - Уведомить (затронутые семьи и органы, если этого требуют правила; уточните правила в отделе образования) - Исправить - Извлечь уроки.
- Установите свои цели, например «ответственный уведомлён за час, семьи — в тот же день», и не ссылайтесь на юридические сроки, которых вы не проверили.
Тренируйтесь, записывайте и учитесь без поиска виновных
- План, который никто не отрабатывал, подводит в день события. Раз в год проводите 30-минутную настольную тренировку: прочитайте сценарий, спросите «кто что делает сейчас?» и засеките время ответов. Повесьте список контактов (ответственный, директор, заместитель, отдел) на одной странице на стену в канцелярии.
- Ведите журнал инцидентов: дата, что случилось, уровень инструмента, кого уведомили, что исправлено. Сохраняйте свидетельство (запись о том, что появилось), не копируя данные детей дальше.
- После каждого инцидента в течение двух недель проводите разбор без поиска виновных: что облегчило ошибку? Наказание учителя, который сообщил, заставит исчезнуть следующее сообщение. Обновите политику или обучение в том же месяце.
Как читать оценку три на три
Честные баллы и работающие меры
Баллы меняются вместе с настроением: после испуга всё «вероятно», после спокойной четверти ничего. Привяжите их к свидетельствам. Посмотрите журнал инцидентов, спросите учителей, что они уже видели, и посчитайте: сколько учителей хоть раз вставляли данные учеников в инструмент? Бумажного опроса десяти коллег без имён достаточно, чтобы перевести балл из догадки в факт. Оцените риск как есть сегодня, добавьте меру, затем оцените остаточный риск. Мера без ответственного и даты — пожелание.
Выбирайте меры от сильных к слабым: прекратить использование; перепроектировать так, чтобы риск исчез (имена не нужны, поэтому не вводятся); техническое ограничение вроде одобренного инструмента со школьной учётной записью; обучение и напоминания; проверка постфактум. Одно обучение — самая слабая мера, так как под давлением люди забывают. Там, где может пострадать ребёнок, применяйте хотя бы одну меру из первых трёх видов.
Вопросы поставщику и первый час
Встречайте поставщика с вопросами в письменном виде и датой ответа. Просите ответы в одном формате у каждого кандидата, чтобы сравнивать сравнимое. Спросите, что будет в последний день: как мы заберём материалы и увидим удаление наших данных? Проверяйте на выдуманных данных, никогда на реальных списках учеников. Если предложение бесплатное, спросите, чем зарабатывает компания. Если ответ непонятен, скажите об этом; хороший поставщик объясняет терпеливо, плохой торопит.
В первый час инцидента спокойствие важнее скорости. Нашедший прекращает использование и сообщает названному ответственному. Ответственный записывает время, что увидели и кто знает. Делайте заметку или снимок только того, что нужно, и храните в безопасном месте, не пересылая данные детей дальше. Директор решает, кто сообщает семьям, и использует короткое честное сообщение: что случилось, что сделано, когда следующие новости.
Примеры из класса
Догадка становится фактом
Ситуация. Завуч Жасур из-под Бухары оценивает риск того, что учителя вставляют имена учеников в чат-бот, как «маловероятный». Дильноза предлагает бумажный опрос двенадцати учителей без имён. Пятеро говорят, что делали это хотя бы раз, в основном для комментариев в отчётах. Балл меняется с 1 на 3, а тяжесть серьёзная, поэтому риск становится высоким. Меры: одобренный инструмент со школьной учётной записью и короткое обучение с примерами.
Вывод. Свидетельства, даже из небольшого бумажного опроса, переводят балл риска из догадки в факт.
Проверка на выдуманных данных
Ситуация. Малика в Самарканде оценивает инструмент для тестов в 5 классе. Поставщик предлагает демонстрацию с её реальным списком класса. Она отказывается и составляет список из десяти выдуманных учеников с выдуманными именами. После пробы она письменно спрашивает поставщика, как удаляются выдуманные данные. Ответ расплывчатый, и она спрашивает снова. Второй ответ обещает удаление через 30 дней. Она записывает это в реестр как условие.
Вывод. Выдуманные тестовые данные позволяют проверить инструмент, не подвергая детей риску.
Первый час
Ситуация. В Ташкенте в 9:10 семиклассник показывает Азизу неуместный ответ одобренного инструмента. Азиз прекращает использование на уроке, записывает время и в 9:20 звонит ответственному. Тот сообщает директору в 9:35, а контакт поставщика получает письменный отчёт в 10:00. Директор отправляет родителям короткую записку в 14:00. На разборе без вины команда добавляет настройку фильтра и форму сообщения в одну строку.
Вывод. Отработанная последовательность и спокойный тон делают первый час управляемым.
Типичные ошибки
- Оценивать риски настроением после испуга, а не по свидетельствам.
- Писать меры без ответственного, даты и способа увидеть, что они работают.
- Принимать рекламные фразы поставщика за ответы на конкретные вопросы.
- Проверять инструмент на реальных списках учеников или пересылать данные детей коллегам во время инцидента.
Оцениваем, спрашиваем, тренируемся
- Откройте сборник упражнений: восемь ОБРАЗЦОВ рисков, образцы ответов поставщика на восемь вопросов и два сценария инцидентов из школы «Зарафшан» (5 мин.).
- В парах (12 мин.): оцените восемь рисков (вероятность, тяжесть, произведение, исключение) и запишите по одной мере с ответственным для каждого высокого риска.
- В парах (10 мин.): прочитайте ответы поставщика. Отметьте каждый как ясный, расплывчатый или отсутствующий, обведите тревожные признаки и напишите три уточняющих вопроса.
- Часть Б, в четвёрках (20 мин.): отработайте сценарий 1 или 2. Заполните хронологию инцидента в сборнике, указав названного ответственного на каждом шаге и сообщение семьям в одну строку. Затем проведите трёхминутный разбор без поиска виновных.
- Вся группа (8 мин.): группы обмениваются хронологиями и называют один шаг, который не сработал бы в реальной школе (нет номера телефона, директора нет), и способ исправить.
- Офлайн-вариант: всё на бумаге, тренировка проводится устно по часам; никакие инструменты не открываются. Во время тренировки не вставляйте реальные списки учеников в устройства.
Фасилитатор проведёт вас через это задание на самом занятии.
Вопросы для обсуждения
- Какой риск снизился с высокого до среднего после меры и кто за неё отвечает?
- Какой ответ поставщика было бы проще всего принять, не заметив его пустоты?
- Что произошло в тренировке в первый час и кто в реальности сделал бы это?
Подумайте
- Какой инцидент с ИИ наиболее вероятен в вашей школе в этом году и кто узнает первым?
- Сообщил бы вам сегодня учитель, допустивший ошибку?
- Какое бесплатное предложение в вашей почте заслуживает десяти вопросов?
Попробуйте завтра
- Проведите бумажный опрос десяти коллег по одному риску и переоцените его по результатам.
- Задайте одному реальному поставщику свои десять вопросов письменно и назначьте дату ответа.
- Пройдите шесть шагов инцидента с двумя коллегами, засекая время каждого.
Дополнительные материалы и ссылки
Оценивайте риск дважды и привязывайте ответственного к каждой мере, задавайте каждому поставщику десять письменных вопросов и тренируйте шесть шагов реагирования, чтобы первый час прошёл спокойно.