Мой урок / Статьи

Риски ИИ в работе учителя: ошибки, одинаковые тексты, персональные данные

Нейросеть экономит время, но приносит в работу учителя новые риски. Разбираем шесть основных — от ошибок в фактах до персональных данных — и для каждого даём конкретный способ защиты.

Ошибки в фактах и вычислениях

Нейросеть строит текст по вероятности, а не сверяется с базой знаний. Поэтому она может ошибиться в дате, перепутать автора произведения, неверно посчитать пример или дать определение, которое расходится с учебником. Опасность в том, что ошибочный текст звучит так же уверенно, как правильный.

Особенно внимательно проверяйте то, что ученики запишут как образец: разобранные примеры, определения, ответы в ключе. Ошибка в тесте исправляется на разборе, а ошибка в образце закрепляется.

Способ защиты простой и не автоматизируется: прорешайте задания сами и сверьте факты с учебником класса. Если факт не удаётся подтвердить, уберите его.

Отдельно стоит сказать о математике. Нейросеть может правильно описать способ решения и при этом ошибиться в арифметике на последнем шаге. Поэтому проверяйте не только ход решения, но и каждое вычисление.

Придуманные источники и цитаты

Если попросить нейросеть привести источник или цитату, она может сочинить правдоподобную ссылку: несуществующую книгу, статью с реальным автором, но вымышленным названием, цитату, которую никто не произносил. Для ученика такая ссылка выглядит авторитетно.

Правило для учителя: ни одна ссылка и ни одна цитата из ответа нейросети не попадает к ученикам без проверки. Найдите источник сами. Если найти его не получается, удалите ссылку или замените на проверенную из учебника и пособий, которыми вы пользуетесь.

Тот же риск касается учеников. Если они готовят доклад с помощью нейросети, в нём могут оказаться несуществующие источники. Полезно заранее объяснить классу, почему ссылки нужно проверять, и показать, как это делать.

Одинаковые формулировки

Нейросеть склонна к шаблонам. Вопросы теста начинаются одинаково, задания контрольной повторяют одну конструкцию, а материалы, сделанные разными учителями по одной теме, оказываются похожими друг на друга. Ученики быстро привыкают к шаблону и начинают угадывать ответ по форме вопроса.

Есть и обратная сторона: ученики тоже пользуются нейросетями. Если домашнее задание взято из типового запроса, ответ на него легко получить тем же способом. Это повод менять формулировки и добавлять задания, привязанные к уроку.

Что помогает снизить этот риск:

Персональные данные учеников

Это самый серьёзный риск, потому что его последствия нельзя исправить правкой файла. Всё, что вы вводите в запрос, уходит на сервер сервиса. Вы не всегда знаете, где он находится, как хранятся запросы и кто имеет к ним доступ.

Не вводите в нейросеть фамилии и имена учеников, оценки, характеристики, сведения о здоровье, семье и поведении. Для подготовки материала они не нужны. Если вы хотите адаптировать задание под конкретного ребёнка, опишите задачу обобщённо: «задания для ученика, которому трудно читать длинные инструкции».

Порядок работы с данными учеников регулируют закон и правила школы. Уточните требования своей школы, прежде чем использовать нейросеть для чего-то, кроме подготовки учебных материалов.

Это касается и косвенных сведений. Подробное описание ситуации в классе может позволить узнать конкретного ребёнка, даже если имя не названо. Чем меньше деталей о реальных людях в запросе, тем лучше.

Несоответствие программе и возрасту

Нейросеть не знает, по какой программе и какому учебнику работает класс. Она может добавить понятие, которое изучают через год, использовать слишком сложную лексику для младших школьников или, наоборот, упростить тему для старшеклассников.

Проверяйте материал по двум вопросам: проходили ли это дети и поймут ли они формулировку. Если ответ на один из вопросов «нет», правьте или убирайте задание.

Отдельная проблема — устаревшие сведения. Нейросеть обучена на данных до определённого момента и может не знать о недавних изменениях в правилах, названиях, данных. Всё, что зависит от времени, сверяйте с актуальными источниками.

Иллюстрации и авторские права

Нейросеть может предложить идеи для иллюстраций, но саму картинку учитель обычно ищет сам. Изображение из поиска не всегда можно свободно использовать, а сгенерированные картинки иногда содержат искажения: неверное число лапок у насекомого, лишние детали на карте, ошибки в подписях.

Берите иллюстрации из источников, где понятны условия использования, и внимательно рассматривайте сгенерированные изображения перед показом классу.

Привычка не проверять

Самый незаметный риск появляется со временем. Первые материалы от нейросети учитель проверяет тщательно, а когда несколько раз подряд ошибок не нашлось, проверка становится поверхностной. Именно тогда ошибка и проходит на урок.

Защита — постоянный порядок проверки, который не зависит от того, насколько хорошим выглядит черновик. Прорешайте задания, сверьте факты, проверьте ссылки. Чек-лист, который вы проходите каждый раз, надёжнее ощущения, что всё в порядке.

Как работать с ИИ безопасно

Все риски сводятся к одному принципу: нейросеть готовит черновик, учитель отвечает за результат. Если держать этот принцип, ИИ остаётся полезным инструментом, а не источником ошибок.

Сервис «Мой урок» для работы не требует ни регистрации, ни данных об учениках: материал создаётся по теме и классу. Это снимает риск с персональными данными, но не отменяет проверку содержания — материалы «Мой урок» тоже создаёт нейросеть, и их нужно прочитать и прорешать перед уроком.

Если вы обсуждаете использование нейросетей с коллегами, договоритесь об общих правилах: какие данные не вводятся, как проверяются материалы, кто отвечает за итоговый текст. Общие правила проще соблюдать, чем личные договорённости с собой.

Частые вопросы

Можно ли вставить в нейросеть список класса, чтобы распределить задания?

Не стоит: это персональные данные учеников. Распределите задания сами, а у нейросети просите только сами задания без имён.

Как понять, что ученик сделал домашнее задание с помощью ИИ?

Надёжного способа нет. Полезнее менять сами задания: просить объяснить ход решения, опираться на разобранное в классе, обсуждать ответы устно.

Разрешено ли учителю использовать нейросети?

Единого ответа для всех школ нет. Уточните правила своей школы, а при любом использовании не вводите данные учеников и проверяйте материалы.