Риски ИИ в работе учителя: ошибки, одинаковые тексты, персональные данные
Нейросеть экономит время, но приносит в работу учителя новые риски. Разбираем шесть основных — от ошибок в фактах до персональных данных — и для каждого даём конкретный способ защиты.
Ошибки в фактах и вычислениях
Нейросеть строит текст по вероятности, а не сверяется с базой знаний. Поэтому она может ошибиться в дате, перепутать автора произведения, неверно посчитать пример или дать определение, которое расходится с учебником. Опасность в том, что ошибочный текст звучит так же уверенно, как правильный.
Особенно внимательно проверяйте то, что ученики запишут как образец: разобранные примеры, определения, ответы в ключе. Ошибка в тесте исправляется на разборе, а ошибка в образце закрепляется.
Способ защиты простой и не автоматизируется: прорешайте задания сами и сверьте факты с учебником класса. Если факт не удаётся подтвердить, уберите его.
Отдельно стоит сказать о математике. Нейросеть может правильно описать способ решения и при этом ошибиться в арифметике на последнем шаге. Поэтому проверяйте не только ход решения, но и каждое вычисление.
Придуманные источники и цитаты
Если попросить нейросеть привести источник или цитату, она может сочинить правдоподобную ссылку: несуществующую книгу, статью с реальным автором, но вымышленным названием, цитату, которую никто не произносил. Для ученика такая ссылка выглядит авторитетно.
Правило для учителя: ни одна ссылка и ни одна цитата из ответа нейросети не попадает к ученикам без проверки. Найдите источник сами. Если найти его не получается, удалите ссылку или замените на проверенную из учебника и пособий, которыми вы пользуетесь.
Тот же риск касается учеников. Если они готовят доклад с помощью нейросети, в нём могут оказаться несуществующие источники. Полезно заранее объяснить классу, почему ссылки нужно проверять, и показать, как это делать.
Одинаковые формулировки
Нейросеть склонна к шаблонам. Вопросы теста начинаются одинаково, задания контрольной повторяют одну конструкцию, а материалы, сделанные разными учителями по одной теме, оказываются похожими друг на друга. Ученики быстро привыкают к шаблону и начинают угадывать ответ по форме вопроса.
Есть и обратная сторона: ученики тоже пользуются нейросетями. Если домашнее задание взято из типового запроса, ответ на него легко получить тем же способом. Это повод менять формулировки и добавлять задания, привязанные к уроку.
Что помогает снизить этот риск:
- Перефразируйте часть вопросов вручную, меняйте порядок вариантов ответа.
- Добавляйте задания на материал конкретного урока: пример, разобранный в классе, опыт, обсуждение.
- Для домашней работы выбирайте задания, где нужно объяснить ход рассуждения, а не только дать ответ.
- Делайте несколько вариантов контрольной и проверяйте каждый отдельно.
Персональные данные учеников
Это самый серьёзный риск, потому что его последствия нельзя исправить правкой файла. Всё, что вы вводите в запрос, уходит на сервер сервиса. Вы не всегда знаете, где он находится, как хранятся запросы и кто имеет к ним доступ.
Не вводите в нейросеть фамилии и имена учеников, оценки, характеристики, сведения о здоровье, семье и поведении. Для подготовки материала они не нужны. Если вы хотите адаптировать задание под конкретного ребёнка, опишите задачу обобщённо: «задания для ученика, которому трудно читать длинные инструкции».
Порядок работы с данными учеников регулируют закон и правила школы. Уточните требования своей школы, прежде чем использовать нейросеть для чего-то, кроме подготовки учебных материалов.
Это касается и косвенных сведений. Подробное описание ситуации в классе может позволить узнать конкретного ребёнка, даже если имя не названо. Чем меньше деталей о реальных людях в запросе, тем лучше.
Несоответствие программе и возрасту
Нейросеть не знает, по какой программе и какому учебнику работает класс. Она может добавить понятие, которое изучают через год, использовать слишком сложную лексику для младших школьников или, наоборот, упростить тему для старшеклассников.
Проверяйте материал по двум вопросам: проходили ли это дети и поймут ли они формулировку. Если ответ на один из вопросов «нет», правьте или убирайте задание.
Отдельная проблема — устаревшие сведения. Нейросеть обучена на данных до определённого момента и может не знать о недавних изменениях в правилах, названиях, данных. Всё, что зависит от времени, сверяйте с актуальными источниками.
Иллюстрации и авторские права
Нейросеть может предложить идеи для иллюстраций, но саму картинку учитель обычно ищет сам. Изображение из поиска не всегда можно свободно использовать, а сгенерированные картинки иногда содержат искажения: неверное число лапок у насекомого, лишние детали на карте, ошибки в подписях.
Берите иллюстрации из источников, где понятны условия использования, и внимательно рассматривайте сгенерированные изображения перед показом классу.
Привычка не проверять
Самый незаметный риск появляется со временем. Первые материалы от нейросети учитель проверяет тщательно, а когда несколько раз подряд ошибок не нашлось, проверка становится поверхностной. Именно тогда ошибка и проходит на урок.
Защита — постоянный порядок проверки, который не зависит от того, насколько хорошим выглядит черновик. Прорешайте задания, сверьте факты, проверьте ссылки. Чек-лист, который вы проходите каждый раз, надёжнее ощущения, что всё в порядке.
Как работать с ИИ безопасно
Все риски сводятся к одному принципу: нейросеть готовит черновик, учитель отвечает за результат. Если держать этот принцип, ИИ остаётся полезным инструментом, а не источником ошибок.
Сервис «Мой урок» для работы не требует ни регистрации, ни данных об учениках: материал создаётся по теме и классу. Это снимает риск с персональными данными, но не отменяет проверку содержания — материалы «Мой урок» тоже создаёт нейросеть, и их нужно прочитать и прорешать перед уроком.
Если вы обсуждаете использование нейросетей с коллегами, договоритесь об общих правилах: какие данные не вводятся, как проверяются материалы, кто отвечает за итоговый текст. Общие правила проще соблюдать, чем личные договорённости с собой.
- Вводите в запрос только тему, класс и требования к материалу.
- Прорешивайте задания и сверяйте факты с учебником.
- Проверяйте каждую ссылку и цитату.
- Меняйте шаблонные формулировки.
- Следуйте правилам своей школы по работе с данными.
Частые вопросы
Можно ли вставить в нейросеть список класса, чтобы распределить задания?
Не стоит: это персональные данные учеников. Распределите задания сами, а у нейросети просите только сами задания без имён.
Как понять, что ученик сделал домашнее задание с помощью ИИ?
Надёжного способа нет. Полезнее менять сами задания: просить объяснить ход решения, опираться на разобранное в классе, обсуждать ответы устно.
Разрешено ли учителю использовать нейросети?
Единого ответа для всех школ нет. Уточните правила своей школы, а при любом использовании не вводите данные учеников и проверяйте материалы.