В России хотят ограничить использование ИИ в образовании. Что нужно знать
В России разрабатывается законопроект, который ограничит использование технологий искусственного интеллекта в образовании. В работах школьников и студентов будет допустимо иметь не более 30% текста, сгенерированного нейросетями. Также подготовлен законопроект, который обяжет маркировать созданные при помощи ИИ материалы. Как планируется регулировать новую технологию и повлияет ли это на качество образования — в материале «Известий».
Какой законопроект готовят в Совфеде
• Совет Федерации приступил к разработке законопроекта, который будет регулировать использование искусственного интеллекта в образовательном процессе и наложит ограничения на его использование. Разработкой законопроекта занимается рабочая группа при Совфеде по вопросам нормативно-правового регулирования различных аспектов, связанных с ИИ. Законопроект пока не составлен, и его текст не внесен в законодательные базы. Однако председатель правления Ассоциации разработчиков программных продуктов (АРПП) «Отечественный софт» Наталья Касперская раскрыла основные параметры будущей инициативы.
• По ее словам, законопроект направлен на создание конкретных правил использования нейросетей школьниками и студентами. Они должны будут раскрывать долю сгенерированной информации в своих работах. Такая доля не сможет превышать 30% от объема выполненного задания. Также преподавателей наделят возможностью проверять материалы по четким критериям, которые определят, был ли допущен плагиат или чрезмерное использование ИИ в работах.
• Законопроект ставит цель развивать у учащихся навыки самостоятельного обучения и критического мышления, чтобы они не полагались всецело на работу ИИ-моделей и не перепоручали им выполнение заданий, выдавая их за свои. По данным Касперской, четверть студентов используют нейросети при написании работ, а 87% прибегают к их помощи в том или ином виде. Она также призвала с помощью законопроекта предотвращать «вредное применение» ИИ в социальной сфере и государственном управлении.
Как регулируется ИИ в России сейчас
• На данный момент в России ИИ регулируется на экспериментально-правовом уровне без устоявшейся нормативно-правовой базы. Пробел пытается восполнить Минцифры, предложив собственный рамочный законопроект «Об основах государственного регулирования сфер применения технологий ИИ». Он пока находится на стадии обсуждения и не внесен на рассмотрение в Госдуму, но предполагается, что закон вступит в силу с 1 сентября 2027 года.
• Законопроект Минцифры определяет ряд терминов, используемых в сфере ИИ. Так, сам искусственный интеллект ведомство определяет как комплекс технологий, имитирующих когнитивные функции человека, включая самообучение и поиск решений без определенного алгоритма, и выдающих результат, сопоставимый с тем, на что способна интеллектуальная деятельность человека.
• Также документ устанавливает, что государство оказывает поддержку внедрению суверенных и национальных моделей ИИ. К ним относятся те, которые разработаны и обучены на территории России, для которых использованы сформированные внутри страны наборы данных и которые управляются российскими гражданами и юридическими лицами. Если такие модели ИИ отвечают определенным требованиям по безопасности и обрабатывают данные только на территории РФ, то они могут войти в реестр доверенных моделей ИИ. Их можно применять в государственных информационных системах и на объектах критической инфраструктуры.
• К разработчикам и операторам моделей ИИ в законопроекте предъявляется ряд условий. От нейросетей требуется, чтобы они своим поведением не приводили к дискриминации, не использовались в запрещенных целях, не эксплуатировали уязвимости человека, останавливали работу в случае угрозы вреда здоровью человека и безопасности государства.
• Если сервисом пользуется более 500 тыс. человек в сутки, то его владелец должен будет хранить данные и содержание сообщений пользователей, чтобы предоставлять их по требованию правоохранительных органов. Также он обязан обеспечить маркировку, чтобы пользователь знал, что сгенерированные материалы были произведены с помощью ИИ. Отдельно в законопроекте указывается, что модели ИИ должны соответствовать традиционным российским духовно-нравственным ценностям, за чем должен следить специальный экспертный орган, определенный правительством РФ.
Какое влияние оказывает ИИ на образование
• При попытке регулировать использование искусственного интеллекта следует учитывать ряд особенностей, которыми обладает эта технология. В первую очередь следует понимать, что модели ИИ являются лишь инструментом обработки информации и не выполняют полностью работу за заказчика. В этом их можно сравнить с калькуляторами, которые не могут дать правильный результат, если не уметь ими пользоваться.
• Даже если у сервиса ИИ заказать полностью выполненную работу, она потребует тщательной вычитки и перепроверки, а для этого уже необходимо погрузиться в суть проблемы и самостоятельно изучить предмет. Чтобы с помощью ИИ получилось выполнить домашнее задание, студенту и школьнику следует знать, как правильно писать промты, проверять приведенные факты, указывать источники и править полученный текст. Эти действия в конечном счете положительно скажутся на образовательном процессе и дадут новые знания. Бездумное использование ИИ, которое ведет к неправильно выполненному заданию, равносильно слепому списыванию без освоения изучаемой темы.
• В регулировании влияния ИИ на образовательный процесс также следует учитывать, что нельзя обнаружить сгенерированный контент со 100-процентной точностью. Существующие детекторы ИИ-текстов сами показывают нестабильные результаты и могут принять написанный вручную текст, созданный еще до появления нейросетей, за продукт больших языковых моделей. Любой ИИ-сервис проходит обучение на данных, которые когда-то были созданы человеком без помощи современных технологий, и лишь отражает их в несколько видоизмененной форме. Они не создают принципиально новую информацию, которую студент или школьник мог бы выдать за свою собственную, а лишь являются высокотехнологичным посредником между источником и пользователем.
• Чтобы исключить вероятность того, что пользование нейросетями препятствует получению образования и формированию критического и логического мышления, следует переосмыслить саму суть обучения и перейти от контроля за результатами к контролю над процессом. Так, ИИ не сможет никак повлиять на устную проверку знаний по итогам проделанной работы. Если студенту удается защитить свою работу, написанную при помощи ИИ-модели, то это будет говорить о его погружении в тему. Также в образовательный процесс можно внедрить аудиторную работу в условиях, когда доступ к инструментам ИИ ограничен, или индивидуализировать задания, для которых у ИИ не будет релевантных данных.
• В постоянном пользовании ИИ можно выделять ряд негативных аспектов. Оно может вести к шаблонности ответов, создавать у пользователя иллюзию компетентности, снижать навыки письма и построения текста, вести к пренебрежению авторством и источниками. Однако те же самые проблемы могли преследовать студентов и до внедрения нейросетей, если они безответственно подходили к своему обучению и гнались только за высокими оценками, а не за получением знаний.
