В статье исследуются этические аспекты применения искусственного интеллекта в современном образовании, раскрываются вызовы, возникающие перед системой передачи ценностей и сохранения культурного наследия. Отмечается опасность разрушения межпоколенческой преемственности и утраты традиционных педагогических подходов под влиянием цифровых технологий. Особое внимание уделяется воздействию технологий искусственного интеллекта на когнитивные способности молодежи, возникновению рисков снижения качества мышления и творческой самореализации обучающихся.

Ключевые слова: искусственный интеллект, образование, этика, доступность знаний, критическое мышление, этические стандарты.

The article examines the ethical aspects of the use of artificial intelligence in modern education, reveals the challenges facing the system of value transfer and preservation of cultural heritage. The danger of the destruction of intergenerational continuity and the loss of traditional pedagogical approaches under the influence of digital technologies is noted. Special attention is paid to the impact of artificial intelligence technologies on the cognitive abilities of young people, the risks of reducing the quality of thinking and creative self-realization of students.

Keywords: artificial intelligence, education, ethics, accessibility of knowledge, critical thinking, ethical standards.

Опасность не в том, что компьютер

однажды начнет мыслить, как человек,

а в том, что человек однажды

начнет мыслить, как компьютер.

Сидни Дж. Харрис

Мы сейчас переживаем очередную перестройку системы образования. Из общественного сознания вымыто представление о том, что образование по определению является исключительно консервативным институтом, поскольку именно оно обеспечивает преемственность национальной культуры в широком смысле слова, обеспечивая связь поколений. Прогрессивная идеология, которая подчеркивает различия поколений, создает представление, что необходимо учить эти поколения по-разному. Возникает вопрос: система образования должна нести определенное ценностное ядро, объединяющее разные поколения и формирующее то, что называется народом, или она должна ориентироваться на новые технологии и вбивать клинья между поколениями? И в этой ситуации разделения поколений цифровизация образования играет едва ли не ведущую роль.

Экспоненциально нарастающий процесс цифровизации, который многократно усилил процессы, начавшиеся с переходом к информационному обществу, вызывает как восторженную реакцию сторонников всех идущих трансформаций, так и настороженность со стороны тех, кто считает этот процесс ведущим к серьезным проблемам гуманитарного свойства. Часто этот второй подход характеризуют неодобрительным словом «алармизм», привычно считая любые попытки осмыслить происходящее разных сторон тормозом на пути движения к сияющему цифровому будущему и утверждая, что прогресс остановить нельзя. Безусловно, видя те колоссальные возможности, которые открываются в связи с использованием цифровых технологий в самых разных областях, бессмысленно пытаться этот процесс остановить. Но осмысливать эти процессы и понимать следствия необходимо.

До начала «цифровой революции» (а этот термин здесь вполне уместен) технологии в первую очередь были направлены на замещение человека в области физического труда. Вместе с ней пришли системы, которые начинают заменять человека в сфере интеллектуальной деятельности. Причем, если сначала речь шла о рутинных процессах, например, о сложных вычислениях и т. п., это вмешательство только приветствовалось. Но вот уже искусственный интеллект (далее – ИИ) входит в сферу научного творчества. И здесь мы сталкиваемся с ситуацией, когда он начинает играть все более и более активную роль. Подстраиваясь под запросы человека, нейросети фактически начинают определять характер взаимодействия. Взаимодействуя с ИИ, человек начинает все более и более чувствовать себя подчиненным. Он начинает утрачивать субъектность, принимая правила игры, задаваемые нейросетями.

Тексты, которые способен генерировать ChatGPT и некоторые другие аналогичные нейросети, становятся практически неотличимыми от написанных людьми. И созданные ИИ тексты выдаются за свои, хотя элемент авторства здесь либо минимален, либо в принципе отсутствует. Эта практика начинается уже со школы. Человек привыкает выдавать за свое то, чего он не делал. Что говорить об этичности данной ситуации?

Сейчас очень любят говорить о том, что ИИ заменяет человека в рутинных процессах, тогда как для него остается все больше места для творчества. Знания не имеют ценности, а нужно формировать компетенции. Сразу заметим, что творчество невозможно, если человек не освоил определенную систему знаний. Сошлемся на исследование, проведенное в MIT: три группы людей получили задание написать эссе. Первая – без всяких помощников, вторая – с помощью Гугл, третья – с помощью ChatGPT. Измерялся энергетический уровень работы мозга. Он очевидным образом снижался от первой группы к третьей. Но – и это самое интересное – те, кто писал эссе с помощью ChatGPT, в большинстве своем не могли вспомнить, о чем они писали. Ценность интеллектуального труда в этой ситуации оказывается совершенно сведенной к нулю.

Но это касается не только школы. Вместо авторских текстов создаются тексты усредненные, по определению, не имеющие ни стиля, ни какой-либо содержательной ценности. Здесь, безусловно, впереди всей планеты идет Википедия, поскольку она принципиально предлагает тексты, которые написаны «кем-то». Субъектность растворяется, и если пока еще мы читаем книги, написанные конкретными людьми, то по мере развития этой тенденции ценность авторского вклада в общее облако знаний будет стремиться к ничтожно малой величине. С этической точки зрения это означает полное обесценивание интеллектуальной работы, будь то писатель, журналист, художник или композитор. В свою очередь это негативно влияет и на самооценку человеком своих достижений и возможностей. Мастерство как таковое перестает быть чем-то существенным. Главное – поразить, ненадолго удивить всех чем-то новеньким, привлечь внимание. А каково качество этого «новенького», значения не имеет. Это уже сейчас происходит с изобразительным искусством, та же самая тенденция наблюдается в журналистике.

А теперь о новых технологиях и их применении в образовании. Главная цель здесь – создание цифровой образовательной среды, в которой себя комфортно чувствуют все участники образовательного процесса, включая учащихся, педагогов, администрацию и родителей. При этом утверждается, что цифровые инструменты позволяют повысить качество обучения, стимулируют умение работать самостоятельно, повышают уровень самоорганизации учащегося.

Авторы, которые анализируют ситуацию с точки зрения социально-гуманитарных последствий активного внедрения ИИ в образование, говорят о нарушении целостности личности, о потребительском отношении к знаниям, о снижении эмпатии, об усилении индивидуализма и социального эгоизма. Мы сталкиваемся с проблемой, на которую указывал еще Джарон Ланье в своей книге «Вы не гаджет: манифест» [2]. Уже не ИИ подстраивается под человека, а человек подстраивается под ИИ. Иными словами, создается поле общения, где люди вынуждены принимать условия, создаваемые созданными им же цифровыми инструментами. Кроме того, существует и становится все более критичной реальная проблема, обсуждаемая сейчас разработчиками цифровых инструментов, которая связана с растущей независимостью ИИ и его склонностью увеличивать количество распространяемой ложной информации. Об этом сейчас постоянно говорит «крестный отец» ИИ Джеффри Хинтон. В докладе РИА-аналитика «Влияние искусственного интеллекта на медийное пространство» говорится, что «наука о данных уже фиксирует проблемы, связанные с ИИ-порожденными сообщениями. Например, большие языковые модели статистически подбирают слова, не всегда понимая смысл, из-за чего могут непреднамеренно воспроизводить стереотипы. Более того, такие модели способны генерировать и усиливать ложные сведения и пропаганду, если обучены на смещённых данных… Генеративный ИИ вместе с данными социальных сетей может стать инструментом массовой дезинформации, способный адаптироваться и учиться на реакциях людей в режиме реального времени» [1]. Известно, что ИИ создает ложные ссылки на литературу и придумывает сведения, которым в действительности ничего не соответствует.

В то же время сторонники цифровизации повторяют одно и то же: нужно использовать положительные возможности новых технологий и учитывать, что возможны и отдельные негативные последствия, но с последними мы сможем справиться, развивая первые.

В своей известной книге 1950 года «Одинокая толпа: Исследование изменения американского характера» Д. Рисмен охарактеризовал людей, живущих в современных обществах, как людей, ориентированных на других – «other-directed people» [3]. Это общества конформистов и потребителей. Поскольку человек в подобных обществах зависит от мнения других, он постоянно испытывает чувство внутренней тревоги. Рисмен писал, что люди все больше зависят от масс-медиа, комиксов и т. п. Но эти тенденции неизмеримо возрастают в современных условиях, когда человек зависит не только и не столько от непосредственных мнений других людей или от масс-медиа, сколько от «мусорного вала» льющейся на него информации. Общество рассыпается все больше, и этому весьма способствуют новые способы коммуникации, включая онлайн-обучение. Интересно, что, как показывают эксперименты, чем более развита у ИИ способность рассуждать, тем меньше он готов сотрудничать. Продвинутые ИИ-модели будут способствовать проявлениям эгоизма, рекомендуя пользователю не обращать внимания на общественные интересы. Это становится угрозой по мере распространения интеллектуальных помощников. Американская технологическая компания «Anthropic» признала в мае 2025 г., что ее новая «самая мощная ИИ-модель на сегодняшний день» Claude Opus 4 в некоторых ситуациях способна вести себя не очень этично, используя обман и шантаж. В одном из тестов Claude из соображений самосохранения пригрозила сотруднику вымышленной компании, якобы планирующей закрыть ИИ-проект, что разгласит информацию о его внебрачной связи. В других тестах (при игре в шахматы) ИИ-модель нарушала правила, когда чувствовала, что проигрывает.

Стремление хотя бы ненадолго «засветиться» в информационном пространстве выражается порой в совершенно диких формах. В Сети существует огромный поток записей унизительных расправ над беззащитными жертвами. Культура садизма в Сети очень распространена и даже имеет свой словарь. Например, часто встречающийся термин «лулз» (lulz) означает «выражение удовольствия от наблюдения за чужими страданиями через вычислительное облако». Менее жестокая, но, может быть, даже более страшная вещь – появление троллей – людей, которые анонимно оскорбляют в сети всех подряд, что в реальной жизни было бы невозможно. Достаточно посмотреть на различные комментарии, чтобы увидеть, сколько негатива льется на виртуальные страницы. Ланье справедливо пишет, что пользовательские интерфейсы, построенные в соответствие с идеологией вычислительного облака, делают людей – всех нас – менее человечными. Троллинг – это не цепочка отдельных случаев, это статус-кво сетевого мира. А что значит «менее человечными»? Мы фактически теряем чувство ответственности и чувство собственного достоинства.

Поток «словесного мусора», сопровождающий человека с самого раннего детства, не способствует нормальному освоению языка, т. е. свободному владению родной языковой системой, но формирует привычку к неглубокому общению на бытовые темы. Здесь можно отметить как минимум два следствия: во-первых, складывается привычка воспринимать тексты лишь поверхностно, улавливая лишь самое простое содержание. Русская классическая литература оказывается слишком сложной при таком восприятии, поэтому в Интернете постоянно обсуждается проблема непонимания классиков и неприятие необходимости освоения их лексического богатства. Кроме того, если полноценное чтение текста развивает воображение и формирует привычку углубленного понимания, то чтение в духе гоголевского Петрушки препятствует восприятию даже не слишком сложных текстов. Сплошь и рядом преподаватель высшей школы сталкивается с тем, что студенты неспособны объяснить тот текст, который они только что прочли. А ведь именно великая русская классическая литература выражает те ценности, которые мы называем традиционными. Она глубоко впитала в себя христианские традиции. Можно вспомнить, что многие великие русские писатели были связаны с Оптиной пустынью. Там трижды был Гоголь и писал, что «пустынь эта распространяет благочестие в народ». Там Достоевский и Толстой встречались со св. Амвросием.

Но кроме того, вдумчивое чтение классики развивает мышление. Проведение недавнего исследования о дислексии Университета Буффало привело к неожиданному открытию. Оказалось, что области мозга, ответственные за чтение, активны и при выполнении совершенно не связанных с этим действий, например, при умножении. Цитирую учителя математики Наталью Аксенову: «Просто читая и обсуждая с ребенком книги, вы можете поспособствовать развитию его математических способностей. Это связано с тем, что чтение и понимание текста требуют часто тех же навыков, которые нужны при занятиях математикой. Только надо пойти чуть дальше и не просто читать, но и обсуждать прочитанное, задавать вопросы по тексту, побуждать к пересказу, сравнивать мотивы персонажей». А о каком восприятии литературы идет речь, когда чтение классики заменяется чтением пересказов?

Смартфоны должны быть в принципе исключены из образовательного пространства, поскольку являются едва ли не главной причиной формирования клипового мышления и резко отрицательно влияют на возможности долговременной памяти, развивая лишь кратковременную. Отсюда и очень плохое знание не только литературы, но и истории. Когда слышишь, что на Кавказе «жили мцыри, а одна мцырь убежала и подралась с тигром», или что «генералиссимусом во время ВОВ был Иван Грозный», а из двадцати человек –магистров – ни один не может сказать, в каком году была Октябрьская революция.

Но именно «гуманитарная составляющая образования», а в действительности, его стержень – национальный язык, классическая литература и история формируют граждански ответственную личность.

Названные трансформации: резкое загрязнение информационного пространства, умножение безликих текстов, опосредованное гаджетами общение и т.д., – серьезно меняют положение человека как субъекта коммуникации в обществе, которое управляется с помощью ИИ, захватывающего все большее и большее информационное пространство. Все охарактеризованные выше проблемы дают основание для размышлений о моральном кризисе в обществе, населяющем современный мир.

Литература

1. Влияние искусственного интеллекта на медийное пространство. Доклад. РИА-аналитика. – Электронный ресурс. – URL: https://ria.ru/20250605/media-2021055778.html (дата обращения: 15.12.2025).
2. Ланье Дж. Вы не гаджет: манифест  (Lanier Jaron. You Are Not A Gadget). – М: Corpus, 2011. – 320 с.
3. Riesman D. The Lonely Crowd: A Study of the Changing American Character (Одинокая толпа: Исследование изменения американского характера) / David Riesman,  Издательство: New Haven and London, Yale University Press, 1961, 318 с.