Onlayn kitobni bepul oʻqing: ta muallif  Концепции, принципы и направления правового регулирования безопасного искусственного интеллекта и цифровых технологий. Монография

А.И. Овчинников

Концепции, принципы и направления правового регулирования безопасного искусственного интеллекта и цифровых технологий

Монография

Ответственный редактор
доктор юридических наук,
профессор А. И. Овчинников

---

ebooks@prospekt.org

Информация о книге

УДК 34:004

ББК 67:16

К65

Рецензенты:

Баранов П. П., доктор юридических наук, профессор, заслуженный деятель науки Российской Федерации, заведующий кафедрой конституционного и муниципального права Южно-Российского института управления – филиала Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации;

Фомин А. А., доктор юридических наук, профессор, профессор кафедры конституционного и административного права юридического факультета Санкт-Петербургского государственного экономического университета.

Ответственный редактор доктор юридических наук, профессор, заведующий кафедрой теории и истории государства и права юридического факультета Южного федерального университета, проректор по научной работе Донской духовной семинарии иерей А. И. Овчинников.

Монография посвящена комплексному исследованию концептуальных основ, принципов и направлений правового регулирования безопасного искусственного интеллекта и цифровых технологий. В работе рассмотрены фундаментальные проблемы правосубъектности искусственного интеллекта, переосмысления юридических понятий творчества и ответственности, этико-правовых аспектов разработки и применения интеллектуальных систем. Особое внимание уделено критическому осмыслению пределов алгоритмизации права, сохранению роли человеческого суждения, правосознания и морально-этических императивов в цифровую эпоху. Актуальность издания обусловлена острой необходимостью преодоления разрыва между стремительно развивающейся технологической реальностью и традиционным правовым языком, поиска ответов на вопросы, которые пока опережают законодательное регулирование.

Законодательство приведено по состоянию на 1 ноября 2025 г.

Книга адресована ученым-правоведам, законодателям, практикующим юристам, государственным служащим, а также всем, кто интересуется будущим права в эпоху искусственного интеллекта.

УДК 34:004

ББК 67:16

© Коллектив авторов, 2026

© ООО «Проспект», 2026

АВТОРЫ

Аметка Фатма Аблямитовна, кандидат юридических наук, доцент, доцент кафедры теории и истории государства и права Крымского юридического института (филиала) Университета прокуратуры Российской Федерации;

Басов Андрей Витальевич, доктор юридических наук, профессор;

Басова Юлия Юрьевна, кандидат юридических наук, доцент, доцент кафедры теории и истории права и государства Крымского филиала Российского государственного университета правосудия им. В. М. Лебедева;

Ересько Полина Владимировна, кандидат педагогических наук, доцент, доцент кафедры информационного права и цифровых технологий Саратовской государственной юридической академии;

Желдыбина Татьяна Анатольевна, кандидат юридических наук, доцент, доцент кафедры истории государства и права Саратовской государственной юридической академии;

Конопий Анна Сергеевна, кандидат юридических наук, доцент кафедры теории и истории государства и права юридического факультета Южного федерального университета;

Коноплев Вячеслав Вячеславович, доктор юридических наук, профессор, профессор кафедры гражданского и предпринимательского права юридического факультета Таврической академии Крымского федерального университета им. В. И. Вернадского;

Маковская Полина Николаевна, стажер адвоката, Ростовская областная Коллегия адвокатов «Бизнес и право»;

Мирошник Светлана Валентиновна, доктор юридических наук, доцент, профессор кафедры теории права, государства и судебной власти Российского государственного университета правосудия им. В. М. Лебедева;

Овчинников Алексей Игоревич, доктор юридических наук, профессор, заведующий кафедрой теории и истории государства и права юридического факультета Южного федерального университета, проректор по научной работе Донской духовной семинарии, иерей;

Саркисян Вероника Вартановна, кандидат юридических наук, доцент кафедры гражданского права Южного федерального университета;

Селиванова Евгения Сергеевна, кандидат юридических наук, доцент, заведующий кафедрой гражданского права юридического факультета Южного федерального университета;

Фальшина Нелли Александровна, кандидат юридических наук, доцент кафедры теории и истории государства и права юридического факультета Южного федерального университета;

Фатыхова Елена Михайловна, кандидат философских наук, доцент кафедры финансового права Южного федерального университета, Федеральный судья Таганрогского городского суда Ростовской области;

Фролов Сергей Владимирович, кандидат юридических наук, доцент, доцент кафедры государственно-правовых дисциплин, Приволжского филиала Российского государственного университета правосудия им. В. М. Лебедева;

Фролова Наталья Хайдаровна, кандидат педагогических наук, доцент, доцент кафедры английской филологии Нижегородского государственного лингвистического университета имени Н. А. Добролюбова;

Цыганенко Сергей Станиславович, доктор юридических наук, доцент, профессор кафедры уголовного процесса и криминалистики юридического факультета Южного федерального университета;

Шатковская Татьяна Владимировна, доктор юридических наук, профессор, заведующий кафедрой теории и истории права и государства Южно-Российского института управления — филиала РАНХиГС, профессор кафедры гражданского права Ростовского государственного экономического университета (РИНХ);

Ширинских Полина Ивановна, преподаватель кафедры теории и истории государства и права юридического факультета Южного федерального университета;

Шматова Елена Сергеевна, кандидат философских наук, доцент Южно-Российского государственного политехнического университета (НПИ) имени М. И. Платова.

ПРЕДИСЛОВИЕ

Современный этап научно-технического прогресса и развития права, ознаменованный стремительным развитием искусственного интеллекта (ИИ) и цифровых технологий, порождает глубокие трансформации во всех сферах общественной жизни. Внедрение систем ИИ в сферу юриспруденции давно осуществляется в рамках такого направления в теории права, как «юридическая кибернетика». Еще в Советские годы данное направление было крайне популярным среди ученых, что вызвано не только государственной политикой, но и идущей с Нового времени позитивизацией правового мышления и распространением механистической картины мира.

Проникновение систем ИИ в правотворчество, правоприменение, государственное управление, судопроизводство и частноправовые отношения ставит перед юридической наукой и практикой задачи предусмотреть беспрецедентные вызовы. Формирование адекватного, сбалансированного и безопасного правового регулирования в этой области становится одной из наиболее актуальных задач, от решения которой зависит не только эффективность механизма правового регулирования и правовой системы, но и сохранение фундаментальных ценностей — прав человека, справедливости, правосудия, гуманизма и верховенства права.

Представленная коллективная монография посвящена комплексному исследованию концептуальных основ, принципов и направлений правового регулирования безопасного искусственного интеллекта и цифровых технологий. Актуальность издания обусловлена острой необходимостью преодоления разрыва между стремительно развивающейся технологической реальностью и традиционным правовым языком, поиска ответов на вопросы, которые пока опережают законодательное регулирование.

Научно-теоретическая значимость работы заключается в системном анализе ключевых проблем, возникающих на стыке права и новых технологий. Авторами исследуются фундаментальные вопросы правосубъектности ИИ, переосмысления юридических понятий творчества и ответственности, этико-правовых аспектов разработки и применения интеллектуальных систем. Особое внимание уделяется критическому осмыслению пределов алгоритмизации права, сохранению роли человеческого суждения, правосознания и морально-этических императивов в цифровую эпоху. Введение и обоснование категории «юридический искусственный интеллект» предлагает новый концептуальный инструмент для структурирования дискуссии и построения адаптивного правового режима.

Научно-практическая ценность монографии определяется ее ориентированностью на решение прикладных задач. В работе проведен масштабный сравнительно-правовой анализ отечественного и зарубежного опыта регулирования ИИ, выявлены лучшие практики и потенциальные риски. Подробно рассмотрены конкретные сферы внедрения технологий: противодействие преступности и коррупции, судопроизводство, правотворчество, государственное управление, защита прав человека. Предложены практические механизмы, такие как определение «рутинных процедур» для машиночитаемого права, принципы «человеческого контроля» и риск-ориентированного регулирования, которые могут лечь в основу будущих законодательных инициатив и профессиональных стандартов.

Таким образом, данная монография представляет собой своевременное и глубокое исследование, вносящее значительный вклад в развитие отечественной юридической науки в условиях цифровой трансформации. Она адресована не только ученым-правоведам, но и законодателям, практикующим юристам, государственным служащим, а также всем, кто интересуется будущим права в эпоху искусственного интеллекта.

Глава I. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В СФЕРЕ ПРАВА: КОНЦЕПТУАЛЬНЫЙ АСПЕКТ1

1.1. Искусственный интеллект в юридической деятельности: риски и перспективы

На современном этапе развития технологий использования ИИ в юридической сфере возникает необходимость комплексного системного подхода к обеспечению безопасности личности, общества и государства ввиду особой значимости для человека решений, принимаемых ИИ в правоприменительных процессах. Однако это частное направление в развитии правового регулирования ИИ не может быть продуктивным вне общей парадигмы правовой политики в сфере ИИ.

На сегодняшний день вместо четких определений формируется сложный, многоуровневый регуляторный ландшафт, где наряду с общими отраслевыми нормами (например, Федеральным законом «О персональных данных»2) действуют стратегические документы доктринального характера (Национальная стратегия развития ИИ до 2030 года3) и функционируют экспериментальные правовые режимы («регуляторные песочницы»). Законодательство в сфере ИИ находится в состоянии динамичного формирования, где бизнесу и государству приходится балансировать между соблюдением жестких требований по безопасности и необходимостью гибкой адаптации к инновациям. В этих условиях возникает ряд острых проблем, одной из которых является отсутствие терминологической определенности.

Пока еще в российском законодательстве отсутствует не только определение статуса ИИ (объект или субъект права), но и отраслевая спецификация, в результате чего такие важнейшие направления регулирования ИИ как ответственность за действия и решения ИИ или определение авторских прав на результат его генерации, остаются без прямых законодательных ответов. Это создает «серые зоны» в правовом регулировании ИИ и значительные юридические риски для разработчиков и пользователей технологий.

В современном обществе нормы права являются важнейшими и основными регуляторами человеческого поведения. Помимо самих норм права, в понятие «право» включаются и элементы внутреннего духовного мира человека — правовая культура, правосознание, правовое мышление и мировоззрение, представляя собой не только важнейшие элементы культуры общества в целом, но и оказывая прямое регулятивное воздействие на правовую жизнь общества.

Стремительное развитие технологий для человечества порождает целый ряд проблем, так как замена человеческого сознания на искусственное ведет к игнорированию указанных выше регуляторов. Внутренний духовный мир человека и его мышление не имеет алгоритмической и цифровой природы, носит невербализируемый характер, который в принципе не может воспринять программа в силу невозможности уложить весь спектр настроений, стремлений, переживаний в единую упорядоченную систему. Желание человечества создать сильный ИИ, работающий на основе квантовых технологий, являющийся цифровой копией оцифрованного человеческого сознания, обречено на неудачу.

Данный скепсис по поводу создания такого сильного ИИ подтверждается мнением ряда ученых, в числе которых Нобелевский лауреат Роджер Пенроуз, утверждающих, что человеческий мозг уже, по сути, является квантовым компьютером4, а потому его возможности в плане решения проблем, в которых невозможно прописать последовательность решения (там, где требуется озарение и инсайт, интуиция и творческое духовное начало), заведомо превосходят возможности ИИ в аналогичных неалгоритмизируемых задачах. Человеческое мышление и познание гносеологически устремлены к пониманию роли человека во Вселенной, к постижению Библейских заповедей и Вселенского закона, а не к механистическому познанию.

Кроме того, нельзя не сказать о проблеме сложности для современной машинной обработки вариативности человеческой речи и многогранности естественного языка. Язык человека всегда имеет интонационные особенности, в нем присутствуют идиоматические обороты, различные диалекты, просторечия, жаргонизмы, акценты. Различие стилей общения, семантическое и аксиологическое наполнение и наличие эмоциональной окраски в виде «массовидных» проявлений психики делают человеческий язык с его оттенками смыслов малодоступным для полного понимания современными системами ИИ.

Нельзя также не согласиться с Э. Кассирером в том, что язык наряду с искусством, религией и наукой, относится к числу основных символических форм, которыми владеет человек. Человек — это символизирующее животное (animal symbolicum), наделяющее мир значением и смыслом через символические языковые формы5. Оцифровка человеческого языка в ходе, например, «живых» слушаний в суде и приведение его в форму сухих канцелярских формализованных терминов неизбежно детерминирует потерю точных смыслов сказанного с прагматической точки зрения. Теоретические основы прагматичного понимания информации методологически не разработаны в науке по сей день.

Анализ тональности речи, анализ сентимент-окраски естественного языка, который машине предстоит проанализировать, всегда будет находиться для систем ИИ лишь в условно «предполагаемом» диапазоне, и никогда не будет иметь гарантированно верный аксиологический характер, так как общение людей аксиоматически изначально сопряжено с оговоркой о том, что наше представление о других людях, в пределах множества отгороженных друг от друга душевных единиц, является каждый раз своеобразным сочетанием знания и незнания о них, а адекватность знания исключена с самого начала6.

И в этом смысле, даже такой вид профессионального правового мышления, как судебное усмотрение, является всегда не только процессом «созерцания» рассудком и разумом, но и методом исследовать и понять правовое событие с нравственной точки зрения и дать ему соответствующую оценку через призму духовной составляющей человеческого сознания.

Понимание основано не на рационально-логическом уровне познания, а на умении «освоить», сделать своим, пережить понимаемое. Конечно, нужно согласиться, что технологии неизбежно проникают во все элементы правовой системы и юридическая наука не может игнорировать постановку общих целей использования ИИ, возможностей цифровых технологий в удовлетворении интересов граждан. При этом научно-техническая революция и информационный взрыв не меняют сущности государства и права, но серьезно изменяют их формы7. Неконтролируемое применение ИИ в критичных областях и чувствительных социо-гуманитарных отраслях знания несет риски гораздо большие, нежели возможный положительный эффект.

Алгоритмизация процессов как правотворчества, так и правоприменения автоматически не должна означать устранения человека из наиболее критичных процессов цифрового взаимодействия. Подход в данном вопросе должен быть сдержанным и осторожным. Духовное смыслопорождение в области применения ИИ должно остаться для человечества осознанным и «прожитым» душой, а практическое применение благ цифровой цивилизации эволюционно ценностным и не разрушающим творческий потенциал герменевтического уровня правового мышления индивида.

Сегодня совершенно очевидно существование такого неизбежного изъяна ИИ как смещенность оценок (предубежденность системы ИИ)8, что в совокупности с невозможностью внедрения в системы ИИ всего морально-этического комплекса, присущего простому человеку, и с невозможностью учета системами ИИ вопросов контекстуального значения юридически значимых событий и исторических и социальных связей явлений, делает недостижимой и вероятность полной замены человека в сфере судебного правоприменения.

С учетом всех вышеперечисленных оговорок, не вызывает никаких сомнений, что имплементация ИИ в судебную сферу в виде гипотетического автономного «судьи-робота» неизбежно устранит такой основополагающий компонент судопроизводства как судебное усмотрение, которое призвано олицетворять собой высокие идеалы права и верховенство гуманистического и этического толкования законов над любым иным, в том числе и машинным.

Представляется, что необходимо ввести в юридическую науку термин «юридический искусственный интеллект», который вберет в себя лучшие достижения современной юридической науки в области безопасного применения ИИ, и определит ареал такого применения с точки зрения некой золотой пропорции между желаемой и рискованной эксплуатацией информационных электронных достижений.

В юридической литературе активно обсуждаются возможности внедрения ИИ в правовую жизнь общества. Он уже перестал быть гипотетическим инструментом будущего и меняет спектр юридических услуг, повышая эффективность, снижая затраты и открывая новые возможности для правового мышления.

Основные направления исследований в данной сфере возможно разделить на следующие блоки. Авторы выделяют различные подходы к применимости ИИ в юриспруденции. Прежде всего, это аналитическая деятельность: юридические исследования и анализ прецедентов. Здесь в научной литературе описывается способность ИИ обрабатывать тысячи документов (законы, постановления, судебные решения) в кратчайшие сроки; выявлять релевантные прецеденты с высокой точностью; анализировать тенденции в судебной практике; прогнозировать исход судебных дел на основе исторических данных о ранее принятых решениях.

Так, в статьях различных авторов содержится обзор возможностей ИИ по обработке больших юридических данных, анализу судебной практики и «Legal Tech» инструментов9; анализируются конкретные зарубежные системы, которые используются для поиска прецедентов, анализа когерентности практики и прогнозирования; рассматриваются философско-правовые и методологические аспекты, в том числе возможность алгоритмического анализа тенденций в практике и выявления латентных связей в массивах судебных актов; дается системная классификация направлений, где выделяет «юридический анализ данных» (Legal Analytics) как ключевое, включающее прогнозирование решений и анализ документов10. Ряд авторов фокусирует внимание на этике, однако исследования часто опираются на реальные технологические возможности систем прогнозной аналитики и описывают принцип их работы11.

Автоматизация документооборота в юридической сфере также часто подвергается анализу в юридической литературе12. Очевидно, что ИИ оптимизирует работу с документами, позволяя осуществлять «умный поиск» по архивам документов с семантическим анализом; автоматически классифицировать юридические документы; извлекать ключевую информацию из договоров, исковых заявлений, протоколов; сравнивать версии документов с выделением смысловых различий.

Еще одно направление применения ИИ в юриспруденции — составление и анализ договоров. ИИ-платформы помогают генерировать типовые договоры с учетом конкретных условий; выявлять рисковые положения в контрактах; сравнивать договоры с эталонными шаблонами; автоматически извлекать сроки, обязательства и условия13.

Анализируется в статьях и деятельность ИИ в сфере юридических консультаций (чат-боты). Благодаря ИИ доступ к базовым юридическим знаниям становится проще: юридические чат-боты помогают в составлении документов, а системы рекомендаций предлагают варианты действий по конкретным правовым ситуациям. Таким образом, виртуальные помощники экономят время юристов на рутинных консультациях.

ИИ анализирует огромные массивы данных на предмет рисков, выявляет связи между лицами и компаниями, обнаруживает аномалии и потенциальные правовые конфликты. Машинное обучение позволяет сегодня прогнозировать вероятные исходы судебных процессов, анализировать поведение конкретных судей, оценивать судебные расходы и сроки рассмотрения дел. В корпоративной среде ИИ производит мониторинг транзакций на предмет подозрительных операций, анализирует изменения в законодательстве, влияющие на бизнес.

При этом большинство авторов отмечает следующие проблемы: ответственность за ошибки ИИ и ответственность систем ИИ, конфиденциальность данных; смещение в алгоритмах, обученных на исторических данных; деформация профессии и изменение требований к компетенциям юристов.

Искусственный интеллект не заменяет юриста, но становится его мощным ассистентом, берущим на себя рутинные задачи и расширяющим аналитические возможности. Уже сегодня ИИ повышает доступность правовой помощи, снижает стоимость услуг и улучшает их качество.

В настоящий момент системы ИИ в роли консультантов по юридическим вопросам уже являются составной частью всех существующих как отечественных, так и зарубежных систем генеративного ИИ, а также широко внедряются в работу многих крупных международных юридических фирм (как пример, в качестве отдельных внутренних программ в работу Мельбурнской юридической фирмы «Doogue O’Brien George», в работу Лондонской юридической фирмы «Allen&Overy» и других). Юридические фирмы и департаменты, применяющие эти технологии, получают значительное конкурентное преимущество. Однако успешная интеграция требует не только технических инвестиций, но и пересмотра процессов, подготовки кадров и разработки этических стандартов.

1.2. Понятие «юридический искусственный интеллект»

В профессиональной среде уже сформировалась узкая специализация «юрист в сфере ИИ», чья работа связана с минимизацией рисков в сфере интеллектуальной собственности, персональных данных, налогообложения и информационной безопасности в ИИ-проектах. Это доказывает, что применение ИИ в правовой сфере порождает уникальные, не укладывающиеся полностью в традиционные конструкции отношения, требующие особого подхода к регулированию.

Необходимость выделения отдельной категории «юридический искусственный интеллект» обусловлена насущной потребностью в преодолении разрыва между технологической реальностью и правовым языком. Отсутствие корректной категории «юридический искусственный интеллект» тормозит развитие адекватного правового регулирования, создает риски для субъектов правоотношений и затрудняет интеграцию передовых технологий в правовую систему для повышения ее эффективности и доступности.

Научная новизна и обоснование постановки проблемы заключается в том, что настоящее исследование предлагает сместить фокус с абстрактной и пока что тупиковой дискуссии о правосубъектности ИИ в целом на целенаправленное формирование специальной юридической категории для конкретной сферы применения. Целью является не наделение ИИ правами, а создание четкого правового режима для отдельных компьютерных технологий, выполняющих специфические юридические функции (анализ судебной практики, составление документов, прогнозирование правовых рисков).

Необходимо, чтобы применение ИИ было безопасным для общества и прав человека. Последнее возможно путем проведения правовой экспертизы предлагаемых систем и апробации их в рамках созданных для этого правовых песочниц, а также внедрения правила, согласно которому юридический ИИ вберет в себя не только свод позитивного и машиночитаемого права (свод нормативных правовых актов), но и, что немаловажно, получит техническую возможность в обязательном порядке учитывать традиционные российские духовно-нравственные ценности14, самобытность русского духа, социокультурные особенности русского правового сознания и правопорядка.

Юридический ИИ должен вобрать в себя лучшие достижения и понятийный аппарат «доверенных технологий искусственного интеллекта»15, отвечающих стандартам безопасности, разработанных с учетом принципов объективности, недискриминации, этичности, исключающих при их использовании возможность причинения вреда человеку и нарушения его основополагающих прав и свобод, нанесения ущерба интересам общества и государства.

Введением специального термина «юридический ИИ» фактически мы уходим от необходимости применения таких дихотомий как «слабый/сильный» ИИ, или «узконаправленный/универсальный» ИИ и других, а также от необходимости точного указания на технологию реализации (сверточные нейросети, рекуррентные нейросети, нейросети прямого распространения, фреймовые технологии, семантические графы, нейросимволические системы и т. д.). В рамках данного термина мы абстрагируемся от реализационных нюансов и акцентируем внимание на юридическом, содержательном аспекте особенностей влияния существующего ИИ (и перспективного ИИ) на правоприменительный процесс, на правовое мышление индивида и общества в целом, на общественное правосознание и мировоззрение.

Действующая Национальная Стратегия развития ИИ16 определяет искусственный интеллект как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. С учетом этого, в рамках термина «юридический ИИ» мы будем обсуждать «компьютерные системы, способные выполнять задачи, которые обычно требуют интеллекта» (в соответствии с п. 5.1 ГОСТ Р 71476-2024).

Правоприменительные решения выносятся человеком не только на основе нормативно-правовых актов, но и на основе правопонимания правоприменителя, правовой идеологии, тенденций государственной политики в сфере права и законодательства, приоритетов правовой политики, дискуссий в правовой доктрине, принципов и всего контекста права. Контекстуальность ИИ должна включать и в целом философские, культурно-исторические, религиозные идеи и события, учитывать болевые точки человеческого бытия, экзистенциальные смыслы. Ничем похожим ИИ не обладает и обладать не может, так как не знает «душевной боли», «физической боли», страха смерти, одиночества и иных сторон чисто человеческой жизни.

В современную цифровую эпоху нравственные идеалы общества, представления о добре и зле, о справедливости и гуманизме, правовая культура индивида могут быть подвергнуты деградационному влиянию технократизма ИИ, массово приводящему к выхолащиванию мировоззренческих нравственных достижений общества и морально-этических императивов права. Согласимся, что правоприменительная деятельность с использованием ИИ не должна приводить к механицизму и редукционизму в понимании права, когда общество будет пониматься как искусственное создание, а личность, индивид, человек будет рассматриваться как цифровая, математическая единица вне национальной культуры, языка, традиций, философии искусства и правового мышления17.

В этом смысле, предлагаемый концепт «юридического ИИ» призван сохранить баланс между внедряемыми технологиями ИИ и человеческими высокими нравственными идеалами уважения, признания и защиты прав индивида, ценностью совестливой души и Божественного смысла Мироздания. Правовое мышление должно остаться свободным для творчества, рефлексий и интуиции, а зрелое правовое сознание должно опираться не на «вычисляемое» поведение, а на нравственный тезаурус внутри человека, позволяющий ему выйти победителем из любой правовой сложной ситуации.

В случае активного внедрения ИИ в судебный процесс неизбежно встает вопрос о подрыве принципа верховенства права и конституционных гарантий судебной защиты прав и свобод граждан (ст. 46 Конституции РФ). Он возникает не только по причине того, что алгоритмы, на которых основаны ИИ-решения, непрозрачны («черный ящик»), и их решения невозможно проверить на соответствие закону, но и потому, что нарушается принцип поиска справедливого решения в каждом конкретном случае, обязательно предполагающего анализ субъективной стороны участников правоотношений.

Это ставит под вопрос и возможность судебного контроля по отношению к внутреннему убеждению правоприменителя, выносящего судебное решение. Внедрение и активное использование ИИ для генерации «типовых» решений может привести к упрощению и унификации правоприменения, игнорирующего нюансы и индивидуальные обстоятельства, которые являются основой справедливого правосудия. ИИ всегда выносит решение по аналогии, выявляя скрытые закономерности огромного массива обучающих статистических данных, но он беспомощен перед решением задач, которых в обучающих данных не было, он беспомощен в процессе индивидуального усмотрения, когда необходимо определить золотую пропорцию между содержанием абстрактной правовой нормы и конкретными обстоятельствами дела через кристалл гуманизма и морали.

Далее, ИИ обучается на ранее возникших юридически значимых ситуациях и исторических данных (судебных решениях, договорах). Но дело в том, что они неизбежно устаревают, и, если в этих данных были заложены определенные правовые взгляды, ценности и установки, меняющиеся постоянно, предубеждения (например, культурные, расовые, социальные и др.), то ИИ воспроизведет и отмасштабирует эти предубеждения.

Проблема ответственности ИИ также остается не решенной. Кто будет нести ответственность, например, если ИИ совершил ошибку в договоре, которая привела к убыткам на миллионы: разработчик алгоритма, владелец данных, юрист-пользователь или компания-производитель? Может ли это привести к появлению нового вида гражданской ответственности (например, ответственности за действия автономных систем)?

Существует и целый спектр профессиональных и этических вызовов для юристов. Прежде всего, это девальвация профессии и «размывание» экспертизы в силу того, что автоматизация рутинных задач может привести к снижению базовых навыков у молодых юристов (умение «с нуля» составить договор, провести исследование). К этому стоит добавить и психологический эффект, когда юрист перестает критически проверять выводы системы, считая их непогрешимыми и правильными априори.

Далее, в том случае, если ИИ будет избирать определенную формулировку или стратегию ввиду того, что она статистически чаще ведет к победе в суде (но не обязательно к самому справедливому решению), то не противоречит ли это поиску правды?

Наконец, остро встает вопрос о конфиденциальности, так как обмен информацией по делу с публичными ИИ-агентами разрушает адвокатскую тайну. Данные становятся частью обучающей выборки и могут быть восстановлены или использованы. К тому же, юридические документы — это концентрат самой чувствительной и значимой для личности информации (персональные данные, коммерческая тайна, финансовые показатели, следственные тайны). Взлом ИИ-платформы или базы данных для обучения — катастрофа для персональных данных.

Кроме того, пользователю необходимо всегда учитывать, что системы ИИ характеризует не только недостаточная глубина исследования, но и так называемые, галлюцинации, которые являются характерным побочным эффектом машинного обучения с подкреплением, широко используемым при обучении ИИ. В этом смысле перед юридической наукой встает неизбежный вопрос: так ли уж необходима замена профессионального кропотливого правового мышления юриста на машинного быстрого, но скудного духом и обделенного естественным правосознанием «цифрового гомункула»?

Оператор может умышленно обучить ИИ на специфических данных или запросах, чтобы выведать коммерческую тайну конкурента, спровоцировать ошибку или сформировать предвзятое решение. Искусственный интеллект, способный генерировать убедительные правовые тексты, судебные решения или даже «фото» и дипфейки (видео как доказательства), может быть использован для фальсификации, что подрывает основы судопроизводства.

В 2021 году Правительственной комиссией была утверждена «Концепция развития технологий машиночитаемого права»18. Несмотря на то, что соответствующий документ был утвержден более четырех лет тому назад, интерес к идее машиночитаемого права особенно усилился в последнее время, очевидно, в связи с наблюдаемой «экспансией» систем ИИ во все сферы общественной жизни. Обсуждению различных аспектов концепции машиночитаемого права посвящено множество публикаций, из которых по глубине системного взгляда следует отметить исследования19, в которых авторы пишут о том, что, позитивное право, как совокупность формализованных правил, элементарных алгоритмов, близких по строению к программным кодам, выделение отдельной отрасли машиночитаемого права и практика современного применения права предоставляют прекрасные возможности для анализа результатов реального действия и обучения нейросетей. Данная точка зрения представляется критичной и упускающей из виду множество очень важных аспектов, в связи чем авторы считают необходимым определить свою позицию по данному вопросу.

Как полагают авторы, для эффективной и безопасной имплементации систем ИИ в правоприменительную деятельность, законодательно необходимо определить и ввести понятие «рутинной процедуры» для машиночитаемого права, которую данные системы могли бы выполнять самостоятельно без участия человека, при этом без ущерба для судебного усмотрения и категорий морально-этического надзора. Выработка правил определения «рутинности» юридической процедуры является предметом отдельного научного исследования.

Чтобы избежать рисков и угроз неэффективного и даже неправомерного использования ИИ, существует целый ряд направлений, разрабатывающих принципы использования безопасного юридического ИИ. Во-первых, это принцип «человекоцентризма», согласно которому окончательное решение, особенно по стратегическим вопросам, всегда должен принимать человек-юрист. Во-вторых, это принцип «прозрачного ИИ»: требование к разработчикам создавать алгоритмы, способные объяснить, на основе каких факторов было принято то или иное решение. В-третьих, это «четкие правила использования ИИ» в каждой организации: какие системы можно использовать, для каких задач, как проверять результат, как защищать данные. В-четвертых, это сертификация и аудит ИИ-решений: появление независимых органов, которые будут проверять юридические ИИ на предмет безопасности и соответствия этическим стандартам. В-пятых, это законность ИИ: необходимо принятие отдельного нормативного акта в сфере юридического ИИ. Важно также повышение цифровой грамотности юристов: обучение не только пользованию инструментами, но и пониманию их ограничений, принципов работы и связанных с ними рисков.

Ключевой теоретический спор о правосубъектности. Центральной является дискуссия о том, может ли ИИ быть признан субъектом права. Большинство экспертов сходятся во мнении, что признание за ИИ самостоятельной правосубъектности (наравне с физическими и юридическими лицами) потребует изменений на конституционном уровне, и в ближайшей перспективе маловероятно. Право, как отражение и механизм ограничения человеческой свободы, как антропоориентированный институт основан на категориях сознания, свободы воли, правды, справедливости, ответственности, которые к ИИ неприменимы в классическом понимании. Однако отсутствие правосубъектности у технологии не снимает вопроса о необходимости специального правового регулирования отношений, возникающих при ее использовании.

Пункт 5.13 ГОСТ Р 71476-202420 предусматривает, что вместо замены человека, машина будет его функционально дополнять. Это очень емко называется «объединением человека и машины в команду» или системами дополнения и расширения когнитивных возможностей человека (системы «усиления интеллекта», intelligence augmentation). Необходимо акцентировать внимание, что речь идет об усилении именно естественного человеческого интеллекта, но вовсе не об автономности ИИ как отдельного субъекта права.

В соответствии с положениями ГОСТ Р 71476-2024, автономной является та система, которая «способна модифицировать свою целевую область применения или свои цели без внешнего вмешательства, управления или надзора»21. Последнее представляет прямую угрозу для судебного усмотрения в области принятия решений исключительно с помощью автономного ИИ (decision-область). Именно эта сфера является наиболее проблемной и обсуждаемой в широких кругах ученых с точки зрения невозможности имплементировать в нее весь спектр эмоциональных, этических, моральных компонент человеческого мышления и сознания, заложенных в каждого самим Богом и Мирозданием. Последний факт должен еще больше заставить человека задуматься о своей уникальной роли в процессах бытия, о своей единственной в своем роде сущности, которую невозможно оцифровать и редублировать.

Поэтому необходимо, чтобы ИИ в юридической сфере сущностно оставался исключительно компьютерной программой-помощником, выполняющим аналитические процедуры в рамках заданных контекста и промптов. Итоговую ответственность за все решения, принимаемые на основе предложений таких программ, должен нести человек, который является неким навигатором этических компонент заданного промпта, а также отвечает за юридическую целостность и полноту юридического наполнения правового мышления в рамках паттерна человеко-машинного сотрудничества. На наш взгляд, это является верной тенденцией сохранения сущностных базовых настроек современного права, ориентированных на сохранение гуманистического наполнения и исключительно человеческую природу усмотрения правоприменителя (даже если речь идет о рутинных процедурах или делах приказного производства в суде).

Учитывая все вышесказанное, представляется правильным, чтобы все системы юридического ИИ, внедряемые в processing- и decision-областях правоприменения, как строгие формальные системы, претендующие на вычисление истины по логическим правилам, были обязаны привлекать (в соответствии с ограничительными теоремами Геделя и Тарского22) для такого вычисления более сильную неформальную систему (в данном случае, человека) и не могли быть автономны в принятии решений. Функционал систем юридического ИИ должен быть адекватен тем процессам, которые этой системе делегирует человек, ограничен только специфическими функциями без возможности самостоятельно выйти за пределы такого инструментария.

Естественное право, появляющееся в душе по праву рождения и бытийствования человеческого имманентного духа, а также желаемое право, которое так или иначе появляется в процессе правотворческого процесса интерпретации позитивной нормы и наполнения интепретатором конкретной ситуации правовым смыслом и духом закона, наполнения контекстным значением и индивидуальной оценкой, не всегда «под копирку» совпадают с позитивным правом (с законом как сводом всего нормативно-правового текстового массива документов).

Многие нормы в праве имеют характер «трудноформализуемых» понятий для машиночитаемого права (например, нормы конституционного права, принципы права, основы морали, религиозных постулатов, культурных традиций и устоев). Все эти категории не могут существовать in abstracto по отношению к духу закона, они всегда имеют релевантный характер в любом процессе правового мышления индивида. Однако, перевести данные категории в машиночитаемый вид не представляется возможным.

Нельзя не согласиться с мнением автора статьи23, что в некоторых отраслях права вообще сложилась картина, при которой в науке до сих пор нет единства мнений ни о составе принципов, ни об их толковании, ни об их количестве. Последнее означает, что оцифровка принципов права также является задачей невыполнимой, при этом такие принципы выполняют всегда особую важную роль в наполнении гуманистическим смыслом правоприменительного процесса на любой из его стадий, их учет принципиально важен и имеет герменевтическую ценность.

В связи со всем вышесказанным, зарождающаяся отрасль машиночитаемого права должна быть нормативно проработана введением концептов «юридического ИИ» и «рутинной процедуры», а также проработкой безопасного механизма такого применения ИИ, при котором трудноформализуемые нормы права не будут исключены из механизма усмотрения только по причине их отсутствия в тезаурусе «компьютерного правоприменителя».

Введение термина «юридический искусственный интеллект» как юридически значимой категории позволит: обосновать и структурировать использование ИИ в правовой жизни общества; выработать специальные нормы в рамках существующих отраслей права (гражданского, процессуального, административного) для регулирования связанных с ним отношений, в том числе вопросов ответственности разработчиков и операторов, качества и проверяемости данных, этических стандартов; отделить регулирование высокорисковых систем (например, в медицине или беспилотном транспорте) от менее критичных, но массовых правовых инструментов, создав дифференцированный регуляторный подход; заложить основу для будущих профессиональных стандартов и требований к подобным системам, включая возможную маркировку контента.

Концепт «юридический искусственный интеллект» может быть основой для наполнения теории безопасного использования ИИ, так как он ставит во главу человеческую роль в процессе правоприменения и учитывает высшие гуманистические идеалы современного государства и права для формирования правильного ценностно-ориентированного подхода к внедрению ИИ в правоприменительную сферу.

«Юридический искусственный интеллект» на любом уровне его применения является по своей сути компьютерной программой, но не отдельным субъектом права, что исключает двойственность в толковании его правовой природы и естества.

При этом, все системы «юридического искусственного интеллекта» являются функционально-достаточными гетерономными системами, работающими либо по принципу автономного выполнения лишь рутинных процедур, либо это системы ИИ на основе паттерна машинно-человеческого сотрудничества, что обеспечивает полноту учета такими системами как семантически индетерминированных и метафоричных понятий, категорий морально-этического, нравственного и оценочного характера, так и de absolutio valoris проявлений духа, сознания и души человека, так как они в рамках предлагаемой концепции подлежат интерпретации и дальнейшему продуцированию итогового решения только волей человека.

Таким образом, любая юридическая ситуация будет оценена системами «юридического искусственного интеллекта» дуально: ИИ — рационально с точки зрения позитивного права как формально-логической системы, и человеком — иррационально с точки зрения нравственно-этических категорий, которые принципиально не поддаются какой-либо алгоритмизации.

При этом предложенная в данной работе идея необходимости законодательно определить «рутинные процедуры», на наш взгляд, нивелирует возможные негативные эффекты от повсеместного неуправляемого внедрения ИИ в правоприменительную деятельность и существенно смягчит сложность процесса перевода права в машиночитаемую форму. Введение и обоснование категории «юридический искусственный интеллект» является не фикцией, а необходимым шагом на пути к созданию адаптивного, технологически современного и безопасного правопорядка.

Предложенный концепт, таким образом, будет служить регулятором безопасного, основанного на общекультурном ценностном коде использования ИИ, исключающего потенциальную абсурдность и любую аморальность внедряемого цифрового правоприменения. Такой подход закрепит и упрочит значение сознания человека, которое имеет фундаментальную важность для всей Вселенной, поскольку именно жизнь обеспечивает физическую реализацию знаний, тогда как все компьютерные программы являются не более чем следствиями человеческой жизни24.

Глава II. ПРАВА ЧЕЛОВЕКА И ИИ

2.1. Проблема реализации прав человека в условиях цифровизации и использования технологий25

Проблема обеспечения прав и свобод человека во все времена была актуальной. Находясь на любой стадии развития общества, философы, ученые, юристы так или иначе, приоритетной задачей науки заявляли исследование актуальных тенденций развития и эволюции института прав и свобод человека. Стоит отметить, что современные ученые не стали исключением и достаточно активно исследуют институт прав и свобод человека в новых условиях — в условиях интенсивного развития цифровых технологий.

Так, профессор Карцхия А. А. отмечает, что цифровая трансформация общества оказывает самое непосредственное влияние на реализацию фундаментальных прав человека, способствует появлению новых, гражданин выступает сегодня как участник всемирного информационного, цифрового пространства. При этом, ученый обращает внимание на то, что интенсивное развитие цифровых технологий требует выработки новых форм правового регулирования, защиты и гарантий существующих и вновь формирующихся прав человека26.

Глушкова С. И. и Летунов Е. Д., исследуя современный институт прав человека, выявляет основные признаки цифровых прав человека. Автор концепции указывает на технологическую нейтральность современных прав и свобод человека, а также на их правовой характер. При этом они не могут быть отнесены к естественным правам, которые исходят из самой природы человека. Поскольку такие права реализуются во всех сферах социальных связей, они должны учитывать, как классические правовые принципы, так и характерные для цифрового пространства27.

Талапина Э. В. пишет о правах человека в интернете. Исследователь приходит к тому, что необходимо признать категорию «цифровые права», которые сегодня интенсивно развиваются. Дальнейшее развитие указанных прав, по мнению ученого, способно существенным образом трансформировать общественные отношения28.

Афанасьев С. Д., Шатилина А. С. Исследуют цифровизацию конституционных прав личности. В частности, проблемы их реализации и обеспечения в информационном обществе29.

Авакьян С. А. указывает на то, что проблемой сегодня является реализация традиционных прав и свобод личности, их защиты, получение нового содержания уже существующих прав и свобод. Важным, в настоящее время, аспектом развития института прав и свобод, остается вопрос неотвратимости ответственности субъекта цифрового пространства30.

Таким образом, многие ученые сходятся во мнении о том, что современный институт прав и свобод человека претерпел определенную трансформацию в современных условиях. Это проявилось в возникновении новых прав и свобод, в наполнении иным содержанием естественных, в образовании альтернативных и формировании дополнительных прав личности.

Это действительно так. С бурным развитием цифровых технологий права и свободы личности приобретают более расширенное значение. Однако каждый новый виток развития технологий может как расширять, так и ограничивать права современного человека, что и обусловило новые научные проблемы. Целесообразным представляется глубоко проанализировать вопрос о том, насколько цифровая эпоха меняет подход к правам и свободам личности.

Очевидно, что современный институт прав и свобод человека в условиях современной реальности подвержен динамичному развитию. Его характеристики, принципы и признаки периодически обновляются, а сам комплекс прав и свобод расширяется и дополняется, поскольку интенсивно меняются и трансформируются общественные отношения. Фактором, усиленно влияющим на развитие современного института прав и свобод человека, как мы уже отмечали, является активное применение во всех сферах социальных связей цифровых технологий. В частности, сегодня, глобальной проблемой остается сложность, имеющая отчасти институциональный характер — это отсутствие строго и неотвратимого уважения к правам и свободам человека.

Цифровизация и технологический прогресс, таким образом, трансформируют не только экономику, систему социальной коммуникации, но и сущность института прав человека. Парадокс современной социально-правовой действительности сегодня заключается в том, что технологические прогрессивные достижения, созданные для расширения прав и свобод личности, одновременно становятся инструментами их ограничения.

Мы предпримем попытку провести системный анализ ключевых проблем современного состояния института прав и свобод человека в эпоху интенсивного развития цифровых технологий. Прежде всего через конфликт между инновациями и защитой фундаментальных ценностей, институциональные вызовы, характерные для эпохи цифровых технологий и когнитивные эффекты, влияющие на правосознание личности, а также через проблему создания института цифрового гражданства. Такой подход позволит не только определить новые потребности современной системы прав и свобод, но и предложить конструктивные пути их реализации. Одновременно мы попытаемся выявить этические проблемы, с которыми сталкивается современный институт прав и свобод в эпоху цифровизации и сформулировать новые этические нормы, которые требуются сегодня для адаптации этого института к цифровым условиям.

Говоря об основных проблемах реализации прав и свобод личности в эпоху интенсивного развития цифровых технологий следует прежде всего определить те права и свободы, которые в научной литературе принято именовать правами нового поколения31, а также те, которые обусловлены в настоящее время развитием технологий. Это такие права как право на приватность и защиту персональных данных, свобода мысли и слова, свобода информации, право на справедливое судебное разбирательство, на равенство перед законом и судом, право на труд, социальные гарантии, право на образование, право на участие в культурной жизни и доступ к культурным ценностям.

Проблема реализации права на приватность и защиту персональных данных в настоящее время обусловлена рисками, свойственными эпохе цифрового развития: это массовость в сборе персональных данных, сложность обеспечения гарантии принципа анонимности и правовые коллизии. Так технологии Big Data32, Lot33 и социальные сети позволяют корпорациям и государству осуществлять массовый сбор персональных данных — то есть накапливать неограниченные объемы информации о гражданах в рамках осуществления целей, подчиненных их деятельности и одновременно идущих в разрез правам и свободам, часто закрепленных на конституционном уровне. Например, система социального рейтинга в Китае, в рамках которого используются около 400 миллионов камер видеонаблюдения34, ярко демонстрирует как технологии могут использоваться для осуществления контрольных функций со стороны органов государства. В свою очередь блокчейн и другие децентрализованные технологии только теоретически обеспечивают анонимность. В действительности они часто создают риски деанонимизации. Так, в 2014 году исследователь Александр Коган разработал приложение для Facebook35 в виде текста. Это приложение установили в своих учетных записях в Facebook порядка 270 000 пользователей, что позволяло Когану получать персональные данные об этих пользователях или их друзьях. По запросу приложения информация сохранялась в частной базе данных и удалялась не сразу. Разработчик приложения передал эту базу данных компании Cambridge Analytica, которая использовала эти данные для создания тридцати миллионов «психографических» профилей избирателей. В 2015 году Facebook узнал о частной базе персональных данных Когана и удалил его приложение, потребовав, чтобы он и его партнеры уничтожили собранные данные. В 2018 году началось федеральное расследование Торговой комиссии США на предмет того, каким образом компания Cambridge Analytica получила доступ к персональным данным пятидесяти миллионов пользователей Facebook. Позже представители компании Cambridge Analytica признали, что использовали данные пользователей без их согласия с целью профилирования и доставки контента, влияющего на решения людей, в том числе в период проведения на территории США выборов главы государства36.

Ярким примером правовых коллизий является нормативно-правовой материал призванный урегулировать отношения в сфере использования персональных данных. Это GDPR (General Data Protection Regulation)37 — общий регламент по защите данных в Европейском Союзе и Федеральный закон № 152-ФЗ «О персональных данных»38. Оба нормативно-правовых акта, каждый в пределах своей юрисдикции, призваны определить правила сбора, обработки, хранения и распространения персональных данных. Однако реализация указанных нормативно-правовых документов затруднена по причине глобального характера технологий, который сегодня выражен в их интенсивном развитии, что порождает новые угрозы для персональных данных.

Говоря о таких категориях как свобода мысли и слова, а также свобода информации, стоит отметить, что в настоящее время основными диактиваторами указанных свобод выступают, во-первых, так называемая цензура и алгоритмическое подавление, во-вторых, поляризация и в-третьих, возможность доступа к информации. Так, в цифровом пространстве цензура и алгоритмическое подавление проявляется через архитектуру алгоритмов цифровых платформ, которые автоматически могут удалить тот или иной контент, что может приводить к необоснованным ограничениям свободы слова. Алгоритмы социальных сетей создают информационный вакуум, тем самым усиливая цифровой радикализм, что в итоге формирует альтернативную систему ценностей. Происходит это через разрыв с уже существующими традициями и устоями коммуникации, через информационную изоляцию, которая нарушает гармонию коммуникативного пространства, предназначенного для широкой аудитории. При этом, социальные сети, где большая часть контента создается пользователями и рекламодателями, используют системы рекомендаций для модерации и принятия решений. В частности, рекомендации касаются и того, какую информацию предоставлять, а какую не стоит. Интеллектуальные системы такого рода поощряют крайние суждения, а умеренные подавляют. В результате чего цифровые платформы провоцируют усиление поляризации, распространение дезинформации и деструктивного контента.

Что же касается права свободного доступа к информации, здесь необходимо отметить, что разрыв на уровне цифрового развития между развитыми и развивающимися странами ограничивает право на информацию миллионам людей. Причинами могут быть цифровая неграмотность, принадлежность к той или иной конфессии, а также финансовые возможности.

Право на справедливое судебное разбирательство и принцип равенства перед законом судом, на современном этапе часто реализуется в условиях алгоритмической дискриминации, где инструментарии систем искусственного интеллекта, используемые в судопроизводстве, демонстрируют предвзятость по расовому или гендерному принципу, например, работа системы COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) в США. Это программное обеспечение, которое позволяет прогнозировать совершение повторных правонарушений преступниками, которые прибывают на свободе после тюремного заключения в течение двух лет39. По данным исследовательского сайта ProPublica, алгоритм искусственного интеллекта сгенерировал гипотезу о том, что чернокожие подсудимые обладают более высоким риском рецидива преступлений, в то время как у подсудимых европеоидной расы, по «его» указанный риск будет значительно меньше нежели в действительности40.

Нельзя не отметить факт отсутствия прозрачности в судебных решениях, которые принимаются при помощи цифровых алгоритмов, часто необъяснимых и не понятных для простых пользователей. Это не может не нарушать право на обжалование и справедливое судебное разбирательство.

Говоря о праве доступа к системе правосудия, стоит отметить, что судебные заседания, которые проводятся в онлайн-формате, а также медиация при посредничестве систем искусственного интеллекта безусловно делают правосудие доступным, но при этом одновременно создают риски для уязвимых групп населения. Так, например, для тех, кто не обладает соответствующими навыками и недостаточным уровнем цифровой грамотности, возможности онлайн-правосудия или онлайн-медиации остается недоступными.

Право на труд и социальные гарантии, также в настоящее время требуют технологического переосмысления через такие принципы современной трудовой и экономической деятельности как автоматизация, новые формы занятости, цифровой мониторинг. Так, автоматизация и роботизация рабочих мест вытесняет сегодня специалистов соответствующего уровня с рынка труда, в особенности это заметно в традиционных областях экономики — услуги, логистика, производство. Очевидным фактом выступает и то, что формы занятости интенсивно трансформируются в цифровую эпоху, что проявилось в формировании тренда нестандартных форм трудовой занятости. В настоящее время такими формами выступают фриланс, аутсорсинг или платформенная занятость. При этом тренд развития нестандартных форм занятости, в свою очередь, способствует трансформации института социальных гарантий, в части предоставления сотруднику отпуска, пенсионного обеспечения или медицинского страхования. К проблемам реализации трудовых прав и социальных гарантий следует отнести и так называемый цифровой мониторинг — систему коммуникации в условиях перманентного видеоконтроля, что также может рассматриваться как нарушение приватности и достоинства работника.

Право на образование сегодня прежде всего обусловлено неравенством доступа к цифровым образовательным ресурсам. Например, для детей из необеспеченных семей или отдаленных территорий, которые находятся за пределами городов и населенных пунктов. Для таких территорий характерна низкая плотность население и зависимость их экономической активности от сельского хозяйства41. В подобных условиях цифровой разрыв может ограничить право на образование определенных категорий населения. Еще одним фактором, обуславливающим дискриминационные тенденции в современном образовании, является то, что образование все больше напоминает товар. Онлайн-платформы предлагают получать знания за определенную плату. Делая знания доступными, они одновременно усиливают их коммерциализацию.

Право на участие в культурной жизни, а также право на доступ к культурным ценностям, тесно взаимосвязано в настоящее время с феноменом цифровой культуры, где алгоритмы рекомендаций, на основе приоритетов пользователей, формируют культурные предпочтения путем ограничения разнообразия контента.

Институциональные и правовые вызовы выразились в кризисе правового регулирования, в неэффективности традиционных механизмов защиты прав и свобод граждан, в отсутствии уважения к правам и свободам человека, а также в проблемах правоприменения.

Кризис правового регулирования, в частности, объясним глобальным характером развития цифровых технологий, где национальное законодательство не эффективно не только потому, что обладает низкой регуляторной способностью, но и потому, что действует наряду с системой правового регулирования, осуществляемого транснациональными корпорациями. Деятельность транснациональных корпораций, например, таких как Google, регулируется как нормами международного права, национального законодательства и как правило нормами «мягкого права». Это связано с тем, что транснациональные корпорации не являются субъектами международного публичного и международного частного права, а их деятельность не может быть объектом правового регулирования одного конкретного государства42. Соответственно, различия в подходах к правовому регулированию могут создавать так называемую правовую неопределенность, которая грозит конфликтом юрисдикций. Указанные особенности свойственны технологическому укладу современного права, что еще раз подчеркивает объективную необходимость в привлечении дополнительных правовых механизмов, используемых в практике международного права. Этими механизмами могут стать, например, принципы международного права, которые будут положены в основу разработки актуального и эффективного законодательства.

Неэффективность традиционных механизмов защиты прав и свобод граждан, как мы уже отмечали, обусловлена скоростью технологических изменений, в этой связи даже новое законодательство быстро теряет свою актуальность, и низкая регуляторная способность современного права становится очевидной. Так, правовое регулирование систем искусственного интеллекта отстает от его технологического уровня на пять — семь лет43, что прежде всего обуславливает сложность доказывания нарушения прав и свобод личности в цифровом пространстве. Или, например, алгоритмическую дискриминация, которую практически невозможно доказать в ходе судебного разбирательства из-за сложной и непонятной природы алгоритмов.

Проблемы правоприменения также выступают технологически обусловленными. Судьи, прокуроры, юрисконсульты в силу известных причин не успевают осваивать новые технологии. Это часто приводит к неэффективным решениям. Причинами, таким образом, следует считать не только скорость цифрового и технологического развития, но и отсутствие навыков работы с системами искусственного интеллекта, низкую цифровую грамотность, а также свойство юридического, гуманитарного мышления юриста — правоприменителя. В части проблем правоприменения имеет место и так называемое корпоративное сопротивление. Так, в 2021 году заместитель директора департамента информации и печати МИД России Олег Гаврилов отметил, что американские цифровые гиганты злоупотребляют отсутствием правового регулирования их деятельности на уровне международного права и систематически уклоняются от исполнения предписания российского законодательства44. В 2020 году член общественной палаты Российской федерации Александр Малькевич заявил, что деятельность западных IT-корпораций в России необходимо регулировать на законодательном уровне, поскольку часто мировые IT-гиганты игнорируют предписания российских ведомств45. В начале 2025 года Роскомнадзор начислил штрафы иностранным цифровым платформам на сумму порядка тридцати пяти миллиардов рублей за нарушение российского законодательства. При этом взыскать указанные штрафы достаточно сложно, поскольку многие IT-компании отказываются платить. Эксперты отмечали, что крупные корпорации в IT-сфере не имеют обязательств перед Российской Федерацией и штрафные санкции носят для них формальный характер46.

Более важным, на наш взгляд выглядят когнитивные и психологические последствия нарушения прав и свобод граждан. Во-первых, это оказывает сильное влияние на правосознание как личности, так и всего общества. Личность, так или иначе часто осознает свое бессилие, в условиях развития цифровых технологий, что может быть следствием нарушения ее интересов, прав и свобод в цифровой среде, дефицита цифровых навыков работы, или отсутствия доступа к Интернету. Все эти аспекты подрывают уверенность человека и доверие государству. Во-вторых, имеет серьезные психологические последствия. Постоянный цифровой мониторинг и переизбыток информации вызывают у современного человека тревожность и выгорание. Наряду с цифровым стрессом личность чувствует потерю контроля над своей жизнью вследствие перманентного влияния на нее алгоритмов.

Пути решения поставленных в данной работе проблем, лежат в плоскости совершенствования функционального регулирования цифровых технологий, формирования образовательных и социальных инициатив, а также гражданского участия.

Так, в части совершенствования функционального регулирования необходима разработка этических стандартов для систем искусственного интеллекта. В частности, внедрение в работу указанных систем принципов объяснимости, справедливости и подотчетности алгоритмов. Также, совершенствование функционального регулирования невозможно без международного сотрудничества, в рамках которого должны быть созданы транснациональные органы по регулированию задач, обязанностей и предназначения цифровых технологий. Например, такой организацией является Global AI Council — ее деятельность направлена на демократизацию образования в области искусственного интеллекта, а также поддержку этических практик в его использовании. Эта организация предоставляет возможности бесплатного обучения, которое дает не только необходимые навыки цифровой грамотности, но и способствует этическому использованию искусственного интеллекта47. Крайне необходимым, по нашему мнению, является внедрение системы шифрования и дифференциальной приватности как инструментариев защиты персональных данных. При этом разработанные алгоритмы должны быть прозрачными, а их решения можно было бы не только проверить, но и оспорить.

Образовательные инициативы могут быть реализованы через повышение уровня цифровой грамотности населения и включение в образовательные программы школ, институтов, университетов таких дисциплин как «Цифровые права» и «Этика технологий». Также, говоря об образовательных инициативах, важным в настоящее время является разработка программ поддержки по сокращению цифрового разрыва и защите прав уязвимых групп населения, которые в силу тех или иных причин исключены из процесса цифрового развития.

Социальными инициативами может выступить создание советов публичного контроля, которые будут проводить аудит алгоритмов и технологических решений. Правозащитники, со своей стороны могут выдвинуть инициативу создания организации, которая занимается защитой цифровых прав.

Концепция цифрового гражданства включает в себя не только права и свободы пользователей, но и их обязанности, которые реализуются в условиях цифрового пространства. Данная концепция предполагает этичное поведение, уважение к правам других пользователей независимо от того, гражданами какой страны они являются, а также активно-позитивное участие в жизни цифрового сообщества. Особенность цифрового гражданства заключается в том, что гражданин опирается в отношениях, складывающихся в цифровой среде, не только на нормы национального законодательства, но и на такие инструментарии правового цифрового регулирования как блокчейн или смарт-контракты. Концепция цифрового гражданства как никогда актуальна, поскольку сама ее сущность предполагает защиту личности пользователя в рамках коммуникативного взаимодействия в цифровом пространстве. Технологии блокчейна, шифрования и децентрализованных систем хранения информации позволяют минимизировать риски несанкционированного вмешательства и предотвратить злоупотребления, связанные с централизованным контролем. Безусловно, нельзя не учитывать и риски, которые возникают в этой связи. Они связаны, в первую очередь, с необходимостью защиты персональных данных пользователей, кибербезопасностью и предотвращением мошенничества. Вопросы конфиденциальности и анонимности — крайне важные проблемы, существующие сегодня в цифровом пространстве и требующие тщательной проработки, дабы не допустить превращения новой формы гражданства в инструмент тотального контроля.

Таким образом, как считают современные ученые, цифровое гражданство можно рассматривать как новую научную категорию, которая характеризует не только устойчивую правовую связь гражданина с конкретным государством, но и принадлежность этого гражданина к цифровому, трансграничному пространству48.

Целесообразно также разработать меры по обеспечению доступа к цифровой среде детей с ограниченными возможностями здоровья, а также качественный контент, соответствующий их возрасту. Дети должны иметь возможность понимать, как подать жалобу или получить поддержку, знать о праве на приватность персональных данных. Дети и родители должны иметь правовую возможность отозвать согласие на обработку персональных данных. Определять в каком возрасте ребенок может давать согласие на обработку персональных данных, может только закон.

Для преодоления возникающих цифровых вызовов необходимо создание новой этической цифровой парадигмы, которая будет базироваться на трех фундаментальных принципах: это принцип прозрачности, ответственности и доступности. Поскольку принципы цифровой этики могут выступать основой для разработки новой правовой политики, норм и стандартов, направленных на формирование этичной цифровой среды49.

Особенно важной проблемой остается сегодня защита персональных данных. В этой связи особую актуальность обретают вопросы о праве на забвение, нарушение прав граждан при использовании цифровых сервисов, приложений цифровых устройств, для работы в которых пользователю необходимо разместить свои персональные данные. В ходе реализации принципа прозрачности пользователи должны быть осведомлены о том, как их персональные данные используются и обрабатываются. Пользователи должны в обязательном порядке давать свое информированное согласие на использование своих персональных данных, которое представляет собой отдельный документ. При этом нельзя включать его по умолчанию в пользовательские соглашения, оферты, анкеты и договоры. В согласии об обработке персональных данных должны быть указаны: перечень персональных данных, способы обработки данных (хранение, передача и удаление), сроки хранения таких данных, упоминание о праве отзыва согласия в любое время, способ с помощью которого возможно отозвать согласие, дата и способ получения согласия. Для онлайн-документов требуется подтверждение через чек-бокс50 с возможностью доказать, что пользователь действительно ознакомился с текстом. С 1 сентября 2025 года персональные данные, в обезличенной форме, можно обрабатывать без получения согласия граждан. В этой связи намечается введение механизма уведомления граждан о планируемой передачи их сведений даже в обезличенном виде, с правом возражения51. Вопросы сбора и использования данных должны быть максимально прозрачны, так как это позволяет повысить доверие пользователя и укрепить этические стандарты.

Принцип ответственности предполагает честный подход в ходе информационной коммуникации, а также полную ответственность компаний и ее технический персонал за все последствия использования применяемых ими цифровых технологий. Также имеет смысл понятие «ответственная коммуникация» наделить правовой природой и закрепить на законодательном уровне. Ответственная коммуникация представляет собой подход, при котором участник цифрового общения выстраивает свое поведение с учетом интересов аудитории, опираясь на совместный опыт и непосредственный контакт. Участник такой коммуникации не прибегает к манипуляторным приемам, он строит свою аргументацию добросовестно, не совершает речевых действий, которые снимают с него ответственность за обсуждаемые события, не злоупотребляет терминами и фразами, обезличивающими коммуникацию52.

Принцип доступности — это концепция равного доступа к цифровым ресурсам и технологиям для всех слоев населения, включая те категории, которые имеют ограниченные возможности здоровья или инвалидность53. Принцип доступности предполагает не только физический доступ к интернету, компьютерам и другим цифровым устройствам, но и учет особенностей пользователей с различными потребностями. Основными аспектами цифровой доступности являются: восприимчивость, в ходе которой предполагается, что контент доступен через различные рецепторы (органы чувств); управляемость, где интерфейс должен быть удобен для использования через голосовые команды или клавиатуру; структура и навигация должна быть понятна, то есть проста и логична; цифровые технологии, используемые в инклюзивных целях, должны быть надежны, а значит совместимы с иными вспомогательными методиками и инновациями.

В ходе формирования новой этической парадигмы, где институт прав и свобод останется фундаментальной правовой конструкцией, необходим стратегический подход и активное участие всех, кто осуществляет коммуникацию в цифровой среде. Так, по нашему мнению, важно разработать не только принципы этики цифрового пространства, но и механизмы, позволяющие их реализовать. Одним из таких механизмов выступает этический аудит, который позволяет объективно оценить цифровой продукт на предмет этических рисков и потенциальных проблем, связанных с нарушением прав и свобод личности. В ходе проведения этического аудита изучается какие данные собираются и как они будут использованы, какие присутствуют риски злоупотребления персональными данными. Такой подход позволяет выявить и устранить проблемы, связанные с конфиденциальностью, безопасностью, нарушением прав и свобод пользователей. Этический аудит предполагает возможность проверки алгоритмов на предвзятость и позволяет выяснить насколько объективно они смогут оценить ситуацию и ответить на запрос. Многие системы искусственного интеллекта работают по принципу «черного ящика», то есть логика алгоритма принятия решений не прозрачна и скрыта не только от пользователя, но и от создателя цифрового продукта. В этой связи концепция объяснимой системы искусственного интеллекта (аудит прозрачности) позволяет сделать прозрачность и понятность алгоритмов реальностью. В рамках этического аудита необходимо внедрение такого инструментария как анализ безопасности, который сможет защитить системы искусственного интеллекта от новых видов угроз. Проводить этический аудит необходимо на ранних этапах разработки новых систем искусственного интеллекта, в частности на уровне идей и разработки технического задания

...