Нейросети: инструмент для работы юриста или грехопадение?
Юристы все чаще используют ИИ для решения рутинных задач: загружают в него документы для анализа рисков, проверяют контрагентов, транскрибируют встречи, следят за изменениями законодательства и т. д. Вместе с тем интеграция нейросетей в рабочие процессы зачастую представляет собой профессиональный и этический вызов для юридических фирм и департаментов. Юристы сталкиваются с целым рядом вопросов: от интеллектуальной собственности и адвокатской этики до защиты персональных данных. В статье дан краткий обзор проблематики, а также специфичных нюансов для зарубежных сервисов ИИ, популярных среди российских юристов.
Начнем с общих рисков, которые будут актуальны и для отечественных ИИ-сервисов, и для зарубежных.
Соблюдение адвокатской тайны
Значительная часть юристов работает в статусе адвокатов, а на уровне фирм нейросети используют и адвокатские образования. Как известно, статья 8 Федерального закона от 31.05.2002 № 63 «Об адвокатской деятельности и адвокатуре в Российской Федерации» относит любые сведения, связанные с оказанием юридической помощи, к адвокатской тайне.
Если данные передаются в публичную нейросеть без письменного согласия доверителя, выраженного в присутствии адвоката (п. 3 ст. 6 Кодекса профессиональной этики адвоката), возникает риск дисциплинарного производства или иного спора о привлечении адвоката или его образования к ответственности. Схожая логика действует для нотариальной, врачебной, банковской тайны: запрет на разглашение существует независимо от Федерального закона о персональных данных, поэтому деперсонализация или санитизация данных становится не рекомендацией, а обязательным условием. Оптимальным вариантом представляется оговорка о возможности использования нейросети непосредственно в соглашении об оказании юридической помощи. Но это не означает, что тому, кто не является адвокатом, ничего не грозит. Есть риски, которые касаются всех представителей юридической профессии.
Ошибки ИИ-сервисов и ИИ-агентов
Очевидно, что для юриста ошибка, допущенная ИИ, не останется безнаказанной. Он несет за нее такую же ответственность, как и за ошибку при использовании любого другого инструмента. Совсем недавно суд наложил судебный штраф за «галлюцинацию» в судебной практике, указав, что за достоверность сгенерированного текста отвечает участвующее в деле лицо, которое использовало указанную технологию¹. Поэтому очевидно, что результаты генерации должны полностью перепроверяться, вплоть до формулировок конкретных цитат из судебной практики.
К слову, отраслевой контролирующий орган (Роскомнадзор) последовательно занимает аналогичную позицию, согласно которой за ошибки ИИ в части privacy-комплаенса (например, генерацию ответов на запросы субъектов персональных данных или незапланированную отправку ИИ-агентов клиентской базы данных внешнему сервису) придется расплачиваться решившему его использовать оператору. Таким образом, при любом инциденте отвечает оператор, организовавший обработку, а провайдер ИИ-сервиса не защитит. Надо, конечно же, критично относиться к целесообразности ИИ в части совершенной действий «последней мили», когда результат ИИ-сервиса не перепроверяется. Это должно быть категорически запрещено, например скриптами клиентской службы компании или плейбуками для работников.
Если использование ИИ причиняет клиенту юриста убытки, он вправе требовать их возмещения на общих основаниях. При этом основания отбиваться от убытков будут теми же, что и в других процессах: для адвокатов это может быть отсутствие вины, а для коммерческих юриформ — договорные ограничения убытков (лимит, та же вина или умысел и т. д.) либо отсутствие причинно-следственной связи убытков с действиями юриста. Поэтому стоит собирать доказательства информирования клиента об использовании ИИ, применения лучших практик в использовании клиентских данных, а также заранее проговаривать ограничения ответственности в документах.
Отдельного внимания заслуживают ИИ-агенты — системы, которым делегируется автономное выполнение задач. Они сами собирают данные, обращаются к внешним сервисам, формируют и отправляют документы. При этом, чем шире права такого агента, тем больше зона рисков для развернувшей его компании. Агент может собрать больше данных, чем требовалось, отправить во внешний сервис чувствительную информацию или, наоборот, удалить данные, которые должны были сохраняться. Каждый из этих сценариев представляет собой самостоятельный инцидент, и сослаться на «поведение модели» здесь не получится. От этого может пострадать вся компания — как минимум в связи с возмещением убытков или репутационными и денежными потерями от ухода клиента. Вот почему стоит оценить допустимые сценарии подключения агентов, сформулировав правила как на уровне общих вопросов персональных данных: основание, переиспользование, защита
Самый безопасный сценарий использования нейросетей — предварительная деперсонализация / санитизация загружаемых данных. Если персональные данные в нейросеть не загружаются, ограничения из Закона о персональных данных, очевидно, не применяются. Аналогичный подход стоит использовать также в отношении иной конфиденциальной информации. Целесообразно воздерживаться от загрузки чувствительных данных, особенно когда речь идет о зарубежных ИИ-сервисах.
При этом оговоримся, что регламентированного маршрута деперсонализации / санитизации данных не существует. То есть всегда остается вопрос: достаточно ли данные обфусцированы, чтобы перестать считаться персональными? К слову, большинство существующих сервисов «маскирования» данных для использования ИИ предполагает лишь их обезличивание. А это значит, что даже после преобразования данных с «маскиратором» для ИИ это все еще персональные данные, пусть и обезличенные, — к ним применяются почти все требования и ограничения для персональных данных. Поэтому следует проверить, какие данные и в каком виде работники «скармливают» ИИ.
Итак, если персональные данные все же обрабатываются с использованием ИИ-сервиса, то оператору необходимо определить правовое основание такой обработки. Скорее всего у компании не окажется прямых отношений с теми субъектами, чьи данные передаются в ИИ-сервис, — в данном случае правомерность передачи во многом будет определяться моделью отношений с контрагентом, от которого эти данные были получены (например, клиент компании). Более того, такой договор может налагать на компанию дополнительные ограничения по использованию ИИ, поэтому следует проверить условия договора с клиентом, установленные им ограничения (например, запрет перепоручения обработки или передачи данных) и модель передачи данных (поручение или передачу данных между самостоятельными операторами) и в зависимости от этого убедиться в достаточности оснований передачи данных в ИИ-сервис.
Отдельная проблема связана с переиспользованием нейросетей загруженного материала для дообучения. Большинство популярных ИИ-сервисов в лучшем случае указывает, что данные используются для обучения, если пользователь не отключил эту функцию. Отключение функции может быть ограничено в зависимости от условий подписки. Поэтому следует отключать функции дообучения везде, где это возможно.
Кроме того, использование ИИ-сервисов в большинстве случаев должно найти отражение в политике конфиденциальности компании при описании процессов обработки данных и в иных локальных актах. Наконец, внутренние документы компании могут устанавливать для работников правила использования ИИ-сервисов: какими сервисами можно пользоваться и для каких целей, какие имеются ограничения и т. д. А если юристы сделали для внешних пользователей свой продукт, в котором используется ИИ, то правила работы с данными и применения ИИ необходимо предусмотреть в условиях использования продукта, а также в информировании пользователя в интерфейсе продукта. Необходимо убедиться, что аспекты обработки персональных данных с ИИ-сервисами отображены в документах компании и исключен риск теневого использования ИИ работниками.
Указанные риски только возрастают, если работники применяют не корпоративную подписку, а личные учетки в ИИ-сервисе.
Риск использования зарубежных нейросетей
Локализация и трансграничная передача персональных данных
Теперь можно перейти к специфике зарубежных нейросетей. К слову, порой зарубежные модели ИИ могут незаметно использоваться в, казалось бы, российских ИТ-продуктах. Дело в том, что пользователю может быть совсем неочевидно, какая именно модель (и публичная ли) используется «под капотом». То есть сам по себе факт предоставления ИИ-продукта российской компанией не исключает того, что для обработки данных не используется зарубежный ИИ-сервис.
Для локально развернутых моделей (on-premise) такие вопросы, конечно же, не возникают у отечественных компаний. Риск появляется в случае с зарубежными сервисами, когда первичное сохранение данных происходит за рубежом, например при использовании зарубежного ИИ-сервиса для транскрибации встреч или сбора данных через чат-бот. При этом данные первоначально скорее осядут на зарубежных серверах, а значит, требование о локализации нарушено. Штрафы достигают 6 млн рублей за первое такое нарушение и 18 млн за повторное. Если же персональные данные сначала собираются в российскую инфраструктуру и лишь потом передаются за рубеж, требование локализации соблюдается. Поэтому изучите потоки данных в планируемой инфраструктуре продукта с учетом логики его применения работниками.
Независимо от этого, при использовании зарубежных ИИ-сервисов есть трансграничная передача данных, и оператор обязан до ее начала уведомить Роскомнадзор и получить от иностранного получателя подтверждение применяемых мер защиты. Если страна включена в перечень с адекватным уровнем защиты (Приказ РКН № 128), то передача разрешается сразу после уведомления, если нет — передача возможна по истечении 10 рабочих дней, а Роскомнадзор может ее заблокировать. США в перечень не входят, поэтому использование, например Claude, подчиняется усложненному порядку. Китай и ЕС в перечень есть. При этом получить от зарубежного провайдера ИИ-сервиса документы о предпринимаемых им мерах защиты данных для оценки трансграничной передачи на практике маловероятно. Такую оценку придется готовить самим на основании публичной информации об обработке данных провайдером ИИ-сервиса.
Не стоит забывать и о том, что в большинстве случаев для заведения учеток при корпоративной подписке работникам необходимо передать персональные данные провайдеру ИИ-сервиса. Это влечет за собой необходимость трансграничной передачи не только данных третьих лиц, но и работников, что, как известно, в большинстве случаев требует наличия строгого письменного согласия работника. Поэтому убедитесь, что компании-объект не только согласится с работником на обработку персональных данных, например для предоставления ИТ-инфраструктуры и ИТ-сервисов.
Интеллектуальные права на ИИ-сервисы, промыты и результаты их обработки
Сервисы и модели ИИ — это объекты интеллектуальной собственности, то есть использование сервисов в нарушение лицензионных ограничений может стать поводом для привлечения пользователя к ответственности или ограничения его доступа к сервису. Если мы говорим про российскую юридическую фирму или бизнес, то использование сервиса обычно происходит на территории РФ. Однако территория России и Беларуси прямо исключена из сферы действия соглашений для популярных ИИ-сервисов. Если суд признает использование сервиса по облачной модели (SaaS), затрагивающей исключительно право провайдера на объекты ИС, то возникает риск претензий или исков со стороны правообладателя, хотя нам пока и неизвестно о таких спорах на практике. Эти риски стоит учитывать и, если они критичны, — рассматривать OpenSource модели или российские варианты ИИ-сервисов.
Другой важный вопрос — права на результаты работы ИИ-сервиса — обычно решаются на уровне соглашений сервиса. Зачастую права принадлежат пользователю, но отдельные документы Perplexity и Anthropic в принципе ничего не говорят о распределении прав. В свою очередь, договор с клиентом может предполагать обязательную передачу прав на результаты оказания услуг. В отдельных случаях стоит убедиться, что правила перехода прав на интеллектуальную собственность между вами и клиентом синхронизированы с условиями перехода прав на сгенерированный контент.
К тому же ряд зарубежных сервисов сохраняет за собой право переиспользования входящих материалов (которые могут быть объектами интеллектуальной собственности) даже при отказе пользователя от дообучения модели на них по модели opt-out. Например, пользовательское соглашение Claude позволяет провайдеру применить пользовательский контент, например в случае направления фидбека на результат генерации, так что лишний раз не ставьте «палец вверх» выдаче — это имеет последствия.
Санкционные ограничения
Не стоит забывать и о санкциях. Условия использования зарубежных нейросетей претствуют стандартными условиями о необходимости соблюдать экспортные ограничения США. Это приводит как к юридическим рискам нарушения лицензии на сервис, так и к практическому риску блокировки, в том числе по IP-адресу или другим маркерам нахождения пользователя в РФ. В случае выявления попытки обхода ограничений, помимо блокировки аккаунта, юрист в принципе рискует удалением аккаунтов и данных, включая многочисленные инструкции для сервиса. Стоит озаботиться резервным хранением данных и возможностью переноса инструкций для нейросети. В консервативных вариантах оценки рисков также имеет смысл обратиться к провайдерам отечественных сервисов.
Маркировка результатов работы нейросети
Отдельно стоит разобраться с тем, требуется ли маркировать сгенерированные материалы или как-то уведомлять о них. По меньшей мере, если вы пытаетесь презентовать результат генерации как созданный человеком контент, это может нарушать и прямой запрет пользовательского соглашения (например, OpenAI или Claude), и более общие нормы российского законодательства: от введения потребителей в заблуждение по Кодексу РФ об административных правонарушениях до мошенничества по Уголовному кодексу РФ. Стоит задуматься, как избежать заблуждения или обмана клиента, например вручную проверять или дорабатывать результат генерации либо сразу оговаривать (например, во вводной части юридического заключения) формат применения ИИ и проверки его результатов.
Практические рекомендации
Безопасный подход к использованию ИИ-сервисов инхаус-юристами и консультантами, как правило, предполагает следующие действия со стороны:
при работе с зарубежными ИИ-сервисами использовать opt-out для отказа от дообучения моделей, а также избегать отправки обратной связи по выдаче ИИ или запросов, которые могут инициировать проверку безопасности;
отбирать и применять сервисы, наиболее благоприятные с точки зрения условий использования компанией, в частности с учетом вопросов интеллектуальной собственности;
учесть сценарии использования ИИ в договорах с клиентом: от информирования о возможном использовании и получения согласия на передачу данных в сервис до проверки положений об ограничении ответственности;
проводить внутреннее обучение работников и частично регламентировать работу с ИИ в скриптах и плейбуках, чтобы ограничить бесконтрольное подключение ИИ-агентов, донести лучшие практики применения ИИ, в том числе по проверке результатов генерации;
при необходимости уведомлять клиента о формате использования ИИ в сопроводительной информации к результату услуг: электронном письме, тексте заключения и т. д.;
передавать в нейросеть только деперсонализированные и санитизированные данные или использовать локально развернутые модели (on-premise);
использовать технические меры защиты на случай блокировки доступа к сервису, в частности сохранять инструкции, результаты генерации и прочие значимые объекты вне рамок сервиса.
Эти меры не устраняют риски полностью, но позволяют выстроить защиту от стратегии на случай поступления претензий от клиентов и доверителей, а также запросов от субъектов персональных данных и надзорных органов.