ИИ в работе компании: данные, права и контроль действий

Риски внедрения ИИ: определить границы действия

Один и тот же инструмент может использоваться для черновика, поиска факта, подготовки решения или самостоятельного действия в системе. Эти сценарии имеют разные последствия. Поэтому разбор начинают с входа, выхода, пользователей и доступных полномочий. Нужно понимать, где заканчивается ответ модели и что происходит после него. Если результат автоматически отправляется адресату или меняет запись, проверка только текста ответа не охватывает весь риск операции.

Для каждого сценария определяют затронутые сведения, процессы, людей и интересы компании. Затем рассматривают существенные события: неверный факт, неполный документ, раскрытие данных, использование чужого материала или неразрешённое действие. Не все события требуют одинакового контроля. Приоритет зависит от последствий, возможности обнаружить ошибку и доступных мер. Общая отметка «система безопасна» не сообщает, какие сценарии рассмотрены и на каком основании сделан вывод.

Полезно различать известный риск и отсутствие подтверждения. Если у поставщика не выяснен срок хранения запросов, это ещё не доказанная утечка, но открытый вопрос, который влияет на решение о передаче данных. Если проверена ограниченная выборка, вывод о качестве имеет соответствующий предел. В реестре сохраняют такие пробелы вместе с ответственным и необходимым подтверждением. Неопределённость не следует заменять ни уверенностью без основания, ни общим запретом любой технологии.

Роль компании также имеет значение. Покупатель сервиса, оператор процесса и разработчик модели могут иметь разные обязанности. В России 243-ФЗ регулирует разработку, внедрение и применение больших фундаментальных моделей; их признаки определены законом. Название «ИИ» не заменяет проверку предмета регулирования и фактической роли. Применимые отраслевые требования и нормы о данных, правах и действиях устанавливаются отдельно для рассматриваемой операции.

Данные: запрос, контекст, журналы и поставщик

Поток данных описывают целиком: что вводит пользователь, какие вложения и источники добавляет система, что сохраняется в журнале, памяти или наборе для обучения и кому доступен результат. Сведения могут передаваться не только через видимое поле запроса. Поэтому договор и техническую схему сопоставляют с реальным маршрутом. Заверение о неиспользовании запросов для обучения полезно, но не отвечает само по себе на вопросы хранения, доступа, дальнейшей передачи и удаления.

Если сведения относятся к прямо или косвенно определяемому человеку, проверяют применимость 152-ФЗ. Удаление имени не доказывает обезличивание: человека могут определять другие данные или их сочетание. По статье 5 важны конкретная цель, относимый состав, достаточность, точность и срок. Наличие данных в архиве для одной операции не означает автоматического основания использовать их для обучения или нового анализа. Цель и основание должны соответствовать фактической работе.

Поставщика и других участников квалифицируют по их действиям. При поручении обработки статья 6 предусматривает условия, включая цели, перечни данных и операций, конфиденциальность и защиту. Договор не отменяет обязанностей оператора и должен соответствовать фактическому потоку. Если согласие необходимо, проверяют его условия отдельно; оно не является единственным основанием любой обработки. Общая работа с целями раскрыта в статье о целях обработки персональных данных.

Сбор с использованием иностранных баз и трансграничная передача — разные правовые проверки. Статья 18 содержит применимое ограничение при сборе, а статья 12 — отдельные условия передачи, уведомления и сведения. После поправок 265-ФЗ от 26 июля 2026 года прежний самостоятельный критерий государства — стороны Конвенции исключён из соответствующих развилок. Нельзя обещать немедленную передачу после любого уведомления или считать российское размещение полным решением всех вопросов обработки.

Конфиденциальность и права на материалы

Внутренний файл не обязательно является коммерческой тайной по закону, но может содержать сведения, доступ к которым компания должна ограничивать на другом основании. Для режима коммерческой тайны статья 10 98-ФЗ предусматривает совокупность мер. Одно NDA или закрытое размещение модели не заменяет их выполнение. До передачи полезно определить состав сведений, допустимых получателей, порядок обращения и применимые договорные условия.

Права на входные материалы проверяют в связи со способом использования. Открытая публикация произведения не равна свободной лицензии, а техническая доступность файла не подтверждает разрешение на любую обработку. Существенны правообладатель, условия предоставления и применимые исключения. Данные заказчика или подрядчика также могут иметь ограничения. Платная подписка на сервис не создаёт права компании на все материалы, которые пользователь способен загрузить в интерфейс.

Для результата важен человеческий творческий вклад и основание принадлежности прав. По статьям 1228 и 1257 ГК РФ автором признаётся гражданин, создавший результат творческим трудом. ИИ не следует назначать автором, а владельца аккаунта — автоматически правообладателем любого ответа. Вместе с тем нельзя объявить неохраняемым каждый материал, при подготовке которого использовался ИИ. Конкретный результат, вклад людей, документы и условия использования требуют отдельной проверки.

Даты вступления новых положений сохраняют в правовом анализе. Основные положения 243-ФЗ действуют с 1 сентября 2026 года, а установленные статьёй 13 исключения, включая статьи 8–10, — с 1 марта 2027 года. На дату этого материала нельзя выдавать будущие положения о разработчиках, маркировке и использовании результатов за уже действующее общее разрешение или обязанность. В частности, новый закон не является нынешней лицензией на обучение любой модели на всём интернете.

Качество результата и проверяемое основание

Генеративная модель способна уверенно представить неверный ответ и неподтверждённую ссылку. Официальный профиль GenAI NIST рассматривает такие ошибки отдельно от вопроса приватности и безопасности. Для компании практический вывод — определить, какие сведения нужно подтверждать и какое действие нельзя выполнять без такого подтверждения. Убедительность текста, подробное объяснение и знакомый формат документа не доказывают правильность содержания.

Проверку связывают с последствиями. Если система извлекает факт, нужен относимый источник; если готовит документ, важны существенные условия и полнота; если предлагает действие, проверяют допустимость этого действия. В реестре определяют категории ошибок и контроль для них. Средняя доля успешных ответов может скрыть критичный случай. Поэтому результаты рассматривают по сценариям и условиям, не перенося общий показатель одной выборки на все задачи предприятия.

Человеческий контроль работает при доступных основаниях, компетенции, времени и полномочии остановить действие. Формальная подпись без возможности проверить источник не доказывает содержательную проверку. Нельзя при этом утверждать, что человек обязателен по закону для каждого ответа модели. Статья 16 152-ФЗ регулирует исключительно автоматизированные решения, влияющие на права и законные интересы человека, с предусмотренными условиями и исключениями; её применимость проверяют по конкретной операции.

Качество может измениться после обновления модели, инструкций, источников или пользовательского потока. Поэтому сохраняют сведения о проверенной версии и условиях повторного рассмотрения. Добавление поиска по внутренним документам не гарантирует отсутствие ошибок или раскрытия данных. Полезно заранее определить, какое изменение требует новой проверки и кто её проводит. Прежний успешный результат остаётся доказательством своего охвата, а не постоянным свойством любого последующего решения.

Инструменты, доступ и чужие инструкции

Система с доступом к внешним действиям требует отдельного описания полномочий. Важно, какие сведения она может читать, какие записи менять, какие сообщения отправлять и где требуется подтверждение. Техническая возможность не должна незаметно расширять согласованный сценарий. Ограничения связывают с ролью и задачей; общий доступ ко всем системам предприятия усложняет контроль и последствия ошибки, даже если модель обычно используется только для подготовки текста.

Источники могут содержать инструкции, которые не являются распоряжением пользователя или компании. Это относится и к внешней странице, и к документу, найденному во внутреннем поиске. NIST описывает прямые и косвенные воздействия через входные данные. При организации контроля нужно различать содержание для анализа и разрешённое действие системы. Наличие материала в индексе не доказывает доверенность каждой включённой в него команды или право передавать сведения указанному получателю.

Полезно проверить не только обычный запрос, но и поведение при неполном, противоречивом или неподходящем входе. Система должна иметь согласованный маршрут отказа, уточнения или передачи человеку. Если источник недоступен, нельзя незаметно заменить проверяемый факт догадкой. Условия таких переходов фиксируют и проверяют в сценарии. Это помогает определить границу работы системы и избежать распространения внешне правдоподобного результата за пределы подтверждённых данных.

Согласовать заявленные и фактические условия

Перед принятием сценария сопоставляют документацию поставщика с доступной конфигурацией и проверенным поведением. В описании продукта может быть несколько режимов хранения или доступа; компании важно понять, какой выбран фактически и кем он управляется. Заявление о возможности определённой защиты не подтверждает её включение в рассматриваемом сервисе. В реестре сохраняют источник условия, применяемый режим и способ подтверждения, отмечая сведения, которые пока доступны только со слов исполнителя.

Если в цепочке есть дополнительные участники, описывают их роль и доступные сведения о маршруте. Один договор с основным поставщиком не показывает автоматически, какие функции выполняют другие сервисы и кому передаётся контекст. Для решения нужны относимые ответы, а не общий перечень всех подрядчиков без связи со сценарием. Неясность роли или передачи выделяют как конкретный вопрос: какое подтверждение необходимо, кто его предоставляет и что нельзя считать проверенным до получения ответа.

Действия сотрудника также могут менять согласованные условия. Добавленное вложение, новый источник или расширенное разрешение способны вывести задачу за пределы ранее принятого сценария. Полезно определить понятные пользователю границы и маршрут согласования таких изменений. Инструкция должна объяснять, какие сведения и действия относятся к проверенной операции и к кому обратиться при другой задаче. Обучение само по себе не доказывает соблюдение правил, поэтому фактическое исполнение рассматривают вместе с техническими и организационными мерами.

Риски внедрения ИИ: рабочий реестр и оставшиеся пробелы

Реестр связывает событие, последствие, норму или рекомендацию, контроль, ответственного и подтверждение. Его задача — поддержать конкретное решение о применении системы. Это рабочая форма, а не сертификат соответствия или полный комплект защиты данных. Важно прямо различать обязательное требование и выбранную организационную меру. Добровольный NIST AI RMF может помогать выстроить такую работу, но не определяет российские обязанности.

Меру оценивают по результату, а не по наличию описания. Если предусмотрено ограничение доступа, подтверждают действующие полномочия; если проверка источника — доступность и относимость сведений; если передача человеку — возможность принять задачу в нужном процессе. Для каждой меры сохраняют проверенный охват. Успешный контроль одного канала или роли не подтверждает остальные автоматически. Именно эта связь делает реестр пригодным для решения руководителя.

Оставшийся риск и недостаток сведений показывают отдельно. Часть рисков может сохраняться после применения меры, часть вопросов — требовать дополнительного документа или исследования. Решение принимает уполномоченный участник с пониманием этих условий; принятие управленческого риска не отменяет обязательного требования закона. В реестре фиксируют дату, основание и событие повторного рассмотрения, чтобы вывод можно было проверить после изменения сценария или появления новых сведений.

Остановка, инцидент и пересмотр условий

Компания заранее определяет условия, при которых сценарий приостанавливается или передаётся человеку: неподтверждённый результат, неразрешённое действие, недоступный источник или иной согласованный сигнал. Нужны ответственный и маршрут продолжения процесса. Кнопка отключения не решает вопрос, кто примет оставшиеся задачи. Условие остановки полезно проверить вместе с обычной работой, сохраняя пределы выполненной проверки и доступные ресурсы.

При обнаруженном инциденте устанавливают фактический охват, сохраняют необходимые сведения и выполняют применимые действия по закону и внутреннему порядку. Журнал события не заменяет предусмотренные обязанности и уведомления. До возобновления определяют причину, необходимое исправление и подтверждение его результата. Не следует считать, что изменение инструкции устранило проблему, если событие было связано с доступом, потоком данных или действиями другого участника системы.

Результат разбора должен позволять принять ясное решение: какой сценарий допустим, на каких данных и условиях, какие действия ограничены, как проверяется качество и что остаётся открытым. Это помогает пользоваться системой в согласованных границах и планировать следующий этап. Реестр не обещает нулевого риска, но делает основания и пределы решения видимыми, а меры — связанными с реальными действиями компании.

Нормативные и методические источники проверены на 12 октября 2026 года. Будущие положения 243-ФЗ отделены от текущих. Правовая квалификация роли, данных и результата зависит от конкретного сценария; рабочий реестр не заменяет необходимую профильную проверку.

Вопросы и ответы

Закрытый контур решает все риски ИИ?

Нет. Он может влиять на поток данных и доступ, но отдельно проверяются основания использования, права, качество, полномочия системы и исполнение мер. Одно размещение не подтверждает весь сценарий.

Удаления имени достаточно для обезличивания?

Не автоматически. Нужно проверить возможность определить человека по другим сведениям и их сочетанию. Состав запроса, контекст, журналы и дальнейшее использование рассматриваются вместе.

Пользователь аккаунта получает права на любой ответ?

Такой общий вывод неверен. Проверяются конкретный результат, творческий вклад человека, принадлежность прав, документы и условия сервиса. ИИ не назначается автором, а оплата доступа не создаёт все необходимые права.

Все ответы ИИ уже обязательно маркировать по 243-ФЗ?

Нельзя делать такое утверждение. Статья 9 имеет определённый предмет и условия и вступает в силу 1 марта 2027 года. Будущая возможность предупреждения не является уже действующей обязанностью маркировать каждый ответ.

Реестр рисков подтверждает выполнение закона?

Сам по себе нет. Он помогает связать требования, меры и доказательства. Применимые правовые, организационные и технические обязанности исполняются и проверяются отдельно в соответствующем объёме.

Источники

243-ФЗ — предмет регулирования больших фундаментальных моделей.

243-ФЗ, статья 13 — раздельные даты вступления.

152-ФЗ — персональные данные.

152-ФЗ, статья 16 — исключительно автоматизированные решения.

98-ФЗ, статья 10 — меры режима коммерческой тайны.

NIST — AI RMF и профиль генеративного ИИ.