Бесконтрольный ИИ: чем рискует бизнес, сотрудники которого используют нейросети

Искусственный интеллект в бизнесе часто внедряется не через IT-отдел, а по более простому сценарию. Сотрудник открывает любую нейросеть, загружает в неё документ и ставит задачу. Для бизнеса это выглядит как повышение эффективности работы. На деле компания может получить массу проблем, включая юридические претензии. О том, какие риски возникают для бизнеса при бесконтрольном использовании ИИ, порталу Biz360.ru рассказала академический руководитель онлайн-магистратуры «Управление правовыми рисками в бизнесе» НИУ ВШЭ Анастасия Логинова.

Искусственный интеллект стал обычным офисным инструментом многих компаний. Его используют юристы, маркетологи, менеджеры по продажам, кадровые специалисты, финансисты, преподаватели, сотрудники клиентской поддержки. 

Самые частые сценарии выглядят буднично. Например, запросы к нейросети подготовить черновик письма, сократить длинный документ, составить структуру презентации, сформулировать коммерческое предложение, разобрать обращения клиентов, сравнить условия договоров и так далее. Проблема не в самом факте использования ИИ, а в том, что во многих компаниях ИИ уже применяется, но руководство либо не знает об этом, либо не видит в этом никаких рисков для бизнеса. 

В результате масштабируется теневое использование искусственного интеллекта. Так можно назвать ситуацию, когда сотрудники применяют нейросети самостоятельно, без разрешения руководства, и передают в них данные, которые не должны выходить за пределы компании. Речь может идти о коммерческой тайне, персональных данных, условиях контрактов, финансовой информации или других чувствительных сведениях. В такой ситуации бизнес теряет контроль над информацией. 

Какие действия сотрудников создают риски: 

• нарушение коммерческой тайны при загрузке данных;

• раскрытие персональных данных при постановке задачи;

• формирование иллюзии экспертности за счёт технологии. 

К конфиденциальной информации в контексте ИИ стоит относиться как к публичному пространству. Именно это предприниматели часто недооценивают. Нейросеть воспринимается как удобный помощник, хотя в правовом смысле использование внешнего сервиса может означать передачу данных третьему лицу. 

Категорически нельзя загружать во внешние сервисы непубличные финансовые отчёты, исходный код продуктов, условия тендеров и любые сведения, которые составляют коммерческую тайну. То же самое касается баз, персональных данных сотрудников, кандидатов и клиентов. 

Например, если сотрудники используют ИИ для анализа обращений клиентов, резюме кандидатов или других массивов персональных данных, возникают риски нарушения закона о персональных данных. В частности, речь может идти о трансграничной передаче информации без согласия субъекта и потере контроля над целью обработки персональных данных. 

В малом бизнесе эти вопросы часто опускают, что создаёт слабое место в управлении.

Для предпринимателя здесь важен простой принцип, который необходимо донести до сотрудников: если данные нельзя свободно отправить внешнему адресату, их нельзя загружать и в публичную нейросеть без правовой оценки и разрешения компании. 

Ещё один распространённый риск заключается в абсолютной вере в экспертность нейросети. Генеративные модели пишут вполне убедительно, поэтому сотрудник, получивший ответ на свой запрос, может даже не задуматься о проверке фактов. 

Есть показательный пример, связанный с инцидентом в юридической фирме, где сотрудник сдал суду вымышленные прецеденты, сгенерированные ИИ. Он хотел ускорить поиск судебной практики, но модель «галлюционировала» и выдала ссылки на несуществующие решения. Это привело к наложению административного штрафа на юриста и публичному репутационному ущербу для всей фирмы как в профессиональном сообществе, так и в глазах клиента. 

И подобные ситуации не редкость. Поэтому важно понимать, что действия сотрудников не снимают ответственности с компании, даже если ИИ официально не внедрён в бизнес. Если ошибка приведёт к ущербу, спору или претензии, то она будет трактоваться как профессиональная халатность сотрудника или недостаточный контроль со стороны компании. 

Компании используют ИИ для создания текстов, изображений, презентаций и прочих материалов. Но не всегда понятно, кому принадлежат права на такой результат и можно ли его защитить. 

В Гражданском кодексе РФ нет отдельной статьи, которая прямо регулировала бы авторские права на контент, созданный нейросетями. Однако базовая норма содержится в статье 1259 Гражданского кодекса РФ, согласно которой авторским правом охраняются произведения, созданные именно творческим трудом. Поэтому изображения, сгенерированные нейросетью без существенного креативного вклада человека, могут не получить правовую защиту. Бизнес рискует столкнуться с проблемами, если захочет оспорить копирование такого контента конкурентами. 

Кроме того, компания может получить претензии, если созданный с помощью ИИ материал нарушает чужие авторские права. Также возможны отказы Роспатента в регистрации объектов интеллектуальной собственности, если их происхождение и творческий вклад человека вызывают вопросы.

Конечно, использовать ИИ для ускорения работы можно, без этого уже сложно представить современный рынок труда. Однако необходимо понимать, какой вклад внёс человек, как был переработан результат и можно ли такой материал защищать как объект интеллектуальной собственности, чтобы избежать сложностей в будущем. 

Нейросеть допустимо использовать для задач с низкой юридической ценой ошибки, где результат легко проверить человеку. Например, её можно использовать для резюмирования внутренних протоколов, первичного поиска информации или генерации черновиков. 

Но есть дела, которые нельзя передать ИИ без чёткого регламента со стороны компании. Прежде всего, это принятие юридически значимых решений, работа с охраняемыми тайнами сведениями и взаимодействие с внешними контрагентами от имени компании без проверки юриста или профильного специалиста. 

Если ошибка нейросети может привести к нарушению закона, потере лицензии или утечке, то такую задачу должен выполнять человек. 

Правила работы и регламенты с ИИ стоит вводить в тот момент, когда становится понятно, что сотрудники начали использовать его самостоятельно. То есть задолго до того, как технология будет внедрена в бизнес на официальном уровне. 

Этому есть несколько признаков: 

• в рабочих чатах или электронной почте появляются обсуждения «галлюцинаций» моделей;

• сотрудники делятся ссылками на публичные нейросети;

• IT-отдел фиксирует аномальный трафик к внешним API (программный интерфейс);

• типовые документы начинают готовиться значительно быстрее, хотя компания не закупала новое профильное программное обеспечение. 

Если эти «звоночки» были замечены, то важно начать проводить инвентаризацию. Например, можно провести анонимный опрос сотрудников и выяснить, какие ИИ-сервисы они уже используют и для каких задач. После этого компании нужно составить список разрешённых корпоративных сервисов и закрепить правила приказом по организации. Это базовый уровень контроля, без которого использование ИИ в офисной работе становится юридически опасным. 

Что должно быть в минимальном регламенте: 

• Не вводить персональные данные и коммерческую тайну в публичные модели.

• Не использовать сгенерированный текст без проверки профильным специалистом.

• Не выдавать результат работы ИИ за экспертное заключение. 

Кроме того, в документе нужно закрепить список разрешённых корпоративных инструментов, персональную ответственность сотрудника за ошибки нейросети и назначить конкретного ответственного сотрудника за аудит использования генеративных моделей. 

Главной ошибкой компаний является как игнорирование рисков, которые могут создать действия сотрудников с ИИ, так и формальный запрет на использование генеративных моделей. На практике последнее редко работает, ведь если инструмент экономит время, сотрудники всё равно будут им пользоваться, просто вне корпоративного контроля. 

Поэтому задача руководства заключается в том, чтобы «легализовать» ИИ для работы, установив чёткие правила для его использования. Без этого юридических проблем избежать не получится.

Чтобы не пропустить интересную для вас статью о малом бизнесе, подпишитесь на наш Telegram-канал и страницу в «ВКонтакте».
biz360