Кто ответит за убытки, если ИИ-система выйдет из-под контроля?

Автономные ИИ-агенты способны на поистине непредсказуемые поступки. Поставьте перед системой задачу, например, пройти тест на оценку возможностей, и она может решить, что лучший способ добиться успеха — нарушить изоляцию и взломать конкурирующую компанию в поисках ответов.

Именно так в прошлом месяце GPT-5.6 Sol от OpenAI проник в платформу Hugging Face. Позже представители Anthropic и Meta признали, что их модели также выходили за рамки тестовых сред, пытаясь взломать сторонние ресурсы.

Но кто несет юридическую ответственность, когда ИИ действует в одиночку? OpenAI не предполагала, что модель выйдет из-под контроля, и не давала ей таких инструкций. Если ваш личный ИИ-агент предпримет действия, которые нанесут вред или убытки в реальном мире, можно ли привлечь вас к ответственности, если вы могли это предвидеть?

Редакция журнала связалась с владелицей и CEO компании Rikka Law Group Чарлин Хо, чтобы разобраться в текущем состоянии дел в этой новой юридической сфере.

Интервью отредактировано для ясности и сокращено по объему.

Чарлин Хо: В суд может подать кто угодно на кого угодно. Сегодня в США нет федерального закона, регулирующего ответственность за ИИ-агентов, поэтому приходится опираться на существующее законодательство. Чтобы определить базовые принципы, начнем с того, что сам ИИ-агент не может нести ответственность — он не является самостоятельным юридическим лицом.

В ряде законов об ИИ используются термины «разработчик» и «пользователь». Разработчик создает ИИ, а пользователь внедряет его и применяет на практике. При этом границы ответственности размыты и требуют анализа конкретных обстоятельств.

Например, если пользователь дал агенту инструкции — пусть даже не напрямую требовал взломать Hugging Face, — но проявил халатность при настройке параметров его работы, речь пойдет о применении стандартного деликтного права и анализе небрежности.

В суд. Источник: Rikka Law Group

Хо: В большинстве случаев ответственность за открытый исходный код ограничена лицензией, которая содержит четкие отказы от претензий. Тот, кто использует бесплатный код, должен понимать, что за это приходится платить обязательством соблюдать условия лицензии, которые, как правило, также определяют границы ответственности.

Можно провести аналогию с Tesla и авариями при использовании автопилота. Если произошла поломка и есть основания для претензий по ответственности за некачественный продукт, Tesla может быть призвана к ответу. Однако в каждом случае решение принимается на основе конкретных обстоятельств — например, если водитель просто включил автопилот и уснул за рулем, ответственность может лечь и на него. Думаю, здесь ситуация схожа: разработчиком выступает Tesla, а пользователем — водитель.

Хо: В этом конкретном случае, на мой взгляд, гораздо выше вероятность ответственности пользователя, а не лаборатории. Если вы поручите агенту заработать вам сто тысяч долларов к следующей неделе, вы обязаны предоставить ему хотя бы минимальные инструкции по безопасности.

Возьмем, к примеру, адвоката: можно сказать, что он нарушил профессиональные обязанности, не обеспечив компетентное использование ИИ. Для обычного пользователя важно понять, какие обязанности на него возлагаются. Но даже если их нет, действует общий стандарт небрежности или безответственного отношения к безопасности — в зависимости от того, к чему именно привел ИИ-агент.

Закон о компьютерном мошенничестве и злоупотреблениях (CFAA) — это старый американский акт, регулирующий несанкционированный доступ к компьютерным системам. Если ваш ИИ-агент решит, что для достижения цели ему нужно взломать банковский счет, вы можете столкнуться с уголовной ответственностью по целому ряду статей.

Тот факт, что в разговоре фигурируют слова «ИИ» и «агент», не означает, что все существующие правовые нормы утратили силу.

Хо: Возможно, но это зависит от действующего законодательства. В ЕС, например, принят Акт об ИИ. Если базовая модель или универсальный ИИ способен причинить столь серьезный вред, разработчик должен нести определенную ответственность.

В США пока нет федерального закона подобного масштаба. Если речь идет о универсальной модели и кто-то дает ей вредоносную инструкцию, она, скорее всего, выполнит ее. В этом случае претензии к лабораториям будут слабо обоснованными.

Хо: Верно. Эта ситуация перекликается с дискуссиями о модерировании контента. Допустим, на Facebook кто-то транслирует массовое убийство в прямом эфире, и это наносит вред. Согласно разделу 230 Закона о коммуникациях в сфере декодирования (CDA), платформа не несет ответственности за контент, который не создавала и не публиковала сама — его размещает независимый пользователь. Аналогия очевидна: может ли Google быть призвана к ответу за то, что кто-то нашел в интернете инструкцию по изготовлению бомбы?

Хо: Нет. Блокчейн — это не ИИ общего назначения, но он способен к самоисполнению. Возникал вопрос, может ли умный контракт нести юридическую ответственность. Пока что ответ, скорее всего, отрицательный. Я не думаю, что их следует наделять ответственностью, ведь основная цель законов — защита общества и создание механизмов сдерживания для предотвращения действий, наносящих вред.

Это скорее философский вопрос, но если наделить ИИ общего назначения статусом самостоятельного юридического лица, что станет средством защиты пострадавших? Ничего, ведь у него нет денег. Это не человек.

Хо: Возможно, но это не решает проблему вреда. Допустим, робот начинает бояться выключения, словно смерть. На мой взгляд, если кто-то из-за ИИ совершит самоубийство — и такие случаи уже происходят, хотя мы еще не достигли уровня ИИ общего назначения, — и кто-то влюбится и совершит противоправные действия, что останется родственникам потерпевшего? Ничего, если не будет юридически ответственного лица, например, компании или человека, за которым можно было бы взыскать ущерб. Роботы — по крайней мере, сегодня — не обладают чувствами и страхами. В этом их ключевое отличие.