РИ-05. Дыра ответственности за решение, принятое по модели

Содержание

[факт] Найденные формы ответственности за решение по модели, по возрастанию строгости (заход Р-5, §7.2):

1. Модель как аргумент (ступени 1–2) — ответственность не смещается вовсе.
2. Именованный подписант — USAF ADT: подписывает инженер по конструкции планера, а не модель и не поставщик; TWIN-VT: оператор процедуры.
3. Ограничение масштаба регулятором — FDA по TWIN-VT: одна площадка, 10 пациентов; ответственность сдерживается размером эксперимента.
4. Предупреждение регулятора о свойстве метода — EMA по PROCOVA: расчёт мощности может быть оптимистичным при различии корреляций между внешними данными и испытанием.
5. Градация режимов допуска модели к рычагу (наблюдение → советование → замкнутый контур в границах безопасности) — промышленная практика, стандартом не закреплена, класс источников — отраслевой/[СМИ по пресс-релизу].
6. Явное разделение задач человек ↔ автономный компонент с точками согласия и условиями обязательного вмешательства (NRC/INL/ORNL для АЭС) — единственная найденная проработка для ступени автономии, и та в статусе регуляторного исследования, а не нормы.
7. Сохранение независимого защитного контура (Yokogawa/JSR: ИИ управляет, но защитные блокировки и аварийный останов остаются нетронутыми). Формула: модель получает рычаг, но не получает права отменить защиту. Самая практичная из найденных форм — и она из культуры АСУТП, а не из DT-дискурса.

[не найдено — с указанием области поиска] Ни одного случая, где ответственность за ущерб от решения по двойнику была бы распределена договором, страховым продуктом или судебной практикой. Область поиска — заход Р-5 (практики управления и эффекты, ~целевой поиск по институтам валидации и ответственности, англо- и русскоязычные каналы). Это ненаходка сборщика, а не утверждение о том, что таких механизмов не существует в мире.

[факт] Ненаходка подтверждается независимо и изнутри поля: в собственном перечне ограничений и вызовов концепции цифрового двойника от AFRL (Kobryn, NAE/NASEM) последним пунктом стоит «addressing liability for operational failures» — распределение ответственности за эксплуатационные отказы. Источник самой концепции называет дыру открытой, и спустя годы независимого решения не появилось.

[гипотеза, из Р-5 §6.2] Между ступенями «модель советует» и «модель действует» меняется носитель ответственности: на нижних ступенях человек отвечает за решение и может не поверить модели, потому что у него есть время; на верхних он отвечает за границы, внутри которых модель действует сама, и времени не поверить у него уже нет. Организация умеет подписывать решения и не умеет подписывать границы — для этого нужен институт (регулятор, стандарт, страховщик), а вне АСУТП и медизделий такого института не существует. Косвенное подтверждение: единственные найденные случаи верхних ступеней живут ровно там, где институт есть.

[гипотеза] Отсюда самое сильное управленческое следствие всего исследования: верхние ступени автономии вне регулируемых контуров не наступают не потому, что не умеют считать, а потому, что некому отвечать.

Статус утверждения: перечень найденных форм — [факт]. Отрицательное утверждение о договорах/страховании/судебной практике — [не найдено в сырье], с областью поиска, и не как факт о мире. Объяснение через «носителя ответственности» — [гипотеза].

Данные

Где реализовался (ребро РИ → КС)

Риск проявляется как отсутствие, поэтому «реализовался» читается инверсно: там, где институт ответственности есть, верхние ступени достигнуты; там, где его нет, — не достигнуты нигде.

• КС-01 USAF ADT — институт есть (именованный подписант + военная инженерная дисциплина); ступень 3 достигнута.
• КС-09 Yokogawa JSR — институт есть (защитный контур АСУТП, не отменяемый моделью); ступень автономии достигнута на одном аппарате.
• КС-07 Unlearn PROCOVA EMA, TWIN-VT/FDA — институт есть (регулятор), ответственность ограничена масштабом и предупреждением о свойстве метода.
• Промышленность вне АСУТП, города, DTO, цепочки поставок — института не найдено, верхних ступеней не найдено. Ср. КС-16 Двойник Москвы, КС-04 NESO Virtual Energy System, КС-05 Anglian Water, КС-08 Bradford NHS — все на ступенях мониторинга/what-if, ответственность не смещается вовсе.

Чем купируется

Полного купирования в сырье не найдено. Найденные частичные механизмы:

1. СТ-08 ASME V&V 40 + FDA CM&S guidance — риск-пропорциональная достоверность модели для заданного контекста применения: риск модели = влияние на решение × последствия ошибки. Это не механизм ответственности, но предпосылка к нему: без градации риска нечего подписывать. [факт о рамке; гипотеза о переносимости].
2. ANSI/ANS-3.5 + NRC RG 1.149 и СТ-06 НП-003-97 — институт соответствия модели конкретному объекту с обязательной верификацией и отчётом; создаёт документируемое основание подписи.
3. Трёхшаговая процедура допуска модели к рычагу (Yokogawa/JSR): симулятор → валидация на исторических и реальных данных → включение в контур с сохранением независимых защит. Лучший найденный кандидат в кирпичи концепции для верхних ступеней — но это корпоративная практика, не стандарт. [факт о существовании].
4. Практический вопрос поставщику вместо технического: не «что умеет двойник», а «кто подписывает и за какое время». [гипотеза, операциональная].

Явно не купируется: ущерб третьим лицам, распределение убытков между владельцем модели, поставщиком платформы и оператором решения — механизмов не найдено.

Связан с

• КС-01 USAF ADT, КС-09 Yokogawa JSR, КС-07 Unlearn PROCOVA EMA, КС-06 Johns Hopkins TWIN-VT — случаи, где институт есть.
• КС-08 Bradford NHS, КС-04 NESO Virtual Energy System, КС-05 Anglian Water, КС-16 Двойник Москвы — случаи, где ответственность не смещается, потому что модель не решает.
• ПР-06 Две линии лестницы — обрыв лестницы практик проходит ровно по носителю ответственности.
• ПР-05 Автономное управление — ступень, на которой подписывается уже не решение, а граница.
• РИ-03 Complacency и камуфляж отказа — операторы «отказываются от чувства ответственности из-за ощущения, что управляет автоматика»: психологическая сторона той же дыры.
• РИ-07 Ложная уверенность в модели — без подписанта некому оспаривать модель.
• СТ-08 ASME V&V 40, СТ-06 НП-003-97 — частичное купирование.
• ОВ-09 Ответственность за решение по модели — прямое продолжение узла, заведён добором 2026-08-25 по заявке этого узла (в волне 1 ОВ-01…ОВ-08 его не покрывали). Ссылка проставлена проходом связывателя 2026-08-26. Разделение предметов: РИ-05 описывает состояние (дыра существует), ОВ-09 — открытый вопрос (чем и когда она будет закрыта).

Источники

• Kobryn P. A. (AFRL). «The Digital Twin Concept» / NAE Frontiers of Engineering, NASEM — перечень ограничений и вызовов, вкл. «addressing liability for operational failures» · https://www.nationalacademies.org/read/25620/chapter/6 · https://www.naefrontiers.org/194916/Paper · обращение 2026-08-25 · [независимый отчёт].
• Yokogawa. Пресс-релиз 22.03.2022 (JSR Corporation, автономное управление ректификационной колонной, 35 суток / 840 ч) · https://www.yokogawa.com/news/press-releases/2022/2022-03-22/ · обращение 2026-08-25 · [вендор].
• INL/ORNL для NRC. «Regulatory Considerations for Nuclear Energy Applications of Digital Twin Technologies» · https://www.osti.gov/biblio/1984814 · обращение 2026-08-25 · [независимый отчёт].
• ORNL/SPR-2018/1071. «Licensing Challenges Associated with Autonomous Control» · https://info.ornl.gov/sites/publications/Files/Pub120768.pdf · обращение 2026-08-25 · [независимый отчёт].
• FDA. «Assessing the Credibility of Computational Modeling and Simulation in Medical Device Submissions» · https://www.fda.gov/media/154985/download · обращение 2026-08-25 · [независимый отчёт].
• EMA/CHMP. Qualification opinion for Prognostic Covariate Adjustment (PROCOVA™), 2022 · https://www.ema.europa.eu/en/documents/regulatory-procedural-guideline/qualification-opinion-prognostic-covariate-adjustment-procovatm_en.pdf · обращение 2026-08-25 · [независимый отчёт].
• «Digital Twin-Guided Ablation for Ventricular Tachycardia (TWIN-VT)», NEJM, 02.04.2026 · https://pmc.ncbi.nlm.nih.gov/articles/PMC13052048/ · обращение 2026-08-25 · [рецензируемое].
• ASME V&V 40-2018. «Verification and Validation in Computational Modeling of Medical Devices» · https://link.springer.com/chapter/10.1007/978-3-032-09180-2_5 · обращение 2026-08-25 · [стандарт].
• ANSI/ANS-3.5 (1998/2009/2018) · https://webstore.ansi.org/standards/ansi/ansians2018-2394755 · обращение 2026-08-25 · [стандарт]; NRC Regulatory Guide 1.149 rev.4, 2011 · https://www.nrc.gov/docs/ML1104/ML110420119.pdf · [независимый отчёт].

Открытые хвосты

• Юридический канал поиска (страховые продукты по DT-ответственности, типовые договоры на поставку двойника, судебные дела) в заходах волн 1–2 не открывался целенаправленно — ненаходка получена попутно. Нужен отдельный дозаход с юридическими базами, прежде чем утверждение усиливать.
• Русскоязычный правовой слой (ответственность за решения по расчётным моделям в РФ) не проверялся вовсе.
• Расхождение источников по автономной колонне: Yokogawa (первоисточник) называет JSR Corporation, отраслевой обзор Chemical Processing (22.05.2026) — ENEOS/Yokkaichi. По первоисточнику подтверждён JSR ⚠.
• Направление причинности «институт → практика» или «практика → институт» остаётся открытым вопросом (Р-5 §7.1).
• ✅ ЗАКРЫТО добором 2026-08-25 / связывателем 2026-08-26: заведён ОВ-09 Ответственность за решение по модели, ссылка проставлена в «Связан с». ⏳ Само содержание вопроса остаётся открытым — ОВ-09 требует юридического канала поиска, которым не шёл ни один заход базы.

Проверен на дату: 2026-08-25