РИ-07. Ложная уверенность в модели

Содержание

[факт] Риск назван в 01_План_исследований.md, заход Р-7, дословно: «ложная уверенность в модели (управленческий риск №1 ⚠ — решение по рассинхронённому двойнику)». Настоящий узел его раскрывает и, по итогам волн 1–2, уточняет: рассинхронизация — лишь один из четырёх источников незаслуженного доверия.

Четыре источника незаслуженного доверия

(1) Ложная импликация «есть модель — есть управляемость». [факт по содержанию критики] Теорема Conant & Ashby (1970) — «Every good regulator of a system must be a model of that system» — самое прямое теоретическое обоснование DT-подхода (>1700 цитирований). Но название сильнее доказательства — и это оговорка самих Conant & Ashby, напечатанная в статье сразу после доказательства (атрибуция исправлена 2026-08-26, В-2 §6; прежде приписывалась Baez'у 2016). Дословно: «although not all optimal regulators are models of their regulands, the ones which are not are all unnecessarily complex»; теорема устанавливает не то, что всякий хороший регулятор является моделью, а что ею являются некоторые — максимально простые среди оптимальных, и описывает свойство уже-оптимального регулятора, а не рецепт построения. → Класс опоры поднят с [экспертное мнение] до [рецензируемое — первичный текст]: у ключевого для узла тезиса основание оказалось сильнее, чем считалось. Что поправил Baez (пост «The Internal Model Principle», 27.01.2016; ⚠ прежде цитировался как «The Good Regulator Theorem» — это слаг URL): реконструируя ядро теоремы как энтропийную лемму, он отмечает «Note that this is not an 'if and only if'.» — равенство достигается, если существует функция h, но не обратно; плюс что доказательство «introduces extra assumptions that were not mentioned in the statement of the theorem». Это даёт тот же вывод базы по другому основанию, и оно формальное. [гипотеза] Практический вывод: наличие двойника не является достаточным условием управляемости; отсутствие модели — достаточное условие неуправляемости при высоком разнообразии. Асимметрия односторонняя, и вендорская риторика её систематически переворачивает.

(2) Асимметрия доказательности поля. [гипотеза, из синтеза Р-4] Всё, что обосновывает управление по двойнику, имеет статус C (рамки без эмпирической проверки). Всё, что предсказывает отказы, имеет статус A–B (эмпирика человеческих факторов, метрик и расследований аварий). Это не значит, что DT не работает; это значит, что сегодня о его отказах известно надёжнее, чем о его пользе. Для антихайповой дисциплины — главный операционный факт.

(3) Инфляция термина. [факт по числам; гипотеза по коэффициенту] Kritzinger et al. (2018): из 43 работ уровню «настоящий DT» (двусторонний автоматический поток) соответствуют 8 — 18 %, а реализованных DT-кейсов — 1 из 43. Adesanya et al. (2026), выборка 80 первичных исследований из 2569 просмотренных: уровень «Digital Twin» присвоен себе в 66 работах — 82,5 %. Отношение долей ≈ 4,6× — [гипотеза] сборщика (производная величина, корпуса разные и напрямую не сопоставимы; щель — отсутствие у Kritzinger формального определения «автоматического потока»).

(4) Рынок впереди науки. [факт по датам] Первый в истории Gartner Magic Quadrant для платформ DTO вышел 27.07.2026 — при академическом состоянии «нам нужна новая наука» (Becker & Pentland, 2022) и «риторика двусторонней причинности особенно проблематична» (Lyytinen et al., 2024). ✅ Первоисточник вскрыт (В-4, 2026-08-26) — не пересказом прессы, а по reprint'у: «Magic Quadrant for Digital Twin of an Organization Platforms», 27 July 2026, ID G00843099, авторы Marc Kerremans, David Sugden и третий (Auria Asadsangabi, по атрибуции Celonis); 18 вендоров (Leaders 6: ARIS, Celonis, GBTEC, Interfacing, Mavim, SAP). Канал: прямой curl и WebFetch к gartner.com/doc/reprints → 403 (Cloudflare), снимка в Wayback нет; взято браузером по вендорской reprint-ссылке из HTML пресс-релиза Celonis. Дата и категория подтверждены; платность самого отчёта сохраняется — reprint лицензирован для распространения вендором. ⚠ Цитировать только по reprint'у: названия у вендоров расходятся. Канон (reprint): «Digital Twin of an Organization Platforms»; Celonis в «Notes to editors»: «Digital Twins of an Organization» (без «Platforms»); SAP: «Digital Twins of an Organization Platforms». Три варианта у трёх источников — использовать формулировку reprint'а и ID G00843099. [факт, усиливающий п. 4] Gartner на 27.07.2026 определяет DTO дословно как «a dynamic software model that relies on operational and contextual data to understand how an organization operationalizes its business model…» — то есть программную модель организации, а не «двойник изделия»: индустрия институционализировала ветку, отличную от инженерной (Grieves/NASA). Разрыв «рынок/академия» датируется корректно. [гипотеза] Появление MQ означает, что набралось достаточно вендоров для ранжирования; оно ничего не говорит о том, работает ли идея.

(5) Даже независимый госаудит говорит о пользе модально. [факт] (внесено 2026-08-25, Т-27)

Самый высокий доступный базе независимый источник по двойникам — GAO-26-108457 (02.07.2026, 249 с., полный текст прочитан добором Х-1), и он не содержит ни одной количественной оценки эффекта двойника. Проверено не выборочно, а программно: поиск денежных сумм и процентов в окне ±500 знаков от каждого из 100 вхождений «digital twin» по всем 249 страницам — 0 совпадений.

Все утверждения о пользе в отчёте — модальные и со ссылкой на прежние работы самого GAO: «can lead to efficiencies», «can improve efficiency throughout a program's life cycle», «can provide predictive knowledge», «allow for design, validation, and delivery of complex products with speed».

[факт] Следствие для шкалы доказательности §5.4 фреймворка: класс доказательности эффекта у высшего доступного независимого источника — «декларация», низший класс. Не «до-после без контроля», не «до-после с контролем», не эксперимент — декларация, та же категория, что и у вендорского кейса, только произнесённая аудитором.

[гипотеза] Почему это отдельный источник ложной уверенности, а не повтор п. 2. Пункт 2 говорит об асимметрии между обоснованиями и предсказаниями отказов внутри теории. Здесь другое: орган, чья профессия — проверять расход $2,4 трлн, рекомендует практику, не предъявляя ни одной измеренной выгоды от неё. Управленец, ссылающийся на GAO как на независимое подтверждение пользы двойников, ссылается на документ, который такого подтверждения не содержит — при том что сам документ вполне добросовестен и своих модальностей не скрывает. Ложная уверенность здесь производится не источником, а его пересказом.

⚠ Что этим НЕ утверждается. Отсутствие цифр у GAO — не свидетельство того, что эффекта нет. Это свидетельство того, что на 2026 год его никто не измерил на уровне, доступном госаудиту. Различение обязательно к сохранению.

Как ложная уверенность реализуется в решении

[факт, рецензируемое] Человеческая механика описана 25-летним корпусом вне DT-дискурса: операторы «отказываются от чувства ответственности и, следовательно, подотчётности из-за ощущения, что управляет автоматика»; в эксперименте 39 из 40 испытуемых почти всегда следовали неверным автоматическим указаниям, несмотря на противопоказания и возможность проверки.

[факт] Второй урок — из Чернобыля: плохо определённая величина в модели опаснее отсутствующей. INSAG-7 §4.2: определение ОЗР «is not precise, and the importance of the quantity for the safety of the plant seems to have been poorly understood by the operators»; персонал верил, что «≥15 стержней = безопасно» — и вера была ложной. Показатель, которому доверяют больше, чем он заслуживает, — активный источник риска, а не нейтральная неточность.

[факт] Сам NASEM формулирует состояние поля как источник риска (Conclusion 2-5): двойники стали предметом широкого интереса и энтузиазма, и «сложно отделить истинное от просто желаемого» из-за отсутствия согласия между доменами.

Отличие от соседних узлов. РИ-06 Перформативный захват — про прекращение спора о модели; здесь — про переоценку её точности и применимости при сохраняющемся, но необоснованном доверии. РИ-03 Complacency и камуфляж отказа — про утрату способности проверить; здесь — про отсутствие основания доверять. РИ-04 Авария модели — реализовавшийся исход.

Статус утверждения: отдельные опоры — [факт] (Kritzinger, Adesanya, дата MQ, INSAG-7, эксперимент 39/40, Conclusion 2-5 NASEM). Сборка их в единый «управленческий риск №1» — [гипотеза]; прямого измерения ущерба от ложной уверенности в DT-внедрении в сырье нет.

Данные

Где реализовался (ребро РИ → КС)

• КС-08 Bradford NHS — единственный найденный независимый замер практики «ступени 1» и он отрицательный: улучшение времени «прибытие → осмотр» 0,9–9,7 мин, но ухудшение времени «лечение → завершение визита» на 11,5–53,4 мин, снижение LoS незначимо, и порча данных (42,7 % пропусков даты лечения). Класс доказательности — ITS. Уверенность во внедрении опережала измеренный результат.
• КС-15 B-52 мотивированный отказ — обратный полюс и лучший образец: мотивированный отказ от двойника, зафиксированный в госдокументе (GAO). Уверенность была проверена и не подтвердилась до постройки.
• КС-07 Unlearn PROCOVA EMA — случай, где ложная уверенность возникла в пересказе поля, а не в самом решении: в квалификационном заключении EMA слово «twin» не встречается ни разу, CHMP не квалифицировал формализованную процедуру разработки модели (Шаг 1), а сама квалификация метода стала возможной ровно потому, что «Type I error control… not dependent on the choice or performance of the prognostic model» — вывод сделан нечувствительным к «двойнику». Поле при этом продало кейс как «EMA признала двойников». Одновременно кандидат в центральный МФ-узел. (уточнено 2026-08-26, В-1)
• КС-16 Двойник Москвы — витрина с цифрой «свыше двух тысяч решений/год» из единственной точки провенанса — пресс-службы ДИТ, 21.07.2026 (⚠ прежняя запись «из первоисточника 07.07.2023, застывшая на три года» опровергнута 2026-08-26, В-3 §3а: цифры в 2023 г. не существовало), при нулевом числе независимых оценок; тир-2.
• Провалы КС-10 Toronto Quayside, КС-11 NEOM The Line, КС-13 GE Predix, КС-14 Cityzenith, КС-12 CDBB NDTP — по сырью проходят как реализовавшийся разрыв между заявленным и достигнутым; конкретная роль ложной уверенности в каждом в сырье не разобрана ⚠.

Чем купируется

1. СТ-08 ASME V&V 40 — «доверие соразмерно риску решения»: доверие перестаёт быть свойством веры и становится вычисляемой величиной (риск = влияние на решение × последствия ошибки). Самый ценный готовый кирпич концепции; переносится на любой домен без изменения логики. [факт о рамке; гипотеза о переносимости].
2. СТ-09 NASA-STD-7009 — действующая ред. B (05.03.2024): 11 факторов доверия в двух оценках (5 M&S Capability + 6 M&S Results), включая провенанс данных для разработки и для входа, характеризацию неопределённости, устойчивость результатов, технические ревью и управление процессом/продуктом. Даёт шкалу вместо бинарного «верим / не верим». ⚠ Прежняя запись («восемь факторов, включая историю использования и людей») описывала отменённую baseline 2008: фактора «Люди» нет с ред. A (2016) — исправлено 2026-08-26 (В-1 §4).
3. СТ-06 НП-003-97 — числовые допуски (±1 / ±2 / ±10 %) и обязательная верификация против прототипа с отчётом: контрпример расхожему «модель нельзя нормировать».
4. Правило квалификации кейса (провенанс-дисциплина §5.2 фреймворка): прежде чем звать объект двойником, фиксировать наличие автоматического потока объект→модель и модель→объект/решения. Прямая защита от инфляции термина.
5. Класс источника и класс доказательности обязательны (§5.1, §5.4 фреймворка): вендорский кейс без независимого подтверждения — не факт об эффекте, а факт о маркетинге.
6. Формула Sterman: «модели не валидируются — модели тестируются»; вендорское «двойник отражает вашу организацию» — регресс относительно методологического уровня 2002 года. [гипотеза].

Связан с

• КС-08 Bradford NHS, КС-15 B-52 мотивированный отказ, КС-07 Unlearn PROCOVA EMA, КС-16 Двойник Москвы — рёбра реализации.
• РИ-04 Авария модели — исход ложной уверенности при попадании в режим вне области применимости.
• РИ-03 Complacency и камуфляж отказа — механизм, отнимающий возможность проверки.
• РИ-06 Перформативный захват — предельная стадия, где вопрос о доверии уже не задаётся.
• РИ-01 Дрейф модели и отсутствие непрерывной валидации — источник рассинхронизации, названный в формулировке риска по плану.
• ТЕ-01 Эшби и теорема о хорошем регуляторе — ложная импликация «модель ⇒ управляемость».
• ТЕ-08 Академическая критика DTO против рынка — академический полюс асимметрии.
• ПН-05 Инфляция термина, ПН-06 Квалификация кейса — понятийные инструменты купирования.
• СТ-08 ASME V&V 40, СТ-09 NASA-STD-7009, СТ-06 НП-003-97 — купирование.
• ИС-01 NASEM 2024, ИС-05 Kritzinger 2018, ИС-04 CAICT — несущие источники.

Источники

• 01_План_исследований.md, заход Р-7 — формулировка «управленческий риск №1» · [внутренний канон проекта].
• Kritzinger W. et al. (2018) — таксономия DM/DS/DT; числа 43 → 8 (18 %), 1 реализованный кейс. Полный текст добыт в заходе Д-4 через Wayback Machine (живой ScienceDirect отдаёт 403) · обращение 2026-08-23 · [рецензируемое].
• Adesanya F., Castro Silva K., Graciano Neto V. V., David I. «Systems of Twinned Systems: A Systematic Literature Review», arXiv:2505.19916v2, 06.03.2026, принято в SoSyM · https://arxiv.org/pdf/2505.19916 · обращение 2026-08-23 · [рецензируемое, препринт].
• Conant R. C., Ashby W. R. «Every good regulator of a system must be a model of that system», IJSS 1(2):89–97, 1970 — первичный текст прочитан целиком (В-2, 2026-08-26, curl → pymupdf, 10 стр.); авторская оговорка «not all optimal regulators are models of their regulands» — отсюда · https://pespmc1.vub.ac.be/books/Conant_Ashby.pdf · обращение 2026-08-26 · [рецензируемое — первичный текст].
• Baez J. «The Internal Model Principle», Azimuth, 27.01.2016 (⚠ в базе до 2026-08-26 цитировался как «The Good Regulator Theorem» — это слаг URL) — собственные претензии Baez: «not an 'if and only if'», скрытые допущения доказательства, непрочитываемость нотации; указание на Francis & Wonham 1976 · https://johncarlosbaez.wordpress.com/2016/01/27/the-good-regulator-theorem/ · WebFetch → 403, curl с UA → 200 · обращение 2026-08-26 · [экспертное мнение].
• Gartner. «Magic Quadrant for Digital Twin of an Organization Platforms», 27 July 2026, ID G00843099 — вскрыт по reprint'у (Browser pane по reprint-ссылке из HTML пресс-релиза Celonis; прямой curl/WebFetch → 403 Cloudflare, Wayback пуст): дата, название, авторы, 18 вендоров, определение DTO, четыре укрупнённых use case · https://www.gartner.com/doc/reprints?id=00ThR000007i6loUAA&ct=260727&st=sb · обращение 2026-08-26 · [вендор — первичный reprint]. Прежний адрес gartner.com/en/documents/8166629 — платная карточка; Quick Answer …/4004172 — HTTP 403.
• Исследование/Верификация_В-2_академические_2026-08-25.md §6 и Исследование/Верификация_В-4_вендорские_2026-08-25.md §3 — протоколы сверки атрибуции Conant–Ashby/Baez и Gartner MQ · 2026-08-26 · [внутренний протокол верификации].
• Becker M. C., Pentland B. T. «Digital Twin of an Organization: Are You Serious?», LNBIP, 2022, DOI 10.1007/978-3-030-94343-1_19 · https://link.springer.com/chapter/10.1007/978-3-030-94343-1_19 · обращение 2026-08-23 · [рецензируемое].
• NASEM. Foundational Research Gaps and Future Directions for Digital Twins, 2024, Conclusion 2-5 · https://www.nationalacademies.org/read/26894/chapter/4 · обращение 2026-08-23 · [независимый отчёт].
• CAICT (中国信通院), Интернет-общество Китая, CCSA. 《数字孪生城市白皮书（2023年）》, No.202326, декабрь 2023 · caict.ac.cn/kxyj/qwfb/bps/202401/P020240326602142432204.pdf · обращение 2026-08-23 · [гос. источник КНР].
• INSAG-7, §4.2, §5 — о неточном определении ОЗР · https://www-pub.iaea.org/MTCD/publications/PDF/Pub913e_web.pdf · обращение по сырью Д-2 · [независимый отчёт].
• «Bending the Automation Bias Curve», ISQ 68(2):sqae020, 2024 · https://academic.oup.com/isq/article/68/2/sqae020/7638566 · обращение 2026-08-25 · [рецензируемое].
• Mebrahtu T. F. et al., Int J Qual Health Care 35(4):mzad072, 2023 · https://academic.oup.com/intqhc/article/35/4/mzad072/7282369 · обращение 2026-08-25 · [рецензируемое].
• Sterman J. D., SDR 18(4):501–531, 2002 · https://web.mit.edu/jsterman/www/All_Models_Are_Wrong_(SDR).pdf · обращение 2026-08-23 · [рецензируемое].

Открытые хвосты

• Прямого измерения ущерба от ложной уверенности в DT-внедрении в сырье нет; риск держится на переносе из human factors и на отрицательном кейсе Bradford.
• Коэффициент «4,6×» — производная величина по несопоставимым корпусам; либо пересчитать на одном корпусе, либо не выносить в тезисы.
• Роль ложной уверенности в провальных кейсах (Toronto, NEOM, Predix, Cityzenith, CDBB) в сырье не разобрана — ребро РИ-07 → КС для них поставлено предположительно ⚠.
• Позиция DTO на Gartner Hype Cycle не найдена в открытых источниках (Р-4, «Не подтвердилось» п. 1) — трек хайпа по DTO остаётся пустым.
• «24 работы по DTO против 48 392 по digital twin» — цифра [перенос], в Р-4 не перепроверена (нет доступа к Scopus/WoS).
• Не исследовано: как модальные формулировки госаудита превращаются в утвердительные в пересказе. Механизм назван в п. 5, но цепочка «can lead to efficiencies» → «GAO подтвердил эффективность двойников» в сырье не прослежена ни на одном примере. Прямой наряд следующему заходу и, вероятно, материал для отдельного МФ-узла.
• Правка добор-наряда 2026-08-25. Внесено по акту приёмки, Т-27: источник незаслуженного доверия (5) — у высшего доступного независимого источника (GAO-26-108457) количественных эффектов двойника нет (0 совпадений при сплошном программном поиске по 249 страницам и 100 вхождениям термина), все утверждения о пользе модальные; следствие — класс доказательности эффекта «декларация»; отличие от п. 2 (ложная уверенность производится пересказом, а не источником) и явная оговорка «отсутствие цифр ≠ отсутствие эффекта». Три строки в «Данные». Содержание сверх наряда не менялось.

Правка по верификации первоисточников 2026-08-26 (В-2, В-4, смежно В-1/В-3). (1) Источник (1) — исправлена атрибуция: оговорка «не всякий оптимальный регулятор — модель» принадлежит самим Conant & Ashby (1970), а не Baez'у; класс опоры поднят до [рецензируемое — первичный текст], за Baez'ом оставлена его настоящая формальная поправка («not an 'if and only if'») и исправлено название поста («The Internal Model Principle»). (2) Источник (4) — Gartner MQ вскрыт по reprint'у (G00843099, 27.07.2026, 18 вендоров, состав квадранта, дословное определение DTO как программной модели организации); внесено предупреждение о трёх расходящихся вариантах названия у вендоров-цитирующих — цитировать только по reprint и ID. Датировка разрыва «рынок/академия» подтверждена. (3) Смежно приведены к правленым узлам: строка о КС-07 (отказ узкий; внесена находка о независимости контроля ошибки I рода от качества модели), строка о КС-16 («>2000» — ДИТ 21.07.2026, «застыла на три года» снято) и пункт купирования по СТ-09 (11 факторов ред. B; фактора «Люди» в действующем стандарте нет).

Проверен на дату: 2026-08-26