← ДашбордКаталог узлов

РИ-02. Гудхартизация: оптимизируется метрика двойника, а не цель

Риск/барьер · статус: dev · проверен: 2026-08-25 · база «DT management — управление по концепции цифровых двойников»
Тезис: как только показатель двойника становится основанием управленческого решения, агенты начинают оптимизировать показатель, а не работу, — и цифровой двойник, сокращая лаг контура до нуля, ускоряет этот процесс, а не смягчает его.

Содержание

[факт] Оригинальная формулировка — Charles A. E. Goodhart, 1975: «Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes». Популярная переформулировка — Marilyn Strathern (1997): «When a measure becomes a target, it ceases to be a good measure». Родственный закон — Campbell's law (1979): «The more any quantitative social indicator is used for social decision-making, the more subject it will be to corruption pressures and the more apt it will be to distort and corrupt the social processes it is intended to monitor».

[факт] Manheim & Garrabrant (2018) различают четыре механизма — regressional, extremal, causal, adversarial. Это операциональный чек-лист, а не одно явление. Перенос на контур двойника ([гипотеза], разложение сборщика Р-4):

Вариант Как проявится в DT-контуре
Regressional (метрика = сигнал + шум) двойник ранжирует подразделения по времени цикла; «лучшие» — те, у кого больше пропусков в логе, а не лучше процесс
Extremal (связь держится в норме и рвётся в хвосте) двойник откалиброван на нормальной работе; в кризисе, когда рекомендации нужнее всего, он вне области применимости
Causal (вмешательство в метрику не меняет причину) сократили «время ожидания на шаге», перенеся ожидание в незалогированный интервал
Adversarial (агент оптимизирует под наблюдателя) сотрудники, знающие, что лог управляет решениями, ведут лог, а не работу

[факт, рецензируемое] Для организационного двойника это не аналогия, а прямое предсказание из рецензируемого источника. Lyytinen et al. (2024): «Agency also enables goal displacement …, where local, departmental, or personal goals begin to substitute for organizational goals… In extreme situations, actors will inevitably collude to commit fraud … which purposefully renders the model incorrect, so the state deviates from the model». То есть агентность превращает гудхартизацию в механизм порчи самой модели, а не только метрики.

[гипотеза, сильная — собственное утверждение захода Р-4] Гудхарт обычно предполагает лаг между введением метрики и её порчей. Двойник сокращает лаг: чем ближе контур к real-time, тем быстрее адаптируется агент. Скорость двойника — это скорость гудхартизации. Кандидат в ГП-узлы (свод Гейта-2, §4).

[гипотеза] Механизм самоподрыва: двойник по логам показывает POSIWID (Бир — «the purpose of a system is what it does»), то есть что система делает на самом деле. Но как только он становится инструментом управления, лог начинает описывать не то, что система делает, а то, что она показывает. Двойник разрушает собственный источник данных — это следствие постановки контура, а не эксплуатационный дефект.

[факт] Входной канал в организацию описан эмпирически: прозрачность, наводимая process mining, ведёт к недоверию и восприятию слежки на индивидуальном уровне; работники цеха могут считать её угрозой (BISE, 2025).

Статус утверждения: сам закон — [факт] класса A (рецензируемая эмпирика, три независимые формулировки 1975/1979/1997); goal displacement в DTO — [факт] предсказания рецензируемого источника; «скорость двойника = скорость гудхартизации» — [гипотеза], эмпирически не проверена.

Данные

Метрика Значение Год Организация Источник (обращение) Класс
Формулировка закона «Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes» 1975 Reserve Bank of Australia (Papers in Monetary Economics, vol. 1), C. A. E. Goodhart https://www.econbiz.de/Record/monetary-relationships-a-view-from-threadneedle-street-goodhart-charles/10002525049 · обращение 2026-08-23 [справочное подтверждение выходных данных]
Переформулировка «When a measure becomes a target, it ceases to be a good measure» 1997 M. Strathern https://en.wikipedia.org/wiki/Goodhart%27s_law · обращение 2026-08-23 [справочное]
Campbell's law «…the more apt it will be to distort and corrupt the social processes it is intended to monitor» 1979 D. T. Campbell, Evaluation and Program Planning https://maritimesafetyinnovationlab.org/wp-content/uploads/2023/05/Significance-2018-Rodamar-There-ought-to-be-a-law-Campbell-versus-Goodhart.pdf · обращение 2026-08-23 [рецензируемое]
Число различимых механизмов Гудхарта 4 (regressional, extremal, causal, adversarial) 2018 (рев. 2019) Manheim D., Garrabrant S., arXiv:1803.04585 https://arxiv.org/abs/1803.04585 · обращение 2026-08-23 [рецензируемое, препринт]
Предсказание goal displacement и намеренной фальсификации модели для DTO дословная формулировка в рецензируемой статье 2024 Lyytinen, Weber, Becker & Pentland, JOD 13:77–93 https://link.springer.com/article/10.1007/s41469-023-00151-z · обращение 2026-08-23 [рецензируемое]
Доля пропусков даты лечения после внедрения командного центра (порча данных, на которых стоит контур) 42,7 %, ухудшение в фазе активации; пропуск даты осмотра 23,4 % 2023 Bradford Royal Infirmary; мерил Mebrahtu T. F. et al. (финанс. NIHR), Int J Qual Health Care 35(4):mzad072 https://academic.oup.com/intqhc/article/35/4/mzad072/7282369 · обращение 2026-08-25 [рецензируемое]; класс доказательности — ITS (до-после с прерванным временным рядом)
Восприятие process mining работниками прозрачность ведёт к недоверию и восприятию слежки 2025 BISE https://link.springer.com/article/10.1007/s12599-025-00931-9 · обращение 2026-08-23 [рецензируемое]

Где реализовался (ребро РИ → КС)

Прямого задокументированного случая гудхартизации двойника в сырье не найдено. Область поиска — Р-4 (теории отказов) и Р-5 (практики и эффекты): эмпирических исследований Гудхарта непосредственно в DT/DTO-контуре не обнаружено; весь корпус эмпирики — вне поля двойников (монетарная политика, социальные индикаторы, алаймент).

Ближайший измеренный случай, совместимый с механизмом: - КС-08 Bradford NHS (командный центр GE, NHS FT, открыт 2019) — после внедрения ухудшилось качество исходных данных: пропуск даты лечения 42,7 %, даты осмотра 23,4 %, ухудшение именно в фазе активации. Механизм не установлен; кандидат — переключение персонала с записи на экран. [факт, один случай; воспроизведения нет ⚠]. Это не гудхартизация в чистом виде (метрика не была объявлена целью), но это документированный случай порчи двойником собственного источника данных — того же класса.

Чем купируется

Прямого купирующего института в сырье не найдено. Ни одного стандарта или регламента, адресующего гудхартизацию в DT-контуре, заходы Р-3/Р-5 не обнаружили. Найденное — переносимые примитивы и проектные требования, все со статусом [гипотеза] по переносимости:

  1. Чек-лист четырёх механизмов (Manheim & Garrabrant) — применять к каждой метрике, которую двойник выводит в решение: под какой из четырёх вариантов она подставлена.
  2. СТ-08 ASME V&V 40 — «доверие соразмерно риску решения»: чем сильнее метрика влияет на решение, тем выше требуемый объём валидации именно этой метрики, а не модели вообще.
  3. Различение POSIWID/декларация (ТЕ-02 Бир Viable System Model): двойник по логам показывает, что система делает; двойник по регламентам — что она декларирует. Разница между ними и есть предмет управления; исчезновение разницы — сигнал гудхартизации.
  4. Проектное требование от Bainbridge (РИ-03 Complacency и камуфляж отказа): автоматика обязана мониторить «необычное движение переменных», а не только отклонение от нормы — метрика, ставшая целью, перестаёт давать отклонение.
  5. Замедление контура как защита[гипотеза, контринтуитивная]: если скорость двойника есть скорость гудхартизации, то real-time является фактором риска, а не только ценности, и уровень оперативности контура становится проектируемым параметром.

Связан с

Источники

Открытые хвосты

Проверен на дату: 2026-08-25