nabbla (nabbla1) wrote,
nabbla
nabbla1

Categories:

О человеческом факторе

В продолжение темы, затронутой в комментариях.

Очень простая, модельная задачка, все цифры "с потолка", без кучи нулей, просто для наглядности.

Есть пилот самолёта, есть автомат. 50% времени самолётом управляет пилот, 50% - автомат. И пилот, и автомат с одинаковой вероятностью 1% могут допустить ошибку. Если ошибку допустил автомат - то ситуацию попытается исправить пилот, но с вероятностью 1% у него это не удастся - будет катастрофа. Но будем милосердны к пилоту - и виновным в этом случае назначим автоматику (не всегда будет так: иногда скажут, данный отказ, например Runaway Stabilizer, описан в чеклистах, пилот был обязан его распознать и в течение 3 секунд парировать. Виноват пилот, см. страницу 215. "Повезло им" - следом ещё один самолёт рухнул, поэтому их отчасти реабилитировали).

Если самолётом управлял пилот, и он допустил ошибку - это сразу катастрофа, т.к автомат отключён, "у пилота приоритет". Виновным назначается пилот.

Что получается в конечном счёте?


Условная вероятность катастрофы, когда самолётом управляет пилот, составляет 1%. Когда автомат - 0,01%. В целом, вероятность катастрофы: 0,505%.

Очень быстро соберётся статистика - ЧЕЛОВЕК стал причиной 99% всех авиакатастроф!!! ДОЛОЙ ЧЕЛОВЕКА!!! А роботам слава, они самолёт не роняют почти никогда.

Но если человека убрать, то ВНЕЗАПНО вероятность катастрофы вырастет вдвое, до 1%.

Либо, можно человека оставить - но автомату дать приоритет (частично так сделано в Airbus - в нём уже нет прямого управления через тросы, вместо него Fly-By-Wire, джойстиками, и у бортового компьютера довольно большие полномочия "не слушаться человека, если он фигню какую-то делает"), т.е теперь уже при ошибке пилота его поправит компьютер, а ошибку компьютера не поправит никто, он попросту не позволит.

Тогда мы выйдем на те же самые 0,505%, что и прежде, но теперь виновником в 99% случаев станет компьютер.

Собственно, мы же сделали их "равнозначными" по количеству ошибок! Весь вопрос в том, "кто главный" - на него все шишки в итоге и упадут.

А мораль сей басни такова: если имеется лишь статистика "какая доля катастроф была вызвана человеческим фактором", 85% вроде как, она не способна дать полной картины. Имеем "парадокс выжившего", только наоборот. Мы не видим регулярно случающиеся косяки автоматики, которые настолько тривиальны и будничны, что и сами пилоты особо не придают им значения - исправляют и летят себе дальше.

И только если набрать и эту статистику, можно будет оценить, так ли плохи лётчики, можно ли их оттуда вытащить и автомат поставить?


PS. "Картинка для привлечения внимания", зловещая долина автоматизации:

(цифры очень условные, главное тут форма кривой)

Нарисовал её когда-то, чтобы обосновать, почему мне не нравится C/C++ :)
Tags: математика, моделирование, странные девайсы
Subscribe

  • А всё-таки есть польза от ковариаций

    Вчера опробовал "сценарий", когда варьируем дальность от 1 метра до 11 метров. Получилось, что грамотное усреднение - это взять с огромными весами…

  • Потёмкинская деревня - 2

    В ноябре 2020 года нужно было сделать скриншот несуществующей программы рабочего места под несуществующий прибор, чтобы добавить его в документацию.…

  • Очередная несуразность в единицах измерения

    Когда-то я написал программу PhysUnitCalc - калькулятор, умеющий работать с размерностями. Мне казалось, что я наступил уже на все грабли, которые…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 6 comments