自動化がもたらす弊害【ボーダム・パニック】

人間の労働が機械に置き換えられたり、データ処理の大部分を情報処理システムが担うなどの自動化(Automation)が進められています。繰り返しの単調作業や物理的に人を超えた力が必要される作業には機械が導入されています。

航空宇宙の分野でも、初期の航空機ではパイロットが全てを操作していましたが、最新鋭の航空機はハイテクの塊であり、大部分の機体の制御をコンピュータが担っています。航空機の自動化に伴って、パイロットの立場は操縦者からシステム管理者へ変化してきました。

徐々に自動化されたシステム運用の問題点も明らかになっています。システムが問題なく稼働していれば、人間はモニタを行えば良いですが、いざ故障が検出されたとなると突然に人間による対処が求められます。高度化されて故障対処も自動で進めるために故障検出・分離・回復機能 (FDIR : Fault Detection, Isolation and Recovery)が付加されますが、自動で対処できなくなった最終的な場合には人間へ振られます。

自動化が進めば進むほど、異常が無い時と故障が発生した時において、人間に要求される能力のギャップが大きくなります。いきなり対処を求められれば、時間的なプレッシャを受ける中、迅速かつ的確さが要求されます。人間をパニックに陥れる要因が多く、ボーダム・パニック(Boredom Panic)とも呼ばれています。

ボーダム・パニック (Boredom Panic)
自動化システムが順調な場合には人間は特にする仕事もなく暇を持て余す(boredom)一方、突然自動化システムが故障したりすると、高度で重要な役割が一気に人間に回ってきてパニックに陥ること

対処する時間に余裕があり、対処手順も整備されているのならば、焦らず確実に対処することができます。航空機の離着陸、ロケットの打上げ、宇宙船の急減圧などの時間を争う時にボータム・パニックに陥ってしまえば、生命を危険に晒すことになりかねません。パイロットは航空機の離着陸をマニュアルでも必ずできるように繰り返し練習を重ねます。宇宙飛行士は緊急事態に対する対処を何度となく訓練を受けます。

自動化といっても、決められたルールに従って、決められたことを機械で実施させることになります。自動化システムの運用開始時は、現状に適応するようにエンジニアによって調整されているため、順調に稼働しますが、数年運用を続けると何らかの環境変化が生じ、ルールや実施方法を変更していく必要があります。そのままシステムを使用すると、人間が逆にシステムを補ったり、無理に合わせて仕事をすることになります。

そのため、自動化が進んでいる工場では、工場内という環境変化をなくした隔離エリアでロボットを設置し、所定の作業を行わせます。ロボット技術が進化して災害用ロボットが導入されることだけでニュースになりますが、実際には大勢の人間によって災害現場で救助作業が行われています。災害現場のような環境が刻々と変わるような状況において、全てに対応できるようにロボットをプログラミングしておくことは膨大な作業が必要ですし、そんなロボットであっても想定外のことには対応できません。

自動車の自動運転についても、全てのルールをプログラミングしておく困難です。例えば、人身事故について、前方に人がいた場合で、プレーキで間に合わない時は、左右に避けなさいとルール化したとします。突然人が飛び出してきて止まれず、右に避けたら対向車と衝突するため、左に曲がったらガードレールを超えて崖に落ちて搭乗者が死傷する。それが予想できた場合、歩行者を跳ねて良しとするルールはできずに、袋小路にはまります。

最近考えている私個人の考えとしては、完全な自動化は実現できないのではないかということです。自動化システムは人間を補助するために組み込まれ、人間と機械の作業分担やバランスを十分に考慮する必要があります。