イギリスのPOST OFFICEが運用する会計システムの問題について、昨今、あれこれと話題になっているかと思います。昨日、テレビで、その事情について解説する番組があり視聴しました。

　イギリスでは、個人が、国営企業であるPOST OFFICEと契約を行い、預金などの窓口業務を行うことができる、という遣り方があるのだそうで、そこで使っている会計システム「ホライゾン」に不具合があり、2000年から2014年に掛けて、700人以上の郵便局長が横領や不正経理の無実の罪を着せられた事件があった、のだそうです。

　事件は、或る郵便局長が、「自分が預かった金額とは異なった金額残高を、会計システムが示し、しかもどうやらその金額が、何かの拍子で自動的に変わって行ったりする、という症状に遭遇して、サービスセンターに調べてくれるようにお願いした」ことから始まったようです。

　ITについて多少の知識がある人なら誰でも、「人間が作ったシステムは完全と言うことはありえず、何かのバグが必ず潜んでいる」と考え、少なくとも「システムに反故は無いか最初に調べる」ものかと思います。

　それが今回の事件では、何度問い合わせしても「システムは完全である」との回答があるだけで、更には「貴方の側の横領か不正経理ではないか」と疑ったとのこと。その結果、営業停止に追い込まれたり訴えられて収監されたりした・・・。

⇒この時点で、「人間ではなく、機械の方をより信用しているらしい」と感じませんか？

　番組を見て、あのイギリスでこういう事件が起こった、ということにまず驚き、その後、国営のPOST OFFICE側が（どうやら複数の事案が報告されてきているのに）真摯な対応を行わなかったらしきことに更に驚き・・・。

　POST OFFICEのサービス受付窓口が、「システムに絶対的な信頼を置いていた」のかどうかは分かりませんが、コンピュータを全面的に信頼するのは危険である（＝なんてったって、コンピュータ上で走っているプログラムは、人間が大急ぎで作った、或る意味不完全なものなのだから）ことに少しでも気づいて、問題が見つかった当初に正しく動いていれば、こういうことにはならなかっただろうと思われました。

　昨今、AIのいうことを信じて自分の行動を決めてしまう人もいるようですが、AIにも瑕疵は有り、原理的に「責任を持って相談に乗ってくれるわけではない」ことをあらかじめよく知って利用すべきかと、改めて感じました。

　また、何か事故や事件があった時、まずは根本原因・真実をしっかり把握することが、一番大切なことなのかなあと思いました。（飛行機事故なども、責任の所在をあれこれ言う前に、根本原因が何かを正しく突き止めるように動きますよね・・・）