武夷山
过去,一些国家法律部门的缺省假定是:计算机不会出错。有过这么一桩典型案例:计算机出错导致邮政业务出现问题时,邮政员工就背了锅。
20多年前,日本富士通公司为英国邮政( UK Post Office)设计安装了名为Horizon的会计软件系统。任何新的IT系统在初期都会错误百出,Horizon也不例外,但它出的错往往是大错。比如该系统在日末结算后会说,邮政员工没有向系统提交足额的应入款项(Horizon IT system told members of staff that they were not depositing enough money at the end of a day’s trading. ),每天的“损失”可高达几千英镑。
于是很多邮政员工被指控犯了盗窃罪或做假账。他们面临两个选择:要么自掏腰包补上账目缺口,要么被起诉。共有700多名邮政员工被起诉;2000至2014年期间,平均每年有30名邮政员工因此入狱。相关受害者的生计和人际关系都被毁了。其中有些人含冤自杀。
富士通公司最近承认,在1999年向英国邮政交付Horizon系统时,他们就知道系统有bugs。
人们至今未注意的是,英格兰和威尔士的法律都认定,计算机系统不会出错。这才导致那么多人蒙冤。今后,人工智能辅助决策方面的应用将会越来越多,AI就不会出错么?世界各地如果不修改相关法律,今后会发生更加可怕的冤案。
有些被冤枉的员工联合起诉邮局方,他们向邮局索取并获得了打官司所需要的相关文件,还寻求IT专家的帮助。最终,他们在2019年胜诉。而那些个别行动的被冤枉者,只能选择与邮局庭外和解,还签署了保密协议,意思是计算机出错的相关证据不得公开。
总之,不能事先认定计算机证据一定是可靠的,凡是做出这种假定的法律都应修订,才能使类似上述故事的误判悲剧不再重演。
领取专属 10元无门槛券
私享最新 技术干货