Een opvallend verhaal over "de computer kan het niet fout hebben"
Bij de BBC lees je een toch wel onthutsend verhaal. In 1999 heeft daar het UK postsysteem een software van Fujitsu geïnstalleerd, Horizon, om te gebruiken voor boekhouding en voorraadbeheer. Al heel snel hadden de onderpostmeesters klachten over: het systeem zou fouten bevatten, omdat er tekorten gemeld weden die niet bestonden. Sommige mensen stopten dan maar geld uit eigen zak in de kassa, om het tekort goed te maken. Andere mensen konden dat niet, en in vele gevallen werden die dan van diefstal beschuldigd.
Zo heeft de postdienst in het VK tussen 2000 en 2014 maar liefst 736 mensen vervolgd voor diefstal, fraude, valsheid in boekhouding, op basis van bewijzen van het Horizon systeem. IN 2009 werd er een eerste rapport gepubliceerd over deze bug. Er kwam een tweede rapport, maar alles werd toegedekt, tot in september 2014 een vertrouwelijk rapport gelekt werd naar de BBC. Al die tijd bleef Fujitsu volhouden dat er geen probleem was met de software, maar in 2019 kwam de Postdienst tot een vergelijk met 555 mensen die een klacht ingediend hadden, na het lekken van het rapport. En nu pas wordt het Horizon systeem vervangen door een nieuw systeem.
Een opmerkelijk geval van "computer says no", en een groter vertrouwen in de onfeilbaarheid van computers dan in de eerlijkheid van de mens.
https://www.bbc.com/news/business-56718036
https://www.bbc.com/news/business-56859357
https://en.wikipedia.org/wiki/Horizon_(IT_system)
|