 Bij de hele discussie rond zelfrijdende wagens, zijn er vele vragen die nog beantwoord moeten worden. Wat als er een ongeval gebeurt - wie wordt dan verantwoordelijk gesteld: de "chauffeur" van de wagen, de fabrikant van de wagen, of de ontwerper van de software? Een andere vraag, meer filosofisch: hoe zal de software reageren wanneer hij moet kiezen - stel dat de wagen een klapband krijgt, en lijkt af te stevenen op een aantal voetgangers die naast de weg staan - zal de software dan beslissen om die mensen te sparen, door een andere kant uit te rijden en daarbij het leven van de "chauffeur" in gevaar te brengen?
Het is de maker van de software die zijn systeem "opvoedt" om dergelijke beslissingen te nemen, zoverre is duidelijk. Ook is duidelijk dat het om moeilijke beslissingen gaat. Wanneer een fabrikant hierop een antwoord geeft, en bijvoorbeeld zegt dat de software zal kiezen voor de voetgangers, ten koste van de chauffeur, bestaat dan niet het gevaar dat niemand die auto gaat kopen - uit angst dat het leven van de chauffeur opgeofferd wordt voor anderen?
Als een van de eersten heeft Mercedes nu bekend gemaakt wat daarin zijn standpunt is. De software zal altijd de inzittende(n) beschermen, zelfs als dat betekent dat een voetganger mogelijk geraakt wordt.
Een uitleg hierover bij ReadWrite.
https://readwrite.com/2016/12/19/autonomous-mercedes-benz-ca ...
|
