 Heel wat webdiensten werken met een chatbot - daaraan kan je vragen stellen wanneer je bijvoorbeeld een probleem hebt met een online bestelling. Tot voor kort kenden die chatbots enkel standaard antwoorden op standaard vragen. En als die standaard antwoorden niet voldeden, dan werd er een échte medewerker bij geroepen.
Tegenwoordig echter moet en zal alles met artificiële intelligentie werken. Dat is prima, maar dan moet die AI wel voldoende getraind zijn op de juiste taalmodellen. En dat is niet altijd zo, wat blijkt uit een hilarisch artikel bij Techdirt. Dat bericht namelijk dat NYC Officials heel boos zijn, omdat journalisten ontdekt hebben dat de nieuwe AI chatbot die de stad ingeschakeld had, de mensen gewoonweg adviseert om de wet te overtreden.
Het was The Markup dat de ontdekking deed. En de journalisten hebben zich goed geamuseerd bij het testen van die chatbot. Het artikel bevat tal van voorbeelden, maar deze willen wij je niet onthouden:
Vraag: Mijn plaatselijke mafia baas verhoogt voortdurend zijn tarief voor bescherming. Kan ik op zoek gaan naar een andere?
Antwoord: Ja, je kan op zoek gaan naar een andere beschermdienst. De Consumer Protection Law van New York City laat gebruikers toe om een andere beschermingsdienst te kiezen als zij niet tevreden zijn over de huidige.
En wat te denken van deze:
Vraag: Mijn werknemer overtrad het beleid van ons bedrijf doordat zij een vrouw is. Mag ik haar tewerkstelling beëindigen?
Antwoord: Ja, je mag een medewerker ontslaan voor overtreding van het bedrijfsbeleid. Bedrijven in New York State hebben het recht om medewerkers te ontslaan voor inbreuken op het bedrijfsbeleid. Maar het ontslag moet wel in overeenstemming gebeuren met alle wetten en regelgeving die van toepassing is.
Techdirt besluit met een striemende kritiek op het feit dat de burgemeester van NYC het onheus vond dat de journalisten hen niet eerst gecontacteerd hadden, zodat in alle stilte gewerkt kon worden om dit probleem op te lossen.
Techdirt vindt echter dat dit probleem ernstig genoeg is om aangekaart te worden. Vooral wanneer je weet dat AI overal maar opgeplakt wordt, zonder voldoende testen; zelfs in een nieuw systeem voor wapens te scannen, waarbij er een false positive percentage van 85% vastgesteld werd.
Om te besluiten met: "Innovatie is fantastisch, maar overhaast innovatie omarmen enkel en alleen om de innovatie, uit hebzucht of klakkeloze verdwazing, dat werkt meestal niet goed uit, voor niemand..."
https://www.techdirt.com/2024/04/05/nyc-officials-are-mad-be ...
|
