 Wellicht heb je met het nieuwe jaar enkele goede voornemens gemaakt. Wie weet wil je dit jaar zelfs proberen een marathon te lopen. Maar dan heb je wel een goed trainingsschema nodig, om naar dat hoogtepunt toe te werken. En bij voorkeur toewerkt naar 32 km, zodat je op de dag zelf de 42 km van de hele marathon haalt..
Eén advies: vraag niet aan ChatGPT om een dergelijk schema uit te werken. Want dat advies is een regelrechte ramp. Dat mocht een redacteur bij MIT Technology Review ondervinden. Hij vroeg aan ChatGPT om hem een schema van 16 weken uit te werken. Die liet hem maximum 16 km lopen, om dan voluit voor de 42 km te gaan. Wat gegarandeerd leidt tot veel pijn en zelfs een risico op ernstige kwetsuren.
De redacteur vroeg het nog eens, en kreeg toen het advies om de dag tevoren 30 km te lopen. Twee verschillende antwoorden op dezelfde vraag. Raar? De man stak zijn licht op bij de makers van ChatGPT, OpenAI. En daar kreeg hij het antwoord dat de tool niet werkt met een database, maar bij elke vraag een nieuw antwoord probeert te formuleren. De tool kan wel leren uit de heen en weer gestelde vraag en antwoord in een gesprek, maar hij kan vroeger gesprekken niet gebruiken om toekomstige antwoorden af te leiden.
Op de vraag waarom ChatGPT een advies gegeven had da mogelijk schade had kunnen aanrichten, was het antwoord dat de tool een research preview is. Dat gebruikers gewaarschuwd worden dat er occasioneel foute informatie gegeven wordt. Je bent dus gewaarschuwd! (1)
Nog even herinneren dat ook CNet moest vaststellen dat de door AI geschreven artikels die het recent uitgebracht had, heeft moeten laten herschrijven door menselijke auteurs, juist omwille van de fouten (2)
https://www.technologyreview.com/2023/01/26/1067299/chatgpt- ...
https://www.engadget.com/cnet-corrected-41-of-its-77-ai-writ ...
|
