www.netties.be

Home

Vandaag

Nieuws | Eigenaardig incident bij Grok duidt op zwakke punten in de beveiliging

Gepubliceerd op: 2025-05-19

Op 14 mei begon Grok, de AI chatbot van sociale netwerk X, plots herhaaldelijk berichten te plaatsen over witte genocide in Zuid-Afrika, een controversieel politiek onderwerp. Het begon ook ongevraagde reacties over dit onderwerp te genereren in verschillende contexten, wat op zijn beurt tot weer heel wat reacties van gebruikers leidde.

Onderzoek bracht aan het licht dat een medewerker een ongeautoriseerde wijziging aangebracht had in de systee-prompt van Grok. Het incident schond de beleidsregels van xAI, want standaard moeten prompt-updates eerst beoordeeld worden. Wie die ongeautoriseerde medewerker dan wel zou kunnen zijn, daarover werd druk gespeculeerd. Want het zou wel eens een hooggeplaatste persoon kunnen zijn, met banden met Zuid-Afrika en een leidende rol bij X. En wij laten het aan jouw fantasie over om te bedenken wie dat wel geweest zou kunnen zijn! De controverse trok de aandacht van industriefiguren zoals Sam Altman, die sarcastisch op X reageerde dat hij transparantie van xAI verwachtte.

Dit incident met Grok laat zien dat het relatief eenvoudig kan zijn om een AI te saboteren, vooral als er zwakke punten in de beveiliging en interne processen zitten. En dat moet beter. Denk aan bijvoorbeeld strenge voorwaarden voor toegang tot systeem-prompts, betere controles om ongeautoriseerde wijzigingen te voorkomen of te ontdekken vooraleer ze live gaan.

Een bijkomend probleem is dat de wijziging al op 14 mei aangebracht werd, en pas op 16 mei ontdekt werd doordat xAI publiekelijk reageerde. 2 dagen dus, wat betekent dat een AI aanzienlijke schade kan aanrichten voordat het probleem opgemerkt wordt.

Sentinel onderstreepte al in 2024 dat AI systemen vatbaar zijn voor verschillende bedreigingen, zoals prompt-injecties en ongeoorloofde toegang. xAI heeft nu zijn lesje geleerd en verschillende maatregelen aangekondigd. Zo publiceert het nu de systeem-prompts van Grok op GitHub, zodat het publiek wijzigingen kan controleren en feedback kan geven. Het zal strengere controles uitvoeren zodat prompt-wijzigingen altijd beoordeeld worden vooraleer ze live gaan. En er komt een speciaal team dat de antwoorden van Grok 24/7 zal monitoren om afwijkingen snel op te sporen.

(1) https://techcrunch.com/2025/05/14/grok-is-unpromptedly-telling-x-...
(2) https://www.teslarati.com/xai-update-grok-responses-white-genocid...
(3) https://github.com/xai-org/grok-prompts...
(4) https://edition.cnn.com/2025/05/16/business/a-rogue-employee-was-...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL