www.netties.be

Home

Vandaag

Nieuws | Google DataGemma moet resultaten van Google terug betrouwbaar maken

Gepubliceerd op: 2024-09-17

We zijn ondertussen wel gewend aan die chatbots van de verschillende aanbieders. Maar we hebben ondertussen ook al kunnen lezen dat die soms hallucineren - dingen vertellen die niet waar zijn, maar die zo overtuigend vertellen dat wij ze met zijn allen geloven. En dat is een groot probleem voor bedrijven die AI in tal van toepassingen willen inzetten.

Zoals bijvoorbeeld Google. Want we waren met zijn allen gewoon om de resultaten die het gaf op onze zoekopdrachten, te vertrouwen. En die AI hallucinaties breken dat vertrouwen, maken de resultaten -of liever: de antwoorden- onbetrouwbaar.

Google wil dit probleem oplossen met een nieuwe tool: DateGemma. Die maakt gebruik van twee verschillende methodes om ervoor te zorgen dat de grote taalmodellen hun antwoorden gaan fact-checken, vergelijken met betrouwbare data, en ook de bronnen citeren in het antwoord, wat alles transparanter maakt.

De eerste met hode is RGI of Retrieval-Interleaved-Generation, een soort fact-checker. Wanneer je een vraag stelt, dan zal het model met een eerste klad versie van het antwoord komen. RIG zal dan opzoeken welke delen van dat klad gecontroleerd kunnen worden in de grote Data Commons database van Google. Dat is een massieve brn met data en statistieken van echt betrouwbare bronnen, zoals de Verenigde Naties. Het zal die data daar controleren en als er fouten in staan, die in de eerste kladversie gaan corrigeren.

De tweede methode heet RAG of Retrieval-Augmented Generation. Wanneer je bijvoorbeeld vraagt Welke vooruitgang heeft India gemaakt op het gebied van wereldwijde gezondheidsdoelstellingen? dan zal het model gaan kijken welke data in die Data Commons kunnen helpen om de vraag te beantwoorden. Op basis van die cijfers zal het model een antwoord maken.

Een hele stap voorwaarts, als je het ons vraagt, want de meeste mensen zijn zich ondertussen bewust van de hallucinaties van chatbots, en Datagemma kan dat vertrouwen herstellen. Er is echter een grote maar. De data moeten uiteraard in de Data Commons van Google zitten.
Meer bij MIT.

(1) https://www.technologyreview.com/2024/09/12/1103926/googles-new-t...

Eerder verschenen artikels:

- Google: Gems en Imagen 3
- AI: nieuwe modellen van OpenAI, Google en Adobe

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL