Verleden week kondigde Meta aan dat het zijn chatbot Meta AI aan het testen was op WhtasApp, Instagram en Messenger, een AI die zoals gewoonlijk gebaseerd is op een LLM of Large Language Model. (1)
Nu we steeds meer van dergelijke tools kunnen gebruiken, valt er toch stilaan een verandering te merken in de manier waarop die werken. Zoals je al eerder kon lezen werken die LLM's eigenlijk door te voorspellen wat het volgende woord zou zijn in een tekst, of wat de volgende pixel zou zijn in een afbeelding, een voorspelling die gebaseerd is op waarop zij getraind werden, en op was in de reeks daarvoor al staat. In een artikel bij The Conversation wijst Nello Christiani, professor in AI aan de Universiteit van Bath erop dat die op het punt staat te veranderen, waardoor chatbots heel wat krachtiger kunnen worden.
Het GPT-5 model van OpenAI en het Llama 3 model van Meta zouden namelijk het vermogen hebben om vooruit te kunnen plannen, en niet alleen maar voorspellen wat nu zou volgen. Google Deepind heeft namelijk een algoritme ontwikkeld dat goed is in het vooruit plannen, AlphaGo genoemd, dat wereldkampioenen in het spel Go zou kunnen verslaan. En het idee is nu om het planning element van een AlphaGo op te nemen in LLM's, ter vervanging van het voorspellende of "autoregressieve" element.
Dat zou betekenen dat een chatbot zou kunnen begrijpen dat jij een einddoel voor ogen hebt, en dat hij je kan helpen om dat doel te bereiken. Terwijl de huidige LLM's geen idee hebben van wat jouw doelen zijn.
Als dat in de volgende modellen van Meta en OpenAI gebeurt, dan zou je een grote verbetering kunnen zien in wat die chatbots kunnen. Bovendien zou dit waarschijnlijk ongewild gedrag van chatbots zoals hallucinaties kunnen verminderen.
https://theconversation.com/ai-chatbots-are-bad-at-planning- ...
https://deepmind.google/technologies/alphago/
|