Nee, niet blind. Een AI-model klinkt vaak heel zeker van zijn zaak, maar dat betekent niet dat het klopt. Daarom bouwt Devlore elke AI-agent zo dat er een mens kan ingrijpen. De agent doet het routinewerk. Een collega houdt het overzicht.
Spreekt een AI de waarheid?
Een taalmodel zet tekst om in nieuwe tekst. Het doet dat met veel statistiek en een enorme hoeveelheid trainingsdata. Het resultaat klopt vaak, maar het model weet zelf niet óf het klopt. Het redeneert niet echt.
Daardoor kan een AI een paar dingen niet uit zichzelf:
- Verantwoording afleggen voor een antwoord.
- Kritisch zeggen of iets wel of geen goed idee is.
- Garanderen dat iets waar is.
Een klein experiment met kabouters
Vraag maar eens aan ChatGPT, Claude of Mistral wat een kabouter is. Je krijgt een keurig antwoord over puntmutsen, bossen en sprookjes. Grote kans dat dit best anders is dan jouw eigen beeld van een kabouter. De AI geeft het gemiddelde van alles wat hij ooit heeft gelezen. Niet jouw waarheid, en ook niet per se dé waarheid.
Toch hebben we onze eigen chatbot het karakter van een kabouter gegeven: DevKabouter. Dat lukt door de AI duidelijke instructies, eigen informatie en grenzen mee te geven. Zo wordt een algemeen taalmodel een assistent met een eigen stem, die weet waar hij het over heeft en wanneer hij moet doorverwijzen.
Zo houden wij AI betrouwbaar
- Twijfel gaat naar een mens. Weet de agent het niet zeker, dan schakelt hij een collega in.
- De agent werkt met jouw eigen informatie, niet alleen met algemene kennis.
- Jouw team test mee. Voor de livegang doen we samen acceptatietests. Daarin controleer je of alles werkt zoals afgesproken.
- Eerst bewijzen, dan bouwen. Bij grotere projecten is er een go/no-go-moment: gaan we door of niet?
Wat betekent dit voor jou?
AI kan veel werk uit handen nemen. Maar zie het als een slimme nieuwe collega die nog ingewerkt moet worden. Je geeft duidelijke taken, je kijkt in het begin goed mee en je zorgt dat hij weet wanneer hij hulp moet vragen. Dan wordt AI echt waardevol.
Lees hoe Devlore AI-agents bouwt
Veelgestelde vragen
Ja. Een taalmodel redeneert niet echt en weet zelf niet of een antwoord klopt. Daarom bouwt Devlore elke AI-agent met een route naar een mens: twijfelt de agent, dan gaat de vraag naar een collega.
Door de agent met je eigen informatie te laten werken, duidelijke spelregels mee te geven, twijfelgevallen naar een mens te sturen en voor de livegang samen met je team te testen. Bij grotere projecten helpt een go/no-go-moment: eerst bewijzen dat het werkt, dan verder bouwen.