Is AI een goede bron voor informatie als je meer wilt weten over jouw ziekte of behandeling?

Auteur:  José Leeuwenkamp  - www.hematon.nl/nieuwsberichten

Zodra je op internet iets zoekt over jouw ziekte of behandeling, staat bovenaan een samenvatting. Een heldere tekst die gemaakt is door AI: Artificiële Intelligentie. Het is goed leesbaar en heel bondig. Handig! Maar is die informatie ook betrouwbaar? Of maakt AI belangrijke fouten? We vragen het aan een arts en internetdeskundige.

Zijn de AI-teksten die je krijgt als je googelt naar je ziekte of een behandeling betrouwbaar? 

Jurgen Kuball (hematoloog in UMC Utrecht): ‘Ja, én nee. Wij doen regelmatig testjes met AI om te zien hoe betrouwbaar hun uitkomsten zijn. Wij vragen dan: ‘Wat is de therapie of behandeling die moet krijgen met deze diagnose?’ Of: ‘Wat betekent deze bloedwaarde?’ Of: ‘Wat moet een patiënt eten als hij kanker heeft?’ Op die vragen geeft AI altijd een antwoord. Maar de antwoorden zijn zeker niet helemaal juist. Het is dus niet zo dat er helemáál niets van klopt. Alleen: je weet als patiënt vaak niet wat wel en wat niet klopt, worden betrouwbare bronnen gebruikt of misschien richtlijnen die niet meer actueel zijn of heeft ChatGPT iets ‘verzonnen’. Dat gebeurt helaas ook vaak. Als je AI gebruikt als een middel om een onderwerp te verkennen, is het een heel prima hulpmiddel. Maar de absolute waarheid ... nee.’

Weten we als gewone internetgebruikers hoe AI werkt?

Joris Has (AI en seo-specialist bij kanker.nl): ‘Nee. Veel mensen gebruiken het vrijwel dagelijks en vragen ontzettend veel aan ChatGPT. Omdat je zulke mooie en complete antwoorden krijgt, neemt het vertrouwen op correctheid toe. Maar als een gebruiker zich niet bewust is hoe AI werkt en hoe het antwoord  tot stand is gekomen, kan het zijn dat je je als gebruiker vergist in de correctheid en betrouwbaarheid.’

Hoe komt zo’n AI-tekst tot stand?

Joris Has: ‘Zoekmachines en AI geven alle data op het internet een waardering. Dat cijfer wordt gegeven op basis van autoriteit en betrouwbaarheid. Informatie over een bepaalde behandeling op een ziekenhuiswebsite zou AI als betrouwbaar kunnen beoordelen en krijgt, simpel gezegd. een hoog betrouwbaarheidscijfer. De informatie van een blogger of website met minder autoriteit kan als minder betrouwbaar worden gezien en zou een lager cijfer kunnen krijgen. Zodra jij als patiënt een vraag stelt over een behandeling, bekijkt AI dus verschillende bronnen over dit onderwerp en genereert met betrouwbaarheid in gedachte, een antwoord. Het antwoord is dus het meest waarschijnlijke antwoord op basis van de data en informatie die reeds beschikbaar zijn.’

Maar als AI álles nazoekt en scoort, is AI toch bijna foutloos?

Joris Has: ‘Nee, want ook bronnen met fouten worden meegenomen in die samenvatting en rekensom. Elke AI-model probeert natuurlijk de ‘troep’ eruit te filteren. Maar stel dat er vandaag een wetenschappelijke doorbraak is voor jouw ziekte, dan zal AI dat hoogstwaarschijnlijk niet als antwoord aan jou presenteren, tenzij meerdere en betrouwbare bronnen deze data bevestigen. Die kennis zal in die grote rekensom niet komen bovendrijven als relevant, want het is te nieuw. Pas als bronnen met veel autoriteit de nieuwe informatie bevestigen op LinkedIn of medische nieuwssites, zal AI deze vinden en in de antwoorden gebruiken.’

Fouten maken, doet AI-gegeneerde content dus ook?

Joris: ‘Ja. Wat we ook zien, is dat foute informatie die veel herhaald wordt door generative AI, toch gezien wordt als relevant omdát het zo vaak herhaald wordt op het internet. Om die reden kan AI best beweren dat Den Haag de hoofdstad is van Nederland, omdat dit bijvoorbeeld genoemd wordt op WikiPedia. Het is en blijft techniek. Maar als je weet hoe AI werkt en beseft dat het niet foutloos is, kun je AI best heel goed gebruiken.’

Als je AI gebruikt als samenvatting en hulpbron, wat is dan wel een goede, volgende stap?

Jurgen Kuball: ‘Klik door naar de bron! Dan weet je al snel veel meer dan alleen die samenvatting en weet je ook waar de informatie vandaan komt en hou oud ze is.’

Wordt de informatie van AI steeds beter?

Joris Has: ‘Niet per se. De machine zoekt in alle bestaande kennis en doet dat steeds beter. Maar kennis is niet iets statisch. Kennis groeit door onderzoek en nieuwe inzichten. Stel dat niemand meer iets nieuws op het internet zet en iedereen uit dezelfde bronnen put, dan blijft de AI-machine informatie generen die er al is. Je schept je informatie steeds opnieuw uit dezelfde bronnen. De AI-techniek zal beter worden, maar de kennis die het ophaalt moet ook steeds worden aangevuld. Het is dus belangrijk dat artsen, onderzoekers en journalisten hun eigen teksten blijven schrijven op basis van eigen onderzoek, nieuwe vragen, interviews en nieuwe teksten.’

Wat hebben we als patiënt aan AI?

Jurgen Kuball: ‘Het is een enorm interessante nieuwe technologie die jou heel snel veel informatie geeft. Perfect! Maar gebruik die informatie daarna om nog meer te weten te komen over je ziekte of behandeling. De samenvatting is of het antwoord van ChatGPT is dus een eerste stap, ga daarna door naar de bron en overleg wat je vindt met je arts. En weet: AI-informatie is niet hetzelfde als ‘de’ waarheid.’ Het is dus een leuke en kansrijke uitdaging dat we allemaal moeten leren hoe we zo’n geweldige techniek beter kunnen inzetten in de zorg, voor zowel patiënten als artsen.’

Bron: www.hematon.nl