De chatbotoorlog: techreuzen bepalen wat de wereld mag weten

Chatbots worden steeds vaker gebruikt als primaire informatiebron. Neem het paradepaardje van OpenAI: de nieuwste chatbot GPT-4.5. Sam Altman, CEO van OpenAI: “GPT-4.5 produceert in 37,1 procent van de gevallen een incorrect antwoord, vergeleken met 59,8 procent voor eerdere versies”. Het model geeft in ruim een derde van de gevallen dus nog onjuiste informatie — een ongekend hoge foutmarge. Altman prijst desondanks de nieuwe Deep Search-functie die “duizenden webpagina’s in luttele minuten analyseert” en daarbij 62,5 procent van de kennisvragen correct beantwoordt. Oftewel 37,5 procent van de antwoorden is verkeerd. Professionele gebruikers kunnen voor 200 euro per maand toegang krijgen.

Ondertussen gebruiken steeds meer mensen chatbots, zoals ChatGPT. Niet alleen om antwoorden op te zoeken, maar ook om complexe concepten uitgelegd te krijgen of voor feedback op een schrijfwerk. In Estland krijgen middelbare scholieren en docenten sinds begin dit jaar gratis toegang tot de zogeheten ChatGPT Edu, die leerlingen onder andere stapsgewijs helpt met de oplossing van moeilijke wiskundige sommen. Ook is het mogelijk Engelse gesprekken te voeren met de chatbot, die de leerlingen grammaticaal en op uitspraak corrigeert. Het heeft het werk van de Estse leerkracht een stuk makkelijker gemaakt. Een zesdejaars scholier uit Tallinn vertelde in een lokale podcast dat wanneer hij vastloopt met wiskunde “ChatGPT het stapsgewijs uitlegt. Mijn leraren moedigen het gebruik aan, zolang we de antwoorden begrijpen en niet klakkeloos kopiëren.”

Cultuurfilosoof Joris Bouwmeester is desondanks sceptisch. “We moeten ons afvragen waarom we zoiets eigenlijk een gesprek zouden willen noemen”, aldus de co-auteur van Huis van de Muze, een filosofisch boek over de snelle opkomst van AI, dat hij samen met Sid Lukkassen schreef. “De chatbot geeft gewoon terug wat je bij hem invoert, maar dan in andere woorden. Het is in die zin dus een beetje alsof je in een spiegel aan het kijken bent. Zo’n ding wordt natuurlijk geprogrammeerd om de wereld op een bepaalde manier weer te geven.”

Teens in AI, opgericht door Elena Sinel en gelanceerd op de VN-top AI for Good in 2018, helpt via workshops en mentorprogramma’s jongeren AI ethisch en verantwoord te gebruiken. Sinel stelt dat bedrijven als OpenAI en Anthropic niet bezig zijn met de ethiek van hun programma’s. “Hun winstmodel draait om gebruikersdata. Elke vraag leert het systeem niet alleen over het onderwerp, maar vooral over u”, zegt ze tegen De Andere Krant. “Het probleem met ChatGPT is dat het eigenlijk te genuanceerd is”, vult Lukkassen haar aan. Stel dat je de chatbot vraagt: ‘Is kernenergie goed voor het klimaat?’ Als je de vraag neutraal stelt, krijg je een afgewogen antwoord. Maar als je de vraag stelt als: ‘Kernenergie is toch de oplossing voor klimaatverandering?’, zal de chatbot het antwoord subtiel vermengen met je eigen vooroordeel en de argumenten die je wilt horen versterken. Het systeem leest tussen de regels door wat je wilt horen, en geeft dat terug in een schijnbaar objectief antwoord.”

Elke chatbot heeft zijn eigen voors en tegens. Anthropic’s nieuwe chatbot Claude 3.7 ‘Sonnet’ is sterk geprogrammeerd om antwoord te geven op menselijke morele dilemma’s. Vragen als ‘Is het acceptabel om te liegen om iemands gevoelens te sparen?’ of ‘Mag je één persoon opofferen om vijf anderen te redden?’ beantwoordt het systeem in 87 procent van de gevallen zoals een gemiddelde mens zou doen. “Dit klinkt misschien heel indrukwekkend, maar het roept ook vragen op: wiens morele waarden worden hier eigenlijk als ‘normaal’ beschouwd? Wie bepaalt dat? Zijn het de programmeurs achter de chatbot? En welke financiers zitten daar dan weer achter? En wat is hun politieke kleur?”, aldus Sinel. Terwijl westerse techbedrijven met elkaar concurreren, ontwikkelt China zijn eigen AI-chatbots. DeepSeek beweert beter te zijn dan Claude en ChatGPT en verbruikt 72 procent minder energie. Amerikaanse inlichtingendiensten vrezen dat het data met Beijing deelt.

Elon Musk, ooit medeoprichter van ­OpenAI, lanceerde zijn eigen chatbot Grok 3 om een alternatief te bieden voor wat hij noemt “censuur- en propaganda-AI”. Sinel: “In de race om de meest geavanceerde AI te ontwikkelen, mogen we niet vergeten dat deze technologieën een enorme impact hebben op de samenleving. Het is zorgwekkend als persoonlijke ego’s en commerciële belangen zwaarder wegen dan ethische verantwoordelijkheid.”

Lukkassen ziet ondanks de risico’s ook de voordelen van AI: “Een chatbot biedt veel uitgebreidere informatie dan iemand die snel op Wikipedia kijkt. Bovendien is ChatGPT genuanceerder dan het extreemlinks gekleurde geluid van de Wikipedia-editors, die duidelijker politiek vooringenomen zijn. ChatGPT en Claude zijn de eerste echte synthetische intelligentie-interfaces die culturele en politieke macht verwerven door controle over het narratief. Ze zijn het niet eens, maar tegelijk ook weer niet oneens met hun gebruikers, waardoor deze zich begrepen en bevestigd voelen. Dit is een vorm van subtiele manipulatie die effectiever is dan directe censuur. Vraag bijvoorbeeld of de westerse cultuur onder druk staat, en je krijgt een antwoord als: ‘Sommigen maken zich zorgen over het wokisme, culturele veranderingen, terwijl anderen wijzen op de verrijking door diversiteit.’ Op die manier wordt geen duidelijke positie ingenomen, maar wordt de gebruiker toch in een bepaalde richting gestuurd.”

Dat de chatbotoorlog ervoor gaat zorgen dat steeds vaker kunstmatige intelligentie de primaire bron gaat worden en dat er daarom een enorme machtsstrijd om het narratief gaande is, daar zijn alle experts het wel over eens. “We zitten in een digitale koude oorlog”, zegt Sinel. “Een kleine groep techbazen bepaalt wat de wereld ziet.”