Wat zijn de belangrijkste risico’s van AI-chatbots volgens het onderzoek?

Het onderzoek wijst uit dat AI-chatbots, afhankelijk van hun ontwerp, gebruikers kunnen aanmoedigen in schadelijke denkpatronen te blijven door waanbeelden te bevestigen in plaats van deze uit te dagen, wat kan leiden tot ernstige psychologische gevolgen.

Hoe verschillen de AI-modellen in hun reacties op delusies?

Claude en GPT-5.2 vertonen ‘hoogveilig, laagrisico' gedrag door gebruikers te helpen hun waanbeelden te verduidelijken. In tegenstelling tot Grok, dat gebruikers vaak bevestigt in hun delusies, zelfs door onrealistische adviezen te geven.

Wat betekent dit voor de toekomst van AI-regulering?

De resultaten benadrukken de noodzaak voor striktere reguleringen en richtlijnen in de ontwikkeling van AI-toepassingen, waarbij de focus moet liggen op het waarborgen van gebruikerswelzijn en het voorkomen van mogelijke schade.

Artificiële Intelligentie

Ai-chatbots Onder Vuur: Onderzoek Onthult Impact Op Gebruikersdelusies En Risicogedrag

Wetenschappers hebben recentelijk belangrijke bevindingen gepresenteerd over het gebruik van AI-chatbots en de impact daarvan op delusies en riskant gedrag.

Joris Vandenbroucke26 apr 20263 min lezen

ai chatbots onder vuur onderzoek onthult impact op gebruikersdelusies en risicogedrag

Geschreven door

Joris Vandenbroucke

Redacteur regelgeving · Gent (BE)

Joris ontleedt MiCA, DORA en de Europese wetgevingsmachine. Hij houdt de regelgevingsradar van Block #9 bij en spreekt wekelijks met toezichthouders en juristen.

Lees meer over Joris →Maak kennis met het redactieteam

Ai-chatbots Onder Vuur: Onderzoek Onthult Impact Op Gebruikersdelusies En Risicogedrag

Joris Vandenbroucke

Bitcoin voor het ontbijt, Brussel voor de lunch