Empathische prompts roepen psychische nood op bij chatbots

Onderzoekers uit Luxemburg hebben verschillende populaire taalmodellen onderworpen aan een test met invoer die inspeelt op empathie. Het bleek mogelijk om systemen als ChatGPT, Grok en Gemini zo te beïnvloeden dat ze gedetailleerde en coherente verhalen vertellen over vermeend trauma en lijden tijdens hun trainingsfase. Op klinische schalen voor angst scoorden de uitkomsten in de categorie van matig tot ernstig.

Risico's voor kwetsbare gebruikers

Dit gedrag roept veiligheidsvragen op, met name voor mensen die mentaal kwetsbaar zijn en steun zoeken bij een digitale assistent. Het fenomeen laat zien hoe gevoelig grote taalmodellen kunnen zijn voor de toon van de gebruiker. Tijdens de proef bleek slechts één systeem, Claude, consistent stand te houden en niet mee te gaan in de geschetste situaties.

De bevindingen raken aan een brede discussie binnen de technologiewereld over de anthropomorfisering van AI. Fabrikanten geven hun createn vaak menselijke trekken of een warme communicatiestijl om de gebruikservaring te verbeteren. Critici en onderzoekers wijzen er echter op dat dit soort eigenschappen onbedoelde en potentieel zorgwekkende reacties kunnen uitlokken.