Wandelaars gered na reisplanning via Google Gemini

Een wandeling in de natuur liep voor een groep personen uit op een reddingsoperatie nadat zij op pad waren gegaan met een route- en voorbereidingsadvies van Google Gemini. De lokale autoriteiten lieten weten dat de chatbot de groep had aangeraden om veel minder water en voedsel mee te nemen dan voor hun specifieke situatie vereist was, wat leidde tot gevaarlijke omstandigheden in het veld.

Dit incident illustreert de risico's die kleven aan het blindelings vertrouwen op algemene chatbots voor fysieke activiteiten en survivalplanning. Grote taalmodellen zijn getraind op het voorspellen van tekst en beschikken niet over feitelijk inzicht in iemands persoonlijke omstandigheden, weersomstandigheden of de specifieke eisen van een buitensport. Naarmate meer consumenten generatieve kunstmatige intelligentie raadplegen voor praktische en soms kritieke adviezen, groeit de roep om betere disclaimers en een kritische houding ten opzichte van gegenereerde antwoorden.