Bergbeklimmers gered na onjuist advies van AI-chatbot Gemini
Een groep bergbeklimmers moest worden gered nadat zij vertrouwden op een tijdsinschatting van Google's Gemini voor het beklimmen van een berg. De chatbot beweerde dat de tocht acht uur zou duren, maar de groep moest ruim een dag later alsnog worden gered.
Een groep bergbeklimmers die zich liet leiden door informatie van de chatbot Gemini kwam in de problemen tijdens een tocht. Het model schatte de benodigde tijd voor de klim onrealistisch kort in, waarna de hulpdiensten uiteindelijk nodig waren om de groep ruim een dag later te bereiken.
Dit incident benadrukt de risico's van het inzetten van generatieve systemen voor complexe planningen in kritieke situaties. Hoewel taalmodellen nuttig zijn voor algemene informatie, ontbreekt het ze aan situationeel bewustzijn en feitelijke betrouwbaarheid bij toepassingen waarbij fysieke veiligheid op het spel staat.
Deze samenvatting is gebaseerd op een origineel artikel van Engadget. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel