Google ontwikkelt waarschuwingssysteem voor Gemini bij zelfbeschadiging
Google werkt aan een beveiligingsfunctie in de Gemini-chatbot om ouders in te lichten bij gesprekken over zelfbeschadiging. Deze functionaliteit werd ontdekt via verwijzingen binnen de broncode van een recente Android-applicatie.
Chatbots die converseren met gebruikers worden steeds vaker uitgerust met vangnetten om gevaarlijke situaties te detecteren. Uit recente updates blijkt dat Google stappen onderneemt om de veiligheid rond gevoelige onderwerpen zoals zelfbeschadiging te vergroten door directe betrokkenheid van ouders mogelijk te maken.
De ontwikkeling past in een bredere trend waarin technologiebedrijven onder druk staan om de mentale gezondheid van met name jonge gebruikers beter te beschermen. Generatieve modellen worden hierbij steeds vaker voorzien van ingebouwde moderatie om risicovol gedrag tijdig te signaleren en externe hulp of interventie in te schakelen.
Deze samenvatting is gebaseerd op een origineel artikel van Bright. Lees het volledige, originele bericht bij de bron.
Lees het originele artikelAchtergrond bij dit bericht
- Gemini (Google): wat kun je ermee?Google's AI, diep verweven met Search, Workspace en Android.
- AI voor softwareontwikkelingHoe AI programmeurs sneller maakt — en wat het (nog) niet vervangt.
- Welke AI-tools heb ik echt nodig?Er verschijnen dagelijks nieuwe AI-programma's. Wat je werkelijk nodig hebt, en waarom dat er minder zijn dan je denkt.
- Wat kan ik met AI?Een overzicht van wat je vandaag concreet met AI kunt doen: schrijven, samenvatten, beeld maken, programmeren en werk automatiseren.