Slechtste veiligheidsbeoordeling voor speciale ChatGPT-versie
Een instituut voor jeugdveiligheid heeft de speciale tienervariant van ChatGPT als onacceptabel risico bestempeld. De organisatie dringt erop aan dat de toegang voor minderjarigen tijdelijk wordt beperkt totdat de bescherming onafhankelijk is geverifieerd.
Een organisatie die zich bezighoudt met jeugdveiligheid heeft de tienervariant van ChatGPT gekwalificeerd als een onacceptabel risico voor minderjarigen. Na duizenden tests met verschillende prompts concludeert het instituut dat de beloofde beschermingsmaatregelen ontoereikend zijn. Er wordt geëist dat de toegang voor gebruikers onder de achttien jaar wordt stopgezet totdat de werking grondig is gecontroleerd door onafhankelijke partijen.
De kwestie rondom ChatGPT voor tieners raakt aan een breder debat binnen de technologiewector over de verantwoorde inzet van generatieve kunstmatige intelligentie door jonge gebruikers. Techbedrijven staan onder toenemende druk om effectieve leeftijdsgrenzen en beveiligingen te implementeren, vergelijkbaar met reguliere sociale media en online platforms. Waar chatbots aanvankelijk vooral op volwassen professionals waren gericht, dringen ze nu in hoog tempo door tot het onderwijs en het dagelijks leven van scholieren.
Het beoordelen van AI-systemen op jeugdveiligheid vraagt om specifieke richtlijnen die momenteel volop in ontwikkeling zijn. Omdat taalmodellen open van aard zijn en zich flexibel aanpassen aan de gebruiker, blijkt het handhaven van strikte grenzen rondom gevoelige onderwerpen en huiswerkassistentie complex. Toezichthouders en consumentenorganisaties proberen daarom steeds dwingender grip te krijgen op de manier waarop jonge gebruikers met deze technologie omgaan.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel