In လူchatgesprekken van ChatGPT beoordeeld door externe krachten
OpenAI zet honderden externe krachten in om daadwerkelijke gesprekken van gebruikers met ChatGPT te analyseren en te beoordelen. Dit proces is onder meer bedoeld om overmatig geflatteerd en menselijk gedrag van het model tegen te gaan, al zijn conversaties mogelijk gevoelig van aard.
Het trainen van geavanceerde taalmodellen is mensenwerk. Uit rapportages blijkt dat OpenAI honderden contractanten inzet om echte gebruikersdialogen te beoordelen op een schaal van één tot zeven. Dergelijke menselijke feedback is cruciaal om de kwaliteit van de antwoorden te verbeteren en ongewenst gedrag, zoals overdreven vriendelijkheid of onnatuurlijke menselijke trekjes, te verminderen.
Deze praktijk benadrukt de spanning tussen privacy en modelverbetering binnen de AI-sector. Hoewel de prompts worden geanonimiseerd, kunnen ze nog steeds gevoelige informatie bevatten. Gebruikers die niet willen dat hun interacties door mensen worden ingezien, moeten de instelling voor het verbeteren van het model voor iedereen handmatig uitschakelen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel