Google-methode voorkomt dat AI-agenten testvragen uit hun hoofd leren
Onderzoekers van Google hebben een nieuwe techniek ontwikkeld genaamd RRSI om te voorkomen dat zelfverbeterende AI-systemen testtaken simpelweg onthouden. Hierdoor presteren de modellen beter op gloednieuwe taken en gebruiken ze minder rekenkracht.
Bij zelfverbeterende kunstmatige intelligentie bestaat het risico dat systemen trainen op specifieke toetsen door de antwoorden te memoriseren, wat leidt tot teleurstellende resultaten op onbekende vraagstukken. Onderzoekers van Google hebben een aanpak genoteerd die dit fenomeen beteugelt en de prestaties op niet eerder getoonde benchmarks verbetert.
Efficiënter en slimmer
De nieuwe methode zorgt er tevens voor dat de modellen zuiniger omgaan met tokens, de basiseenheden van tekst die taalmodellen verwerken. Dit onderstreept een brede uitdaging binnen het vakgebied: het ontwikkelen van leermethoden die werkelijk inzicht stimuleren in plaats van schijnprestaties via reproductie uit het geheugen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel