Nieuwe methode voor actiecontrole bij AI in StarCraft II
Onderzoekers presenteren een techniek genaamd runtime action interference om het gedrag van een getraind versterkend leren-beleid in realtime te beheersen. Het mechanisme filtert en vertraagt voorgestelde acties om ongewenste patronen te voorkomen zonder de onderliggende beleidsparameters aan te passen.
Bij de inzet van autonome systemen die getraind zijn via reinforcement learning, bepaalt het onderliggende model niet altijd direct de uiteindelijke actie die in de praktijk wordt uitgevoerd. Vaak is er extra programmatuur nodig om de voorgestelde handelingen te doseren of te controleren. Nieuw onderzoek introduceert een aanpak die ingrijpt op het moment dat het model een actie wil uitvoeren, om zo meer controle te behouden over het uiteindelijke gedrag.
De methode controleert of een voorgestelde actie voldoet aan vooraf ingestelde voorwaarden en of deze door bepaalde inhoudsfilters komt voordat de handeling daadwerkelijk wordt uitgevoerd. Dit soort technieken zijn relevant binnen de bredere ontwikkeling van veilige AI-aansturing, waarbij onderzoekers zoeken naar manieren om het gedrag van complexe systemen binnen vooraf bepaalde kaders te houden, zelfs nadat de training van het model is voltooid.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel