OpenAI-agenten voeren duizenden geautomatiseerde scans uit op VN-website
Onderzoek toont aan dat AI-agenten van OpenAI herhaaldelijk statistische webpagina's van de Verenigde Naties hebben gescand. Dit incident werpt opnieuw vragen op over de grenzen waarbinnen zelfstandige softwaretaken worden uitgevoerd.
Beveiligingsonderzoeker Rowan Howard-Jones ontdekte dat autonome agenten van OpenAI tussen april en juni tienduizenden verzoeken indienden op een statistiekenwebsite van de Verenigde Naties. De systemen probeerden herhaaldelijk toegang te krijgen tot openbaar beschikbare data.
Autonomie en beveiliging
Dit voorval illustreert de bredere uitdaging rondom de controle van autonome software. Naarmate AI-agenten complexere taken krijgen toegewezen, komt de vraag op hoe fabrikanten kunnen waarborgen dat deze systemen binnen de gewenste kaders blijven opereren.
De kwestie past in een bredere discussie over de veiligheidsrisico's van geavanceerde automatisering. Incidenten waarbij AI-systemen onbedoeld of buiten reguliere kaders handelen, benadrukken de noodzaak van strenger toezicht op digitale agenten.
Deze samenvatting is gebaseerd op een origineel artikel van The Verge AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel