OpenAI ontbreekt bij veiligheidsinitiatief Nvidia

Rondom de ontwikkeling van autonome AI-agenten is een initiatief gestart door hardwareproducent Nvidia om risico's te beperken. Opvallend is dat OpenAI niet openlijk als aangesloten partij naar voren komt bij dit platform, dat zich richt op het voorkomen van ongewenst gedrag door zelfstandig handelende systemen. Uit berichtgeving blijkt echter dat er achter de schermen wel contact en samenwerking plaatsvindt tussen beide partijen.

De coördinatie rond veiligheidsstandaarden is een belangrijk thema in de technologiesector, waar grote spelers soms kiezen voor eigen standaarden of besloten samenwerkingen in plaats van publieke coalities. Naarmate autonome softwareagenten complexer worden, groeit de noodzaak om afspraken te maken over controlemechanismen en risicobeheersing. De verhoudingen tussen chipfabrikanten en ontwikkelaars van fundamentele modellen spelen hierin een cruciale rol.