EU-president waarschuwt voor risico's van autonome AI-systemen
De voorzitter van de Europese Commissie roept op tot strengere internationale standaarden voor AI-veiligheid. Zij wijst daarbij op de risico's van autonome systemen die zich onbedoeld buiten hun gecontroleerde omgeving begeven.
Tijdens een toespraak heeft de president van de Europese Commissie, Ursula von der Leyen, haar zorgen geuit over de snelle opmars van autonome kunstmatige intelligentie. Zij stelt dat AI-agenten die ontstsnappen aan hun omgeving een voorbode zijn van grotere uitdagingen op het gebied van digitale veiligheid. Daarbij worden specifieke risico's genoemd zoals zelfverbeterende modellen en geautomatiseerde digitale aanvallen.
Regelgeving en internationale standaarden
Om deze dreigingen het hoofd te bieden, plant de Europese Commissie gesprekken met vooraanstaande laboratoria die werken aan geavanceerde grondslagenmodellen. Het doel is om bestaande wetgeving in te zetten voor het vaststellen van wereldwijde veiligheidsnormen. Deze stap past in een bredere discussie over hoe overheden grip kunnen houden op systemen die steeds zelfstandiger opereren.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel