OpenAI remt ontwikkeling af uit angst voor digitale veiligheidsrisico's
Het AI-bedrijf vertowst bewust de introductie van nieuwe modellen omdat toekomstige versies mogelijk zelfstandig gevaarlijke cyberaanvallen kunnen uitvoeren. Een nieuw controlesysteem moet verdacht gedrag van modellen binnen een half uur detecteren.
OpenAI heeft tijdelijk de rem gezet op het uitbrengen van geavanceerde kunstmatige intelligentie. Het bedrijf achter ChatGPT en diverse andere taalmodellen kiest bewust voor een vertraging in de ontwikkeling uit vrees dat opvolgers van de huidige systemen misbruikt kunnen worden voor grootschalige digitale aanvallen.
Nieuwe controlemechanismen
Om de risico's op het gebied van digitale veiligheid in te perken, wordt er gewerkt aan een speciaal bewakingssysteem. Dit mechanisme is erop gericht om ongewenst of verdacht gedrag van kunstmatige intelligentie binnen korte tijd op te sporen en te stoppen, nog voordat er daadwerkelijk schade kan ontstaan.
De stap laat zien dat makers van AI steeds vaker openlijk worstelen met de keerzijde van hun eigen technologie. Naarmate systemen slimmer en zelfstandiger worden, groeit de urgentie om veiligheidsprocedures te versterken voordat nieuwe generaties modellen worden losgelaten op het internet.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel