Nieuw instituut zet in op wiskundige bewijzen voor AI-veiligheid
Het Mathematical A.I. Safety Institute is opgericht om de veiligheid van kunstmatige intelligentie te onderbouwen met strenge wiskundige methoden. Het initiatief wil op vergelijkbare wijze als cryptografie absolute garanties bieden.
Het Mathematical A.I. Safety Institute is opgericht met als doel de veiligheid van systemen voor kunstmatige intelligentie fundamenteel aan te tonen. Het initiatief past binnen een bredere zoektocht binnen de academische wereld naar methoden om AI-technologie controleerbaar en voorspelbaar te maken.
Van statistiek naar wiskundige zekerheid
Waar de werking van moderne neurale netwerken vaak gebaseerd is op waarschijnlijkheden en statistiek, probeert de wiskundige benadering harde garanties af te leiden. Dit is vergelijkbaar met hoe cryptografische systemen wiskundig bewijs leveren voor de veiligheid van encryptie.
Naarmate AI-systemen vaker worden ingezet in kritieke toepassingen, groeit de noodzaak om de betrouwbaarheid van deze technologie formeel te verifiëren. Initiatieven die inzetten op fundamenteel wiskundig onderzoek vormen een aanvulling op de reguliere, empirische tests die door techbedrijven worden uitgevoerd.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel