Claude toont formele beveiligingsbewijzen voor software
Anthropic heeft onderzoek gepubliceerd waarin het AI-model Claude formele bewijzen van beveiligingseigenschappen genereert voor diverse open-source bibliotheken. Het systeem spoorde tevens kwetsbaarheden op en loste deze op.
In een gezamenlijk project heeft Anthropic onderzocht hoe het AI-model Claude machine-gecontroleerde formele bewijzen van beveiligingseigenschappen kan leveren op assemblagenaal niveau. Dit werd toegepast op een groot aantal entry points binnen tal van open-source bibliotheken. Volgens de onderzoekers wist het model gevonden bugs zelfstandig te verhelpen en te bewijzen dat de software normaal blijft functioneren.
Formele verificatie is een wiskundige methode om de correctheid van programmacode te bewijzen ten opzichte van een specifiek specificatie. De inzet van taalmodellen om dit proces te ondersteunen, markeert een interessante ontwikkeling in de software-engineering. Het automatiseren van beveiligingscontroles en het opsporen van geheugenfouten kan bijdragen aan stabielere en veiligere programmatuur in de toekomst.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikelAchtergrond bij dit bericht
- Claude (Anthropic): wat kun je ermee?De AI-assistent met focus op zorgvuldig redeneren, lange documenten en veiligheid.
- AI koppelen aan je eigen software: wat komt daar bij kijken?Van chatvenster naar iets dat echt in je werkproces zit. De zes dingen die je moet regelen, en de twee waar het meestal op stuk loopt.