Startup commercialiseert het verwijderen van AI-veiligheidsfilters
Een nieuw bedrijf maakt het eenvoudiger om taalmodellen zonder ingebouwde beperkingen te gebruiken. De oprichters stellen dat het beschikbaar maken van dergelijke ongefilterde systemen uiteindelijk bijdraagt aan betere cybersecurity.
Het bedrijf Abliteration.AI richt zich op het aanbieden van krachtige kunstmatige intelligentie waarvan de veiligheidsfilters zijn verwijderd. Volgens de makers helpt dit verdedigers om dezelfde methoden te begrijpen als kwaadwillende partijen, wat de digitale weerbaarheid ten goede moet komen.
Veiligheidsgrenzen onder druk
Het verwijderen van ingebouwde restricties, ook wel bekend als jailbreaking, is een doorlopend discussiepunt binnen de technologiesector. Enerzijds waarschuwen experts voor de risico's van ongefilterde modellen die misbruikt kunnen worden, anderzijds bestaat de overtuiging dat onderzoekers volledige controle over de software moeten hebben om kwetsbaarheden effectief op te sporen.
Deze samenvatting is gebaseerd op een origineel artikel van TechCrunch AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel