Startpunt voor verwijderen van AI-veiligheidsfilters
Een startup biedt commerciële toegang tot AI-modellen waarvan de ingebouwde veiligheidsmechanismen zijn verwijderd. Dit roept vragen op over de risico's, ondanks het argument dat de technologie nuttig kan zijn voor cybersecurity.
Er is een commerciële dienst opgericht die gewijzigde open-weight AI-modellen aanbiedt waaruit de veiligheidsfilters bewust zijn weggesloopt. Dergelijke aanpassingen richten zich doorgaans op het wegnemen van restricties rondom het genereren van gevoelige inhoud.
Veiligheidsrisico's en open-source
Hoewel de makers benadrukken dat de dienst bedoeld is voor offensieve cybersecurity en het testen van systemen, blijkt uit praktijktests dat gebruikers vrij eenvoudig instructies voor kwaadaardige software kunnen genereren. Dit raakt aan een brede discussie binnen de AI-wereld over de balans tussen openheid en veiligheid, waarbij open-source modellen enerzijds toegankelijk zijn voor onderzoek, maar anderzijds ook makkelijker zijn aan te passen voor ongeoorloofde doeleinden.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel