Ziekenhuizen namen AI in gebruik voordat ze de risico's begrepen
Veel zorginstellingen zetten AI-systemen in zonder duidelijke afspraken over toezicht en verantwoordelijkheid. Onderzoekers waarschuwen dat fouten daardoor laat worden opgemerkt, juist waar de gevolgen groot zijn.
Zorgorganisaties blijken op grote schaal kunstmatige intelligentie te hebben ingezet in hun dagelijkse praktijk, nog voordat er goed is nagedacht over de mogelijke gevaren. Uit onderzoek blijkt dat er vaak heldere kaders ontbreken voor wie er nu precies verantwoordelijk is voor de uitkomsten van deze digitale hulpmiddelen. Ook het toezicht op de werking van de software laat op veel plekken te wensen over.
Risico's van vroege implementatie
Dit gebrek aan controle vormt een serieus probleem binnen de medische sector. Omdat AI-toepassingen steeds vaker worden ingezet bij complexe beslissingen, kunnen eventuele softwarefouten of vertekeningen in de data grote gevolgen hebben voor patiënten. Zonder gestructureerde controlemechanismen komen dergelijke misstanden bovendien pas in een laat stadium aan het licht.
Deze gang van zaken past in een bredere trend binnen de technologiesector, waar de drang om te innoveren vaak groter is dan het tempo waarin wetgeving en ethische richtlijnen kunnen worden opgesteld. Organisaties lopen het risico achter de feiten aan te lopen wanneer ze nieuwe technologieën omarmen zonder vooraf de randvoorwaarden voor een veilig gebruik scherp te hebben.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel