Oog voor sluipende AI-risico's geleerd van social media
Een nieuwe position paper stelt dat naast extreme doemscenario's ook de geleidelijke, opstapelende risico's van AI serieus genomen moeten worden. De auteurs trekken lessen uit de ervaringen met sociale media om herhalende negatieve effecten te herkennen.
In discussies over de veiligheid van kunstmatige intelligentie gaat de aandacht vaak uit naar grootschalige en catastrofale risico's. Een recent verschenen visiestuk beargumenteert echter dat er ook gekeken moet worden naar een ander type gevaar. Het gaat hierbij om risico's die geleidelijk ontstaan door het langdurig en herhaaldelijk gebruiken van AI-toepassingen.
De auteurs leggen de link met de lessen die geleerd zijn uit de opkomst van sociale media. Net zoals daar onvoorziene maatschappelijke effecten ontstonden door terugkerende interacties en algoritmen, dreigt er bij brede AI-implementatie een soortgelijke optelsom van kleinere negatieve effecten te ontstaan die om structurele veiligheidsmaatregelen vraagt.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel