Zelfde ethische oordeel betekent niet dat AI en mens hetzelfde denken

Uit wetenschappelijke publicaties op het platform arXiv blijkt dat kunstmatige intelligentie en mensen bij ethische vraagstukken doorgaans tot vergelijkbare eindconclusies komen. Toch baseren beide partijen zich op volstrekt andere overwegingen. Waar mensen teruggrijpen naar diepgewortelde morele overtuigingen en maatschappelijke waarden, hanteren taalmodellen statistische patronen en berekende waarschijnlijkheden om tot een standpunt te komen.

Het gevaar van schijnovereenstemming

Deze ontdekking werpt een nieuw licht op de manier waarop de veiligheid en betrouwbaarheid van intelligente systemen worden getoetst. In het veld van de kunstmatige intelligentie ligt de nadruk traditioneel sterk op het controleren van de uiteindelijke beslissing. Het onderzoek toont echter aan dat een juist antwoord op een morele vraag niet garandeert dat het systeem de achterliggende menselijke normen werkelijk begrijpt.

De bevindingen sluiten aan bij een bredere discussie binnen de technologiewereld over de beheersbaarheid van autonome systemen. Naarmate kunstmatige intelligentie vaker wordt ingezet voor complexe vraagstukken waarbij ethiek een rol speelt, groeit de noodzaak om verder te kijken dan alleen de output. Zonder inzicht in de interne motivatie van een model blijft het risico bestaan dat systemen beslissingen nemen op gronden die fundamenteel afwijken van menselijke intenties.