Onderzoek toont vertekening aan bij astronomisch fundatiemodel door survey-data
Een audit van een groot astronomisch fundatiemodel wijst uit dat onvolledige catalogusproducten de voorspellingen van het model kunnen beïnvloeden. Kleine aanpassingen in de survey-segmentatiekaart blijken namelijk al grote gevolgen te hebben voor de gerapporteerde eigenschappen van hemellichamen.
Fundamentele AI-modellen voor de sterrenkunde worden doorgaans getraind op enorme hoeveelheden pixeldata in combinatie met bijbehorende catalogi. Omdat deze catalogi in de praktijk nooit honderd procent volledig zijn, kan een getraind neuraal netwerk deze onvolkomenheden overnemen als een systematische fout in de resultaten.
Bij een analyse van een specifiek multi-modaliteit transformermodel dat miljoenen objecten verwerkt, bleek dat causale interventies op de invoer grote effecten hebben. Wanneer de beelddata identiek blijft maar de onderliggende survey-segmentatiekaart wordt aangepast, veranderen direct alle afgeleide grootheden die het model berekent, zoals flux en roodverschuiving.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel