Nieuwe trainingsmethode verbindt tijdreeksen beter met taalmodellen
Onderzoekers presenteren een nieuwe aanpak genaamd Lotus om tijdreeksen te koppelen aan taalmodellen. Deze methode zorgt ervoor dat de onderliggende voorspellende waarde van numerieke signalen behouden blijft tijdens de training.
Taalmodellen die tijdreeksen verwerken, worstelen vaak met de balans tussen tekstuele instructies en numerieke gegevens. Bestaande technieken maken doorgaans gebruik van labels of bijschriften, maar die aanpak dreigt essentiële informatie over hoe een signaal zich over de tijd ontwikkelt te verliezen.
Voorspellen als basisprincipe
De onderzoekers introduceren een trainingsmethode waarbij taalgerichte representaties van tijdreeksen expliciet voorspellend moeten blijven voor toekomstige ontwikkelingen. Dit principe is toegepast in een nieuw model genaamd Lotus. Binnen het vakgebied van kunstmatige intelligentie is er veel aandacht voor het combineren van verschillende datatypes, zoals tekst en numerieke reeksen, om modellen breder inzetbaar te maken.
Door te zorgen dat de dynamiek van tijdreeksen niet verloren gaat tijdens de voorfase van de training, kunnen modellen nauwkeuriger presteren bij latere taken. Dit soort fundamenteel onderzoek draagt bij aan betrouwbaardere voorspellingen in sectoren die afhankelijk zijn van tijdreeksdata, zoals financiën en meteorologie.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel