Continu leren zonder offline fase door biologisch geïnspireerde neurale netwerken
Onderzoekers tonen aan dat neurale netwerken continu kunnen leren en informatie consolideren zonder een aparte offline fase. Dit is gebaseerd op lokale, biologisch begrensde regels.
Traditioneel gezien vereist continu leren bij kunstmatige intelligentie een aparte offline fase of het door elkaar mengen van nieuwe en oude samples. In tegenstelling hiermee verwerken biologische hersenen informatie ook tijdens waakzaamheid via lokale, korte rustperiodes in individuele circuits. Wetenschappers hebben onderzocht of een kunstmatig netwerk op een vergelijkbare manier kan functioneren.
Lokale regels en verborgen synapsen
De onderzoekers introduceren een isolatieregel die updates beperkt tot verborgen synapsen die onzichtbaar zijn voor de huidige invoer. Dit gebeurt via dynamieken waarbij actieve neuronen onderlinge competitie aangaan. Hierdoor kan het netwerk blijven leren en kennis consolideren terwijl het reguliere proces doorgaat, zonder dat er een onderbreking of offline trainingsfase nodig is.
Het nabootsen van biologische processen in kunstmatige neural netwerken vormt een belangrijk deel van het hedendaagse onderzoek naar kunstmatige intelligentie. Waar traditionele systemen vaak grote hoeveelheden computerkracht en specifieke fasen nodig hebben om nieuwe data te verwerken zonder oude te vergeten, bieden biologisch geïnspireerde methoden alternatieve wegen naar efficiëntere en flexibelere leeralgoritmen.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel