Autonome systemen verbruiken meer tokens dan mensen

Op het platform OpenRouter gebruiken zelfstandige AI-agenten inmiddels meer tokens dan menselijke gebruikers. Dit verbruik is fors gestegen, waarbij slim gebruik van caches helpt om de daadwerkelijke kosten te beperken.
Uit recente cijfers blijkt dat geautomatiseerde systemen op het platform OpenRouter vaker taalmodellen aansturen dan mensen. Waar het gebruik door mensen een bescheiden groei liet zien, is de inzet van autonome agenten vele malen groter geworden. Een aanzienlijk deel van dit verbruik bestaat overigens uit hergebruikte data via geheugenfuncties, waardoor de financiële lasten minder hard oplopen dan het ruwe volume doet vermoeden.
Deze ontwikkeling illustreert hoe kunstmatige intelligentie steeds vaker zelf als afnemer van computercapaciteit optreedt. In plaats van dat gebruikers direct instructies invoeren, handelen softwareprogramma's steeds vaker zelfstandig op de achtergrond. Dit soort toepassingen sluit aan bij de bredere trend waarin AI-systemen evolueren van passieve tekstgeneratoren naar actieve digitale assistenten die zelfstandig taken uitvoeren.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel