海量异步任务耗时无法全部存入内存时，如何实时统计平均耗时趋势？

在AI异步生成场景中，如果每分钟产生大量任务请求，需要实时统计每个任务的平均耗时变化趋势，但由于数据量太大无法全部存入内存，你会如何设计这个统计方案？

面对大规模实时指标计算，有哪些常见的数据结构或算法可以降低内存压力？