Computing Performance 2021 What's On the Horizon

https://www.youtube.com/watch?v=5nN1wjA_S30

https://www.brendangregg.com/Slides/YOW2021_ComputingPerformance/

从下面几个和性能相关的方面进行了分析和预测,内容比较多信息量也非常大。

Performance engineering is getting more complex:

  1. Processors: CPUs, GPUs, FPGAs, TPUs. CPU频率和核数会有上限(3.5Ghz, 1024),接着就是专有芯片的出现.
  2. Memory: DRAM, RLDRAM, HBM, 3D XPoint. 延迟保持稳定,但是容量和带宽会不断增加,比如现在有4TB内存以及51.2Gbps带宽的内存。
  3. Disks: PMR, SMR, MAT, EAMR, HAMR, SLC, MLC, … 在内存和磁盘之间不太可能出现中间层,磁盘容量和带宽也不断增加,磁盘更多的特性更像是flash.
  4. Networking: QUIC, MP-TCP, XDP, qdiscs, pacing, BQL, … 目前出现400Gbps的NIC,后面会出现更大带宽的NIC. XDP/BPF出现在网络层上还可能offload到FPGA上。
  5. Runtimes: Choice of JVM, GC, c2/Graal
  6. Kernels: BPF, io_uring, PGO, Linux complexity. Linux复杂性不断增加,许多默认选项不会得到太多关注,导致开箱即用的性能会很差,需要根据workload做许多tuning工作。
  7. Hypervisors: VMs, Containers, LightweightVMs
  8. Observability: BPF, PMCs, heat maps, flame graphs, OpenTelemetry, Prometheus, Grafana