开发来源 InfoQ 中文

Cloudflare优化一致性哈希节省超100TB内存

Cloudflare通过优化pingora-ketama的Rust一致性哈希实现,压缩哈希环条目并将每服务器哈希数减少约90%,使内部负载均衡内存占用降低超100TB。

要点

  • 内存过高根源定位到pingora-ketama一致性哈希数据结构。
  • 团队用概率论计算满足分布所需最少哈希点,单服务器哈希数减少90%。
  • 新增90000个哈希仅把误差改善0.7%,增加哈希收益边际递减。
  • Point结构体从8字节优化为6字节存放哈希值与服务器索引。
  • 新实现逐步推出并与现有哈希环并行,避免缓存失效和回源尖峰。
阅读原文这里是中文要点整理,数字与细节以原文为准。

评论

还没有评论,来写第一条。

更多资讯

全部