Web appOpen in Telegram

ThreadCloudflare saved 100 TB of RAM with math and Rust 🔥

2 messages · –
L
Link
click to show
Cloudflare saved 100 TB of RAM with math and Rust 🔥 Cloudflare reclaimed more than 100 TB of RAM globally in a Pingora-based consistent-hashing service. No new hardware. The win came from changing data representation and the algorithms around it. ✅ Lessons: • Measure retained memory, not only allocation rate. • Check collection shape: duplicated keys, oversized buckets, and pointer-heavy graphs add up fast. • Fix the model first: a smaller or more compact structure usually beats micro-optimizing a hot loop. For high-cardinality caches, routing tables, or tenant maps, take a heap dump before reaching for another cache node. A few bytes per entry becomes expensive at fleet scale. [ Blog ] : https://blog.cloudflare.com/saving-100-tb-of-ram-with-math 〰️〰️〰️〰️〰️〰️ #Performance #Memory #Rust @ProgrammingTip
7 · 2.6K ·
  1. J
    Link
    click to show
    Cloudflare zaoszczędził 100 TB pamięci RAM dzięki matematyce i Rustowi 🔥 Firma Cloudflare odzyskała ponad 100 TB pamięci RAM na całym świecie dzięki usłudze opartej na Pingora, wykorzystującej spójne haszowanie. Nie wykorzystano nowego sprzętu. Sukces został osiągnięty dzięki zmianie sposobu reprezentacji danych oraz algorytmów związanych z nimi. ✅ Lekcje: • Mierz ilość pamięci, która jest wykorzystywana, a nie tylko tempo alokacji. • Sprawdź strukturę danych: duplikowane klucze, zbyt duże kontenery oraz grafy obciążone wskaźnikami szybko się sumują. • Najpierw popraw model danych: mniejsza lub bardziej zwarta struktura zazwyczaj jest lepsza niż mikrooptymalizacja krytycznego fragmentu kodu. W przypadku pamięci podręcznych o dużej liczbie wpisów, tabel routingu lub map użytkowników, wykonaj zrzut pamięci przed dodawaniem kolejnych węzłów pamięci podręcznej. Kilka bajtów na wpis staje się kosztowne w skali całej infrastruktury. [ Blog ] : https://blog.cloudflare.com/saving-100-tb-of-ram-with-math 〰️〰️〰️〰️〰️〰️ #Wydajność #Pamięć #Rust @ProgrammingTip
PProgramiści - LinuxProgramiści - Linux@linuxProgramowanie · group · Tech
23members3writing in 30 days
Venue feed Open in Telegram

An open public feed from the search index ChatCrawler — “Google for public Telegram”; refreshed as the venue is crawled. Times are UTC.

Public content only, official Telegram API. About · FAQ · What we do not do · Remove a page · Catalog · Search · How we count