Sofortspur: Alle Cloudflare -Kunden können jetzt jeden Inhaltstyp löschen

Es gibt eine Tradition, dass Cloudflare am 1. April echte Produkte auf den Markt gebracht hat, anstatt die üblichen Witzproduktankündigungen heute online zu sehen.

There's a tradition at Cloudflare of launching real products on April 1, instead of the usual joke product announcements circulating online today. In previous years, we've introduced impactful products like 1.1.1.1 and 1.1.1.1 for Families. Today, we're excited to continue this tradition by making every purge method available to all customers, regardless of plan type.

Es gibt eine Tradition, dass Cloudflare am 1. April echte Produkte auf den Markt gebracht hat, anstatt die üblichen Witzproduktankündigungen heute online zu sehen. In den vergangenen Jahren haben wir effektive Produkte wie 1.1.1.1 und 1.1.1.1 für Familien eingeführt. Wir freuen uns, diese Tradition fortzusetzen, indem wir alle Kunden alle Kunden zur Verfügung stellen, unabhängig vom Plantyp.

During Birthday Week 2024, we announced our intention to bring the full suite of purge methods - including purge by URL, purge by hostname, purge by tag, purge by prefix, and purge everything - to all Cloudflare plans. Historically, methods other than "purge by URL" and "purge everything" were exclusive to Enterprise customers. However, we've been openly rebuilding our purge pipeline over the past few years (hopefully you've read some of our blog series), and we're thrilled to share the results more broadly. We've spent recent months ensuring the new Instant Purge pipeline performs consistently under 150 ms, even during increased load scenarios, making it ready for every customer.

Während der Geburtstagswoche 2024 kündigten wir unsere Absicht an, die vollständige Suite von Säuberungsmethoden - einschließlich der Säuberung von URL, der Reinigung von Hostname, Surge by Tag, Surge by Prefix und alles zu läuten - zu allen Cloudflare -Plänen. In der Vergangenheit waren andere Methoden als "Spülung durch URL" und "alles" ausschließlich für Unternehmenskunden. Wir haben jedoch in den letzten Jahren unsere Purge -Pipeline offen wieder aufgebaut (hoffentlich haben Sie einige unserer Blog -Serien gelesen), und wir sind begeistert, die Ergebnisse allgemeiner zu teilen. Wir haben in den letzten Monaten sichergestellt, dass die neue Instant -Spülpipeline auch in erhöhten Lastszenarien konstant unter 150 ms funktioniert, damit sie für jeden Kunden vorbereitet ist.

But that's not all - we're also significantly raising the default purge rate limits for Enterprise customers, allowing even greater purge throughput thanks to the efficiency of our newly developed Instant Purge system.

Aber das ist noch nicht alles - wir erhöhen auch die Ausfallrate für Unternehmenskunden erheblich und ermöglichen dank der Effizienz unseres neu entwickelten Instant -Säuber -Systems einen noch größeren Durchsatz von Spülen.

Building a better purge: a two-year journey

Aufbau einer besseren Säuberung: eine zweijährige Reise

Stepping back, today's announcement represents roughly two years of focused engineering. Near the end of 2022, our team went heads down rebuilding Cloudflare's purge pipeline with a clear yet challenging goal: dramatically increase our throughput while maintaining near-instant invalidation across our global network.

Die heutige Ankündigung entspricht ungefähr zwei Jahren fokussierter Engineering. Gegen Ende 2022 hat unser Team Cloudflares Purge-Pipeline mit einem klaren, aber herausfordernden Ziel wieder aufgebaut.

Cloudflare operates data centers in over 335 cities worldwide. Popular cached assets can reside across all of our data centers, meaning each purge request must quickly propagate to every location caching that content. Upon receiving a purge command, each data center must efficiently locate and invalidate cached content, preventing stale responses from being served. The amount of content that must be invalidated can vary drastically, from a single file, to all cached assets associated with a particular hostname. After the content has been purged, any subsequent requests will trigger retrieval of a fresh copy from the origin server, which will be stored in Cloudflare's cache during the response.

Cloudflare betreibt Rechenzentren in über 335 Städten weltweit. Beliebte zwischengespeicherte Vermögenswerte können sich in allen unseren Rechenzentren befinden, was bedeutet, dass sich jede Säuberungsanforderung schnell an jeden Ort ausbreiten muss, der diesen Inhalt zwischengespeichert. Nach Erhalt eines Spülbefehls muss jedes Rechenzentrum zwischengespeicherte Inhalte effizient lokalisieren und ungültig machen, wodurch veraltete Antworten verhindern. Die Menge an Inhalten, die ungültig werden müssen, kann von einer einzelnen Datei zu allen zwischengespeicherten Vermögenswerten, die mit einem bestimmten Hostnamen verbunden sind, drastisch variieren. Nachdem der Inhalt gelöscht wurde, löst alle nachfolgenden Anfragen das Abrufen einer neuen Kopie aus dem Origin -Server aus, die während der Antwort im Cloudflares -Cache gespeichert wird.

Ensuring consistent, rapid propagation of purge requests across a vast network introduces substantial technical challenges, especially when accounting for occasional data center outages, maintenance, or network interruptions. Maintaining consistency under these conditions requires robust distributed systems engineering.

Durch die Gewährleistung einer konsequenten, schnellen Ausbreitung von Säuberungsanforderungen in einem riesigen Netzwerk führt erhebliche technische Herausforderungen vor, insbesondere wenn gelegentliche Ausfälle, Wartungen oder Netzwerke unterzogen werden. Die Aufrechterhaltung der Konsistenz unter diesen Bedingungen erfordert robuste verteilte Systemtechnik.

How did we scale purge?

Wie haben wir die Säuberung skaliert?

We've previously discussed how our new Instant Purge system was architected to achieve sub-150 ms purge times. It's worth noting that the performance improvements were only part of what our new architecture achieved, as it also helped us solve significant scaling challenges around storage and throughput that allowed us to bring Instant Purge to all users.

Wir haben zuvor besprochen, wie unser neues Instant-Säuber-System so archiviert wurde, dass sie unter 150 ms die Säuberungszeiten erreicht haben. Es ist erwähnenswert, dass die Leistungsverbesserungen nur ein Teil dessen waren, was unsere neue Architektur erreicht hat, da sie uns auch half, erhebliche Skalierungsherausforderungen in Bezug auf Speicher und Durchsatz zu lösen, die es uns ermöglichten, alle Benutzer sofortig zu säubern.

Initially, our purge system scaled well, but with rapid customer growth, the storage consumption from millions of daily purge keys that needed to be stored reduced available caching space. Early attempts to manage this storage and throughput demand involved queues and batching for smoothing traffic spikes, but this introduced latency and underscored the tight coupling between increased usage and rising storage costs.

Anfänglich skalierte unser Säubersystem gut, aber mit einem schnellen Kundenwachstum wurde der Speicherverbrauch von Millionen von täglichen Säuberschlüssel, die reduziert werden mussten, den verfügbaren Caching -Raum gespeichert. Frühe Versuche, diesen Speicher- und Durchsatzbedarf zu verwalten, beinhalteten Warteschlangen und Chargen für die Glättung von Verkehrspikes. Dies führte jedoch ein und unterstrich die enge Kopplung zwischen erhöhten Nutzung und steigenden Lagerkosten.

We needed to revisit our thinking on how to better store purge keys and when to remove purged content so we could reclaim space. Historically, when a customer would purge by tag, prefix or hostname, Cloudflare would mark the content as expired and allow it to be evicted later. This is known as lazy-purge because nothing is actively removed from disk. Lazy-purge is fast, but not necessarily efficient, because it consumes storage for expired but not-yet-evicted content. After examining global or data center-level indexing for purge keys, we decided that wasn't viable due to increases in system complexity and the latency those indices could bring due to our network size. So instead, we opted for per-machine indexing, integrating indices directly alongside our cache proxies. This minimized network complexity, simplified reliability, and provided predictable scaling.

Wir mussten unser Denken darüber noch einmal überdenken, wie Sie die Säuberungsschlüsseln besser speichern und wann gereinigte Inhalte entfernen sollten, damit wir den Raum zurückerobern können. In der Vergangenheit würde Cloudflare den Inhalt als abgelaufen markieren, wenn ein Kunde nach Tag, Präfix oder Hostname säubert, und es zulassen, dass er später vertrieben wird. Dies ist als fauler Purge bekannt, da nichts aktiv von der Festplatte entfernt wird. Lazy-Purge ist schnell, aber nicht unbedingt effizient, da es Speicher für abgelaufene, aber nicht mehr befreite Inhalte verbraucht. Nach der Untersuchung der globalen Indexierung der globalen oder in Rechenzentrum auf Säuberungsschlüsseln entschieden wir, dass dies aufgrund der Anstieg der Systemkomplexität und der Latenz, die diese Indizes aufgrund unserer Netzwerkgröße bringen konnten, nicht praktikabel war. Stattdessen entschieden wir uns für die Indexierung pro Maschinen, die Indizes direkt neben unseren Cache-Proxys integrieren. Diese minimierte Netzwerkkomplexität, vereinfachte Zuverlässigkeit und vorhersehbare Skalierung.

After careful analysis and benchmarking, we selected RocksDB, an embedded key-value store that we could optimize for our needs, which formed the basis of CacheDB, our Rust-based service running alongside each cache proxy. CacheDB manages indexing and immediate purge execution (active purge), significantly reducing storage needs and freeing space for caching.

Nach sorgfältiger Analyse und Benchmarking haben wir RocksDB ausgewählt, ein eingebettetes Schlüsselwertgeschäft, das wir für unsere Bedürfnisse optimieren konnten, was die Grundlage von CachedB bildete, unserem rostbasierten Dienst, der neben jedem Cache-Proxy ausgeführt wurde. CachEDB verwaltet die Indexierung und die sofortige Spülausführung (aktive Spülung), wodurch die Speicheranforderungen und den freien Platz für das Caching erheblich reduziert werden.

Local queues within CacheDB buffer purge operations to ensure consistent throughput without latency spikes, while the cache proxies consult CacheDB to guarantee rapid, active purges. Our updated distribution pipeline broadcasts purges directly to CacheDB instances across machines, dramatically improving throughput and purge speed.

Lokale Warteschlangen innerhalb von CachedB -Puffer -Spülvorgängen, um einen konsistenten Durchsatz ohne Latenzspitzen sicherzustellen, während die Cache -Proxies CachEDB konsultieren, um schnelle und aktive Säuberungen zu gewährleisten. Unsere aktualisierten Verteilungspipeline senden direkt auf CachedB -Instanzen über Maschinen hinweg und verbessert die Durchsatz- und Spurgeschwindigkeit dramatisch.

Using CacheDB, we've reduced storage requirements 10x by eliminating lazy purge storage accumulation, instantly freeing valuable disk space. The freed storage enhances cache retention, boosting cache HIT ratios and minimizing origin egress. These savings in storage and increased throughput allowed us to scale to the point where we can offer Instant Purge to more customers.

Mit CachEDB haben wir die Speicheranforderungen um den 10 -fachen reduziert, indem wir die Ansammlung von faulen Spülspeichern beseitigt und sofort wertvolle Speicherplatz befreien. Der freigegebene Speicher verbessert die Cache -Retention, die Steigerung der Cache -Hitidenverhältnisse und die Minimierung des Ursprungsausgangs. Diese Einsparungen im Speicher und im erhöhten Durchsatz ermöglichten es uns, mehr Kunden sofortig zu säubern.

For more information

Weitere Informationen