インスタントパージ：すべてのCloudFlareのお客様がコンテンツタイプをパージできるようになりました

CloudFlareには、今日のオンラインで循環する通常の冗談製品の発表の代わりに、4月1日に実際の製品を発売するという伝統があります。

There's a tradition at Cloudflare of launching real products on April 1, instead of the usual joke product announcements circulating online today. In previous years, we've introduced impactful products like 1.1.1.1 and 1.1.1.1 for Families. Today, we're excited to continue this tradition by making every purge method available to all customers, regardless of plan type.

CloudFlareには、今日のオンラインで循環する通常の冗談製品の発表の代わりに、4月1日に実際の製品を発売するという伝統があります。過去数年間、家族向けに1.1.1.1や1.1.1.1などのインパクトのある製品を導入してきました。今日、計画の種類に関係なく、すべての顧客がすべての顧客が利用できるようにすることで、この伝統を継続できることを楽しみにしています。

During Birthday Week 2024, we announced our intention to bring the full suite of purge methods - including purge by URL, purge by hostname, purge by tag, purge by prefix, and purge everything - to all Cloudflare plans. Historically, methods other than "purge by URL" and "purge everything" were exclusive to Enterprise customers. However, we've been openly rebuilding our purge pipeline over the past few years (hopefully you've read some of our blog series), and we're thrilled to share the results more broadly. We've spent recent months ensuring the new Instant Purge pipeline performs consistently under 150 ms, even during increased load scenarios, making it ready for every customer.

2024年の誕生日の週に、Purge by URL、Hostnameによるパージ、タグによるパージ、プレフィックスによるパージ、すべてのパージなど、すべてのCloudFlare計画を含む、パージ方法の完全なスイートを持参する意図を発表しました。歴史的に、「URLによるパージ」と「パージすべて」以外の方法は、エンタープライズの顧客専用でした。しかし、私たちは過去数年にわたってパージパイプラインを公然と再構築してきました（ブログシリーズのいくつかを読んだことを願っています）、結果をより広く共有できることに興奮しています。私たちはここ数ヶ月を費やして、新しいインスタントパージパイプラインが150ミリ秒未満で一貫してパフォーマンスを発揮し、負荷シナリオの増加中であっても、すべての顧客の準備が整っていることを保証しました。

But that's not all - we're also significantly raising the default purge rate limits for Enterprise customers, allowing even greater purge throughput thanks to the efficiency of our newly developed Instant Purge system.

しかし、それだけではありません。また、エンタープライズの顧客のデフォルトのパージレート制限を大幅に引き上げており、新しく開発されたインスタントパージシステムの効率のおかげでさらに大きなパージスループットを可能にします。

Building a better purge: a two-year journey

より良いパージの構築：2年間の旅

Stepping back, today's announcement represents roughly two years of focused engineering. Near the end of 2022, our team went heads down rebuilding Cloudflare's purge pipeline with a clear yet challenging goal: dramatically increase our throughput while maintaining near-instant invalidation across our global network.

戻って、今日の発表は、約2年間の集中エンジニアリングを表しています。 2022年の終わり近くに、私たちのチームは、CloudFlareのパージパイプラインを明確でありながらやりがいのある目標で再構築しました。グローバルネットワーク全体でインターティント近くの無効化を維持しながら、スループットを劇的に増加させます。

Cloudflare operates data centers in over 335 cities worldwide. Popular cached assets can reside across all of our data centers, meaning each purge request must quickly propagate to every location caching that content. Upon receiving a purge command, each data center must efficiently locate and invalidate cached content, preventing stale responses from being served. The amount of content that must be invalidated can vary drastically, from a single file, to all cached assets associated with a particular hostname. After the content has been purged, any subsequent requests will trigger retrieval of a fresh copy from the origin server, which will be stored in Cloudflare's cache during the response.

CloudFlareは、世界中の335を超える都市でデータセンターを運営しています。人気のあるキャッシュ資産は、すべてのデータセンターに居住することができます。つまり、各パージ要求は、そのコンテンツをキャッシュするすべての場所にすばやく伝播する必要があります。パージコマンドを受信すると、各データセンターはキャッシュされたコンテンツを効率的に見つけて無効にし、古い応答が提供されないようにする必要があります。無効にする必要があるコンテンツの量は、単一のファイルから、特定のホスト名に関連付けられたすべてのキャッシュされた資産まで劇的に異なる場合があります。コンテンツがパージされた後、その後のリクエストは、応答中にCloudFlareのキャッシュに保存されるOrigin Serverからの新鮮なコピーの取得をトリガーします。

Ensuring consistent, rapid propagation of purge requests across a vast network introduces substantial technical challenges, especially when accounting for occasional data center outages, maintenance, or network interruptions. Maintaining consistency under these conditions requires robust distributed systems engineering.

特に、時折データセンターの停止、メンテナンス、またはネットワークの中断を説明する場合、広大なネットワーク全体で一貫したパージ要求の迅速な伝播を確保することは、実質的な技術的課題をもたらします。これらの条件下で一貫性を維持するには、堅牢な分散システムエンジニアリングが必要です。

How did we scale purge?

パージをどのようにスケーリングしましたか？

We've previously discussed how our new Instant Purge system was architected to achieve sub-150 ms purge times. It's worth noting that the performance improvements were only part of what our new architecture achieved, as it also helped us solve significant scaling challenges around storage and throughput that allowed us to bring Instant Purge to all users.

以前に、新しいインスタントパージシステムがどのようにして150ミリ秒のパージ時間を達成するかについて議論しました。パフォーマンスの改善は、すべてのユーザーにインスタントパージをもたらすことができるストレージとスループットに関する重要なスケーリングの課題を解決するのに役立つため、新しいアーキテクチャが達成したものの一部にすぎないことに注意する価値があります。

Initially, our purge system scaled well, but with rapid customer growth, the storage consumption from millions of daily purge keys that needed to be stored reduced available caching space. Early attempts to manage this storage and throughput demand involved queues and batching for smoothing traffic spikes, but this introduced latency and underscored the tight coupling between increased usage and rising storage costs.

当初、私たちのパージシステムはよく拡大しましたが、顧客の維持が急速に成長すると、保存する必要がある数百万の毎日のパージキーからのストレージ消費量は、利用可能なキャッシングスペースを減らしました。このストレージとスループットの需要を管理しようとする初期の試みには、トラフィックスパイクのスムージングのためのキューとバッチのバッチが含まれていましたが、これによりレイテンシが導入され、使用量の増加とストレージコストの上昇との間の緊密な結合が強調されました。

We needed to revisit our thinking on how to better store purge keys and when to remove purged content so we could reclaim space. Historically, when a customer would purge by tag, prefix or hostname, Cloudflare would mark the content as expired and allow it to be evicted later. This is known as lazy-purge because nothing is actively removed from disk. Lazy-purge is fast, but not necessarily efficient, because it consumes storage for expired but not-yet-evicted content. After examining global or data center-level indexing for purge keys, we decided that wasn't viable due to increases in system complexity and the latency those indices could bring due to our network size. So instead, we opted for per-machine indexing, integrating indices directly alongside our cache proxies. This minimized network complexity, simplified reliability, and provided predictable scaling.

パージキーをより適切に保存する方法と、パージされたコンテンツを削除するタイミングをいつ削除するかについての考えを再検討する必要がありました。歴史的に、顧客がタグ、プレフィックス、またはホスト名でパージすると、CloudFlareはコンテンツを期限切れにマークし、後で追い出されます。これは、ディスクから積極的に除去されるものは何もないため、怠zyなパージとして知られています。 Lazy-Purgeは高速ですが、期限切れではないが未定のコンテンツのストレージを消費するため、必ずしも効率的ではありません。パージキーのグローバルまたはデータセンターレベルのインデックスを調べた後、システムの複雑さの増加とネットワークサイズのためにインデックスがもたらす可能性のあるレイテンシのために、それが実行可能ではないと判断しました。そのため、代わりに、マシンごとのインデックス作成を選択し、キャッシュプロキシとともにインデックスを直接統合しました。これにより、ネットワークの複雑さが最小限に抑えられ、信頼性が簡素化され、予測可能なスケーリングが提供されました。

After careful analysis and benchmarking, we selected RocksDB, an embedded key-value store that we could optimize for our needs, which formed the basis of CacheDB, our Rust-based service running alongside each cache proxy. CacheDB manages indexing and immediate purge execution (active purge), significantly reducing storage needs and freeing space for caching.

慎重な分析とベンチマークの後、各キャッシュプロキシに沿ってラストベースのサービスを実行しているcachedbの基礎を形成するニーズに合わせて最適化できる埋め込みキー価値ストアであるRockSDBを選択しました。 CachedBは、インデックス作成と即時パージ実行（アクティブパージ）を管理し、ストレージのニーズを大幅に削減し、キャッシュ用の空きスペースを削減します。

Local queues within CacheDB buffer purge operations to ensure consistent throughput without latency spikes, while the cache proxies consult CacheDB to guarantee rapid, active purges. Our updated distribution pipeline broadcasts purges directly to CacheDB instances across machines, dramatically improving throughput and purge speed.

CACHEDBバッファーパージ操作内のローカルキューは、レイテンシスパイクなしで一貫したスループットを確保しますが、キャッシュプロキシはCACHEDBに相談して、迅速でアクティブなパージを保証します。更新された配信パイプラインブロードキャストは、マシン全体のcachedbインスタンスに直接パージし、スループットとパージの速度を劇的に改善します。

Using CacheDB, we've reduced storage requirements 10x by eliminating lazy purge storage accumulation, instantly freeing valuable disk space. The freed storage enhances cache retention, boosting cache HIT ratios and minimizing origin egress. These savings in storage and increased throughput allowed us to scale to the point where we can offer Instant Purge to more customers.

cachedBを使用して、怠zyなパージストレージの蓄積を排除し、貴重なディスクスペースを即座に解放することにより、ストレージ要件を10倍削減しました。解放されたストレージは、キャッシュ保持を強化し、キャッシュヒット率を高め、起源の出口を最小限に抑えます。これらの保管の節約とスループットの増加により、より多くの顧客にインスタントパージを提供できるポイントまでスケーリングすることができました。

For more information

詳細については