Présentation des conteneurs CloudFlare: exécutez les conteneurs nativement sur la plate-forme des travailleurs

C'est presque la fin de la semaine du développeur et nous n'avons pas parlé de conteneurs: jusqu'à présent.

It is almost the end of Developer Week and we haven’t talked about containers: until now. As some of you may know, we’ve been working on a container platform behind the scenes for some time.

C'est presque la fin de la semaine du développeur et nous n'avons pas parlé de conteneurs: jusqu'à présent. Comme certains d'entre vous le savent peut-être, nous travaillons sur une plate-forme de conteneurs dans les coulisses depuis un certain temps.

In late June, we plan to release Containers in open beta, and today we’ll give you a sneak peek at what makes it unique.

Fin juin, nous prévoyons de publier des conteneurs en version bêta ouverte, et aujourd'hui, nous vous donnerons un aperçu de ce qui le rend unique.

Workers are the simplest way to ship software around the world with little overhead. But sometimes you need to do more. You might want to:

Les travailleurs sont le moyen le plus simple d'expédier des logiciels du monde entier avec peu de frais généraux. Mais parfois, vous devez faire plus. Vous voudrez peut-être:

Run user-generated code in any language

Exécuter du code généré par l'utilisateur dans n'importe quelle langue

Execute a CLI tool that needs a full Linux environment

Exécuter un outil CLI qui a besoin d'un environnement Linux complet

Use several gigabytes of memory or multiple CPU cores

Utilisez plusieurs gigaoctets de mémoire ou plusieurs cœurs CPU

Port an existing application from AWS, GCP, or Azure without a major rewrite

Porter une application existante à partir d'AWS, GCP ou Azure sans réécrire majeur

Cloudflare Containers let you do all of that while being simple, scalable, and global.

Les conteneurs CloudFlare vous permettent de faire tout cela tout en étant simple, évolutif et mondial.

Through a deep integration with Workers and an architecture built on Durable Objects, Workers can be your:

Grâce à une intégration profonde avec les travailleurs et une architecture construite sur des objets durables, les travailleurs peuvent être à vous:

API Gateway: Letting you control routing, authentication, caching, and rate-limiting before requests reach a container

Passerelle API: vous permettant de contrôler le routage, l'authentification, la mise en cache et la limitation des taux avant que les demandes ne parviennent à un conteneur

Service Mesh: Creating private connections between containers with a programmable routing layer

Mesh de service: création de connexions privées entre les conteneurs avec une couche de routage programmable

Orchestrator: Allowing you to write custom scheduling, scaling, and health checking logic for your containers

Orchestrateur: vous permettant d'écrire la logique de planification, de mise à l'échelle et de vérification de la santé pour vos conteneurs

Instead of having to deploy new services, write custom Kubernetes operators, or wade through control plane configuration to extend the platform, you just write code.

Au lieu d'avoir à déployer de nouveaux services, rédigez des opérateurs Kubernetes personnalisés ou partez à travers la configuration du plan de contrôle pour étendre la plate-forme, vous écrivez simplement du code.

Let’s see what it looks like.

Voyons à quoi cela ressemble.

Deploying different application types

Déploiement de différents types d'applications

A stateful workload: executing AI-generated code

Une charge de travail avec état: exécuter le code généré par l'AI

First, let’s take a look at a stateful example.

Tout d'abord, jetons un coup d'œil à un exemple avec état.

Imagine you are building a platform where end-users can run code generated by an LLM. This code is untrusted, so each user needs their own secure sandbox. Additionally, you want users to be able to run multiple requests in sequence, potentially writing to local files or saving in-memory state.

Imaginez que vous construisez une plate-forme où les utilisateurs finaux peuvent exécuter du code généré par un LLM. Ce code n'est pas fiable, donc chaque utilisateur a besoin de son propre bac à sable sécurisé. De plus, vous souhaitez que les utilisateurs puissent exécuter plusieurs demandes en séquence, potentiellement écrire dans des fichiers locaux ou enregistrer l'état en mémoire.

To do this, you need to create a container on-demand for each user session, then route subsequent requests to that container. Here’s how you can accomplish this:

Pour ce faire, vous devez créer un conteneur à la demande pour chaque session utilisateur, puis acheminer les demandes ultérieures vers ce conteneur. Voici comment vous pouvez accomplir ceci:

First, you write some basic Wrangler config, then you route requests to containers via your Worker:

Tout d'abord, vous écrivez une configuration de Wrangler de base, puis vous achetez des demandes aux conteneurs via votre travailleur:

Then, deploy your code with a single command: wrangler deploy. This builds your container image, pushes it to Cloudflare’s registry, readies containers to boot quickly across the globe, and deploys your Worker.

Ensuite, déployez votre code avec une seule commande: Wrangler Deploy. Cela construit votre image de conteneur, la pousse au registre de CloudFlare, prépare les conteneurs pour démarrer rapidement à travers le monde et déploie votre travailleur.

That’s it.

C'est ça.

How does it work?

Comment ça marche?

Your Worker creates and starts up containers on-demand. Each time you call env.CODE_EXECUTOR.get(id) with a unique ID, it sends requests to a unique container instance. The container will automatically boot on the first fetch, then put itself to sleep after a configurable timeout, in this case 1 minute. You only pay for the time that the container is actively running.

Votre travailleur crée et démarre les conteneurs à la demande. Chaque fois que vous appelez env.code_executor.get (ID) avec un ID unique, il envoie des demandes à une instance de conteneur unique. Le conteneur démarre automatiquement sur la première récupération, puis s'endormera après un délai configurable, dans ce cas 1 minute. Vous ne payez que le temps que le conteneur fonctionne activement.

When you request a new container, we boot one in a Cloudflare location near the incoming request. This means that low-latency workloads are well-served no matter the region. Cloudflare takes care of all the pre-warming and caching so you don’t have to think about it.

Lorsque vous demandez un nouveau conteneur, nous en démarrons un dans un emplacement CloudFlare près de la demande entrante. Cela signifie que les charges de travail à faible latence sont bien servies quelle que soit la région. Cloudflare s'occupe de tous les préchauffis et de la mise en cache afin que vous n'ayez pas à y penser.

This allows each user to run code in their own secure environment.

Cela permet à chaque utilisateur d'exécuter du code dans son propre environnement sécurisé.

Stateless and global: FFmpeg everywhere

Empellement et mondial: Ffmpeg partout

Stateless and autoscaling applications work equally well on Cloudflare Containers.

Les applications apatrides et automatiquement fonctionnent également bien sur les conteneurs CloudFlare.

Imagine you want to run a container that takes a video file and turns it into an animated GIF using FFmpeg. Unlike the previous example, any container can serve any request, but you still don’t want to send bytes across an ocean and back unnecessarily. So, ideally the app can be deployed everywhere.

Imaginez que vous souhaitez exécuter un conteneur qui prend un fichier vidéo et le transforme en GIF animé à l'aide de FFMPEG. Contrairement à l'exemple précédent, n'importe quel conteneur peut servir n'importe quelle demande, mais vous ne voulez toujours pas envoyer d'octets à travers un océan et de retour inutilement. Ainsi, idéalement, l'application peut être déployée partout.

To do this, you declare a container in Wrangler config and turn on autoscaling. This specific configuration ensures that one instance is always running and if CPU usage increases beyond 75% of capacity, additional instances are added:

Pour ce faire, vous déclarez un conteneur dans la configuration de Wrangler et activez l'automate. Cette configuration spécifique garantit qu'une instance est toujours en cours d'exécution et si l'utilisation du processeur augmente au-delà de 75% de la capacité, des instances supplémentaires sont ajoutées:

To route requests, you just call env.GIF_MAKER.fetch and requests are automatically sent to the closest container:

Pour acheminer les demandes, vous appelez simplement env.gif_maker.fetch et les demandes sont automatiquement envoyées au conteneur le plus proche:

Going beyond the basics

Aller au-delà des bases

From the examples above, you can see that getting a basic container service running on Workers just takes a few lines of config and a little Workers code. There’s no need to worry about capacity, artifact registries, regions, or scaling.

À partir des exemples ci-dessus, vous pouvez voir que l'obtention d'un service de conteneur de base s'exécute sur les travailleurs prend quelques lignes de configuration et un peu de code de travailleurs. Il n'est pas nécessaire de s'inquiéter de la capacité, des registres d'artefacts, des régions ou de l'échelle.

For more advanced use, we’ve designed Cloudflare Containers to run on top of Durable Objects and work in tandem with Workers. Let’s take a look at the underlying architecture and see some of the advanced use cases it enables.

Pour une utilisation plus avancée, nous avons conçu des conteneurs CloudFlare pour fonctionner sur des objets durables et travailler en tandem avec des travailleurs. Jetons un coup d'œil à l'architecture sous-jacente et voyons certains des cas d'utilisation avancés qu'il permet.

Durable Objects as programmable sidecars

Objets durables en tant que sidecars programmables

Routing to containers is enabled using Durable Objects under the hood. In the examples above, the Container class from cloudflare:workers just wraps a container-enabled Durable Object and provides helper methods for common patterns. In the rest of this post, we’ll look at examples using Durable Objects directly, as this should shed light on the platform’s underlying design.

Le routage vers les conteneurs est activé à l'aide d'objets durables sous le capot. Dans les exemples ci-dessus, la classe de conteneurs de CloudFlare: les travailleurs enveloppent simplement un objet durable compatible avec conteneurs et fournit des méthodes d'assistance pour les modèles communs. Dans le reste de cet article, nous examinerons directement des exemples en utilisant des objets durables, car cela devrait éclairer la conception sous-jacente de la plate-forme.

Each Durable Object acts as a programmable sidecar that can proxy requests to the container and manages its lifecycle. This allows you to control and extend your containers in ways that are hard on other

Chaque objet durable agit comme un side-car programmable qui peut procurer les demandes au conteneur et gère son cycle de vie. Cela vous permet de contrôler et d'étendre vos conteneurs d'une manière difficile à l'autre