Le cofondateur d'Ethereum, Vitalik Buterin, se prononce sur la réglementation de l'IA et propose d'arrêter les ressources informatiques accessibles à l'échelle mondiale

Citant la forme dangereuse de superintelligence de l'IA qui prend le dessus, le co-fondateur d'Ethereum, Vitalik Buterin, a proposé d'arrêter temporairement les ressources informatiques accessibles à l'échelle mondiale simplement pour « gagner plus de temps pour l'humanité ».

Highlighting the pressing danger posed by superintelligent AI, Ethereum co-founder Vitalik Buterin has proposed drastic measures to curb its development. In a recent blog post, Buterin argues that we have only five years before the arrival of super-intelligent AI, and there's no assurance that its impact will be beneficial.

Soulignant le danger pressant que représente l’IA superintelligente, le cofondateur d’Ethereum, Vitalik Buterin, a proposé des mesures drastiques pour freiner son développement. Dans un récent article de blog, Buterin affirme qu'il ne nous reste que cinq ans avant l'arrivée de l'IA super intelligente et que rien ne garantit que son impact sera bénéfique.

To address this critical juncture, Buterin proposes a "soft pause" on industrial-scale computer hardware, presenting it as an alternative to halting AI development entirely. He suggests reducing global computing power by 99% for one or two years to "buy more time for humanity to prepare."

Pour faire face à ce moment critique, Buterin propose une « pause douce » sur le matériel informatique à l’échelle industrielle, le présentant comme une alternative à l’arrêt complet du développement de l’IA. Il suggère de réduire la puissance de calcul mondiale de 99 % pendant un ou deux ans afin de « donner plus de temps à l'humanité pour se préparer ».

In his view, his initial post introducing "defensive accelerationism" (d/acc) included only "vague appeals to avoid building risky forms of superintelligence." Now, he aims to present more concrete thoughts on tackling scenarios "where AI risk is high."

Selon lui, son message initial introduisant « l'accélérationnisme défensif » (d/acc) ne comprenait que « de vagues appels à éviter de construire des formes risquées de superintelligence ». Il vise désormais à présenter des réflexions plus concrètes sur la manière d'aborder les scénarios « où le risque d'IA est élevé ».

Buterin also weighs in on regulating the AI industry, proposing a hardware "soft pause" only if convinced that liability rules alone are insufficient. Under such rules, individuals or organizations using, deploying, or developing AI could be held legally accountable for damages caused by their models.

Buterin intervient également sur la réglementation de l'industrie de l'IA, proposant une « pause douce » sur le matériel uniquement s'il est convaincu que les règles de responsabilité à elles seules sont insuffisantes. En vertu de ces règles, les individus ou les organisations utilisant, déployant ou développant l’IA pourraient être tenus légalement responsables des dommages causés par leurs modèles.

He highlights proposals for monitoring AI development, such as identifying the physical locations of AI chips and mandating their registration. To control industrial-scale AI hardware, Buterin suggests integrating chips that require weekly authorization from three major international bodies.

Il met en avant des propositions visant à surveiller le développement de l’IA, telles que l’identification des emplacements physiques des puces IA et l’obligation de leur enregistrement. Pour contrôler le matériel d’IA à l’échelle industrielle, Buterin suggère d’intégrer des puces qui nécessitent l’autorisation hebdomadaire de trois grands organismes internationaux.

"The signatures would be device-independent (if desired, we could even require a zero-knowledge proof that they were published on a blockchain), so it would be all-or-nothing. There would be no practical way to authorize one device to keep running without authorizing all other devices," Buterin explains.

"Les signatures seraient indépendantes de l'appareil (si nous le souhaitons, nous pourrions même exiger une preuve sans connaissance qu'elles ont été publiées sur une blockchain), ce serait donc tout ou rien. Il n'y aurait aucun moyen pratique d'autoriser un appareil. continuer à fonctionner sans autoriser tous les autres appareils", explique Buterin.

The d/acc concept, endorsed by Buterin, promotes a cautious and measured approach to technological development, contrasting with effective accelerationism (e/acc), which advocates for rapid and unrestricted technological advancements.

Le concept d/acc, soutenu par Buterin, promeut une approche prudente et mesurée du développement technologique, contrastant avec l'accélérationnisme efficace (e/acc), qui prône des progrès technologiques rapides et sans restrictions.