SBTLF: Une nouvelle approche pour sécuriser l'apprentissage automatique collaboratif à l'aide de l'incitation à la blockchain et à des jetons

L'une des principales préoccupations concernant le boom de l'intelligence artificielle (IA) est la confidentialité des données utilisées pour former l'IA. Avec les nations désormais désireuses de construire plus d'IA sur mesure et de grands modèles de langage (LLM), la façon dont nous utilisons et protégeons les données devient primordiale.

As nations strive to develop more sophisticated Artificial Intelligence (AI) and large language models (LLM), the privacy of the data used to train these models becomes a primary concern. To address this issue, researchers at the Indian Institute of Technology (IIT) Kharagpur have proposed a novel approach that leverages blockchain technology to facilitate secure data sharing for AI training.

Alors que les nations s'efforcent de développer une intelligence artificielle plus sophistiquée (IA) et des modèles de langage de grands (LLM), la confidentialité des données utilisées pour former ces modèles devient une préoccupation principale. Pour résoudre ce problème, les chercheurs de l'Indian Institute of Technology (IIT) Kharagpur ont proposé une nouvelle approche qui tire parti de la technologie blockchain pour faciliter le partage de données sécurisé pour la formation d'IA.

Their research focuses on enhancing Federated Learning (FL), a type of machine-learning model, by integrating it with blockchain technology and other privacy measures. This combined approach aims to make machine learning models more secure and equitable for all participants.

Leurs recherches se concentrent sur l'amélioration de l'apprentissage fédéré (FL), un type de modèle d'apprentissage automatique, en l'intégrant à la technologie de la blockchain et à d'autres mesures de confidentialité. Cette approche combinée vise à rendre les modèles d'apprentissage automatique plus sécurisés et équitables pour tous les participants.

At its core, the Federated Learning model is designed to be trained across multiple devices without requiring the transfer of raw data. Similar to how a large project can be divided into smaller tasks to be worked on by individual personal computers, FL enables individual devices (such as smartphones and PCs) to contribute to the training of an AI model without having to share the private data they hold.

À la base, le modèle d'apprentissage fédéré est conçu pour être formé sur plusieurs appareils sans nécessiter le transfert de données brutes. Semblable à la façon dont un grand projet peut être divisé en tâches plus petites sur lesquelles être travaillées par des ordinateurs personnels individuels, FL permet aux appareils individuels (tels que les smartphones et les PC) de contribuer à la formation d'un modèle d'IA sans avoir à partager les données privées qu'ils détiennent .

In FL, each individual device or ‘node’ trains a standard model on its local data and shares only the results—not the actual data—with a central server. To ensure privacy, the data is typically encoded using Local Differential Privacy (LDP). This well-established privacy model adds a layer of 'noise' to the data before it is shared, preserving the privacy of individual information.

En FL, chaque appareil individuel ou «nœud» forme un modèle standard sur ses données locales et ne partage que les résultats - pas les données réelles - avec un serveur central. Pour garantir la confidentialité, les données sont généralement codées à l'aide de la confidentialité différentielle locale (LDP). Ce modèle de confidentialité bien établi ajoute une couche de «bruit» aux données avant qu'elle ne soit partagée, préservant la confidentialité des informations individuelles.

In the present study, the researchers introduce a new approach called SBTLF (Secure Blockchain-Based Tokenized LDP Federated Learning). They realized that by combining blockchain technology with federated learning and adding a system of tokens and Local Differential Privacy, they could train machine learning models more securely and efficiently.

Dans la présente étude, les chercheurs introduisent une nouvelle approche appelée SBTLF (sécurisation à base de blockchain LDP Federated Lederated). Ils ont réalisé qu'en combinant la technologie de la blockchain avec l'apprentissage fédéré et l'ajout d'un système de jetons et de confidentialité différentielle locale, ils pourraient former des modèles d'apprentissage automatique plus solidement et efficacement.

Blockchain technology, which is better known for its association with cryptocurrencies such as Bitcoin, enables users to share data stored as tokens in a ledger in a decentralized and secure manner. For this purpose, the researchers employed HyperLedger Fabric, a specialized blockchain framework designed to securely manage data and transactions among different parties in a federated learning environment. It serves as a distributed ledger that records all the local nodes' updates and helps ensure the transparency of the entire process. This adds a layer of security by preventing any single point of failure, which could occur if only one system were to control the entire process.

La technologie de blockchain, qui est mieux connue pour son association avec des crypto-monnaies telles que Bitcoin, permet aux utilisateurs de partager des données stockées sous forme de jetons dans un grand livre de manière décentralisée et sécurisée. À cette fin, les chercheurs ont utilisé Hyperledger Fabric, un cadre de blockchain spécialisé conçu pour gérer en toute sécurité les données et les transactions entre les différentes parties dans un environnement d'apprentissage fédéré. Il sert de grand livre distribué qui enregistre toutes les mises à jour des nœuds locaux et aide à garantir la transparence de l'ensemble du processus. Cela ajoute une couche de sécurité en empêchant un seul point de défaillance, ce qui pourrait se produire si un seul système devait contrôler l'ensemble du processus.

Furthermore, the researchers propose the use of a token-based incentive system to enable fair data sharing and utilization. One major challenge encountered with the FL model is ensuring that participants are willing to share their data and that they follow the protocols. In some systems, participants could send heavily obscured, and therefore less helpful, data and still access the benefits of the learning model as others who contributed more meaningful learning experiences.

En outre, les chercheurs proposent l'utilisation d'un système d'incitation basé sur des jetons pour permettre le partage et l'utilisation de données équitables. Un défi majeur rencontré avec le modèle FL est de s'assurer que les participants sont prêts à partager leurs données et qu'ils suivent les protocoles. Dans certains systèmes, les participants pourraient envoyer des données fortement obscurcies et donc moins utiles et accéder toujours aux avantages du modèle d'apprentissage comme d'autres qui ont contribué des expériences d'apprentissage plus significatives.

The SBTLF method tackles this problem by introducing token-based incentives that are linked to the privacy parameter. Participants earn tokens by sharing less obscured (less noise-added) data. Clearer (less obscured) data earns more tokens. These tokens can then be used to access global model updates and to reward participants who contribute more valuable data. Additionally, by encrypting the model updates and using blockchain for security, the risks associated with security attacks and a single point of failure are drastically reduced.

La méthode SBTLF aborde ce problème en introduisant des incitations basées sur des jetons qui sont liées au paramètre de confidentialité. Les participants gagnent des jetons en partageant des données moins obscurcies (moins ajoutées par le bruit). Des données plus claires (moins obscurcies) gagnent plus de jetons. Ces jetons peuvent ensuite être utilisés pour accéder aux mises à jour du modèle global et pour récompenser les participants qui contribuent des données plus précieuses. De plus, en chiffrant les mises à jour du modèle et en utilisant la blockchain pour la sécurité, les risques associés aux attaques de sécurité et un seul point d'échec sont considérablement réduits.

While this research opens up many exciting possibilities for secure collaborative machine learning, setting up a blockchain-based federated learning system can be technically complex and may require substantial computational resources. Moreover, introducing token-based incentives, which essentially involves a form of trading, may also require policy-level interventions.

Bien que cette recherche ouvre de nombreuses possibilités passionnantes pour un apprentissage automatique collaboratif sécurisé, la mise en place d'un système d'apprentissage fédéré basé sur la blockchain peut être techniquement complexe et peut nécessiter des ressources de calcul substantielles. De plus, l'introduction d'incitations basées sur des jetons, qui implique essentiellement une forme de trading, peut également nécessiter des interventions au niveau de la politique.

Nevertheless, the research provides a promising approach to making federated learning more secure and efficient. It introduces privacy tools and a clever reward system to ensure fair participation. By exploring ways to ease implementation and enhance resistance to different types of attacks, the research can ultimately pave the way for federated learning models to learn from decentralized data in a secure and effective manner. As the field continues to grow, integrating blockchain and privacy measures could set high standards for global data security and collaborative learning.

Néanmoins, la recherche offre une approche prometteuse pour rendre l'apprentissage fédéré plus sûr et plus efficace. Il présente des outils de confidentialité et un système de récompense intelligent pour assurer une participation équitable. En explorant les moyens de faciliter la mise en œuvre et d'améliorer la résistance à différents types d'attaques, la recherche peut finalement ouvrir la voie à des modèles d'apprentissage fédérés pour apprendre des données décentralisées de manière sécurisée et efficace. Alors que le domaine continue de croître, l'intégration des mesures de la blockchain et de la confidentialité pourrait établir des normes élevées pour la sécurité mondiale des données et l'apprentissage collaboratif.

This research news was partly generated using artificial intelligence and edited by an editor at Research Matters

Ces nouvelles de la recherche ont été générées en partie à l'aide de l'intelligence artificielle et éditée par un éditeur de Research Matters