Des chercheurs s’inquiètent des préjugés idéologiques dans les grands modèles linguistiques (LLM)

Ces modèles, largement utilisés pour des tâches telles que la synthèse et la réponse aux questions, reflètent la vision du monde de leurs créateurs. Une nouvelle étude de l'Université de Gand montre comment les LLM ont des positions idéologiques différentes en fonction de la langue, de la région et des données de formation.

Large language models (LLMs) are powerful tools that can be used for a wide variety of tasks, from summarizing text to answering questions. However, a recent study from Ghent University has shown that LLMs can also be biased, reflecting the ideological worldviews of their creators.

Les grands modèles linguistiques (LLM) sont des outils puissants qui peuvent être utilisés pour une grande variété de tâches, depuis la synthèse de texte jusqu'à la réponse à des questions. Cependant, une étude récente de l’Université de Gand a montré que les LLM peuvent également être biaisés, reflétant les visions idéologiques du monde de leurs créateurs.

The study examined ideological differences in LLM responses in English and Chinese. The researchers asked the models to describe historical figures, and then analyzed the moral judgments in each response. They found that LLMs responded differently based on language and geographic training. This was evident in how Western and non-Western LLMs handled descriptions of global conflicts and political figures.

L'étude a examiné les différences idéologiques dans les réponses LLM en anglais et en chinois. Les chercheurs ont demandé aux modèles de décrire des personnages historiques, puis ont analysé les jugements moraux de chaque réponse. Ils ont constaté que les LLM réagissaient différemment en fonction de la formation linguistique et géographique. Cela était évident dans la manière dont les LLM occidentaux et non occidentaux traitaient les descriptions des conflits mondiaux et des personnalités politiques.

Paolo Ardoino, CEO of Tether, raised concerns about this issue in a recent post. He highlighted the importance of user control over AI models, and expressed wariness about the influence of large tech companies, which he said could be used to shape public thoughts.

Paolo Ardoino, PDG de Tether, a fait part de ses inquiétudes à ce sujet dans un article récent. Il a souligné l’importance du contrôle des utilisateurs sur les modèles d’IA et a exprimé sa méfiance quant à l’influence des grandes entreprises technologiques, qui, selon lui, pourraient être utilisées pour façonner l’opinion publique.

At the Lugano Plan B event, Ardoinoを紹介ed Tether’s Local AI development kit as a solution. The privacy-focused kit utilizes peer-to-peer (P2P) technology to offer an alternative to big tech-controlled AI models.

Lors de l'événement Plan B de Lugano, Ardoino a présenté le kit de développement d'IA locale de Tether comme solution. Le kit axé sur la confidentialité utilise la technologie peer-to-peer (P2P) pour offrir une alternative aux grands modèles d'IA contrôlés par la technologie.

We need to control the models we execute and rely on.

Nous devons contrôler les modèles que nous exécutons et sur lesquels nous nous appuyons.

And not let big tech overlords to force and control our thoughts.

Et ne pas laisser les grands seigneurs de la technologie forcer et contrôler nos pensées.

A solution https://t.co/1MyRIUXwit

Une solution https://t.co/1MyRIUXwit

The Tether AI SDK is highly modular and adaptable, allowing developers to use it across various devices, ranging from budget phones to advanced computers. The open-source kit supports different models, such as Marian and LLaMA, and enables users to store data in P2P structures for enhanced privacy. This decentralized approach provides a local and private method of executing AI applications.

Le SDK Tether AI est hautement modulaire et adaptable, permettant aux développeurs de l'utiliser sur divers appareils, allant des téléphones économiques aux ordinateurs avancés. Le kit open source prend en charge différents modèles, tels que Marian et LLaMA, et permet aux utilisateurs de stocker des données dans des structures P2P pour une confidentialité renforcée. Cette approche décentralisée fournit une méthode locale et privée d’exécution d’applications d’IA.

The Ghent University study also found differences in how LLMs addressed historical and political events. Western models tended to align with Western ideologies in their descriptions, while non-Western models approached these topics differently, highlighting a divide in narrative perspectives. These findings underscore the challenges in constructing "neutral" AI systems.

L’étude de l’Université de Gand a également révélé des différences dans la manière dont les LLM abordent les événements historiques et politiques. Les modèles occidentaux avaient tendance à s’aligner sur les idéologies occidentales dans leurs descriptions, tandis que les modèles non occidentaux abordaient ces sujets différemment, mettant en évidence une division dans les perspectives narratives. Ces résultats soulignent les défis liés à la construction de systèmes d’IA « neutres ».

Ardoino’s initiative for a decentralized AI platform aligns with a broader trend in the tech industry toward greater privacy. As Tether’s Local AI kit is being tested, it showcases an emerging avenue for modular AI that is controlled by the user. This approach could potentially address privacy concerns and reduce dependence on big tech for AI needs.

L'initiative d'Ardoino en faveur d'une plate-forme d'IA décentralisée s'aligne sur une tendance plus large du secteur technologique vers une plus grande confidentialité. Alors que le kit d'IA locale de Tether est en cours de test, il présente une voie émergente pour l'IA modulaire contrôlée par l'utilisateur. Cette approche pourrait potentiellement répondre aux problèmes de confidentialité et réduire la dépendance à l’égard des grandes technologies pour les besoins en IA.

This article is educational and informational in nature. It does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Please consult a licensed professional before making any financial or other decisions.

Cet article est de nature éducative et informative. Il ne constitue pas un conseil financier ou un conseil d’aucune sorte. Coin Edition n'est pas responsable des pertes résultant de l'utilisation du contenu, des produits ou des services mentionnés. Veuillez consulter un professionnel agréé avant de prendre toute décision financière ou autre.