OpenAI frappé par une plainte relative à la confidentialité concernant des données erronées générées par l'IA

Le groupe autrichien de protection des données Noyb a déposé une plainte pour confidentialité contre OpenAI, alléguant que son chatbot ChatGPT fournit de fausses informations et refuse de les corriger ou de les effacer. La plainte affirme que les actions d'OpenAI violent les règles de confidentialité de l'UE et met en évidence des préoccupations concernant l'exactitude et la transparence des données générées par l'IA. Noyb a exhorté l'autorité autrichienne de protection des données à enquêter sur les pratiques de traitement des données d'OpenAI et à garantir le respect du droit de l'UE.

OpenAI Faces Privacy Complaint Over Alleged Inaccurate and Untraceable AI-Generated Data

OpenAI fait face à une plainte en matière de confidentialité concernant des données présumées inexactes et intraçables générées par l'IA

In a groundbreaking move, the data rights protection advocacy group Noyb has filed a complaint against OpenAI, the renowned artificial intelligence (AI) developer, alleging violations of privacy rules within the European Union (EU). The complaint stems from concerns over incorrect information provided by OpenAI's generative AI chatbot, ChatGPT, and the company's alleged refusal to address or provide transparency into its data handling practices.

Dans une démarche révolutionnaire, le groupe de défense des droits des données Noyb a déposé une plainte contre OpenAI, le célèbre développeur d'intelligence artificielle (IA), alléguant des violations des règles de confidentialité au sein de l'Union européenne (UE). La plainte découle de préoccupations concernant des informations incorrectes fournies par le chatbot génératif d'OpenAI, ChatGPT, et du refus présumé de l'entreprise d'aborder ou de fournir de la transparence sur ses pratiques de traitement des données.

According to Noyb, the complainant, an unnamed public figure, sought information about themselves from ChatGPT, only to receive repeated instances of inaccurate data. Upon requesting corrections or erasure of the erroneous information, OpenAI reportedly denied their request, claiming it was not feasible. Furthermore, OpenAI declined to disclose details about the training data used for ChatGPT and its sources.

Selon Noyb, le plaignant, une personnalité publique anonyme, a recherché des informations sur lui-même auprès de ChatGPT, pour ensuite recevoir des exemples répétés de données inexactes. Après avoir demandé des corrections ou l'effacement des informations erronées, OpenAI aurait rejeté leur demande, affirmant que cela n'était pas réalisable. De plus, OpenAI a refusé de divulguer des détails sur les données de formation utilisées pour ChatGPT et ses sources.

Maartje de Graaf, a data protection lawyer at Noyb, expressed the group's concerns in a statement: "If a system cannot produce accurate and transparent results, it cannot be used to generate data about individuals. The technology has to follow the legal requirements, not the other way around."

Maartje de Graaf, avocat spécialisé en protection des données chez Noyb, a exprimé les inquiétudes du groupe dans un communiqué : « Si un système ne peut pas produire des résultats précis et transparents, il ne peut pas être utilisé pour générer des données sur des individus. La technologie doit respecter les exigences légales, et non l'inverse."

The complaint underscores the growing scrutiny faced by AI-driven language models, particularly regarding their potential implications for data privacy and accuracy. Noyb has taken its case to the Austrian data protection authority, requesting an investigation into OpenAI's data processing practices and the measures it employs to ensure the accuracy of personal data processed by its large language models.

La plainte souligne l’attention croissante portée aux modèles linguistiques basés sur l’IA, en particulier en ce qui concerne leurs implications potentielles sur la confidentialité et l’exactitude des données. Noyb a porté son cas devant l'autorité autrichienne de protection des données, demandant une enquête sur les pratiques de traitement des données d'OpenAI et les mesures qu'elle utilise pour garantir l'exactitude des données personnelles traitées par ses grands modèles linguistiques.

"It's clear that companies are currently unable to make chatbots like ChatGPT comply with EU law when processing data about individuals," de Graaf stated.

"Il est clair que les entreprises ne sont actuellement pas en mesure de faire en sorte que les chatbots comme ChatGPT se conforment au droit de l'UE lorsqu'ils traitent des données sur des individus", a déclaré de Graaf.

Noyb, also known as the European Center for Digital Rights, is based in Vienna, Austria, and has been instrumental in pursuing legal actions and media initiatives to uphold the EU's General Data Protection Regulation (GDPR) laws.

Noyb, également connu sous le nom de Centre européen pour les droits numériques, est basé à Vienne, en Autriche, et a joué un rôle déterminant dans la poursuite d'actions en justice et d'initiatives médiatiques pour faire respecter les lois du Règlement général sur la protection des données (RGPD) de l'UE.

The complaint against OpenAI is not an isolated incident. In December 2023, a study conducted by two European nonprofit organizations exposed inaccuracies and misleading information provided by Microsoft's Bing AI chatbot, rebranded as Copilot, during political elections in Germany and Switzerland. The chatbot furnished incorrect details about candidates, polls, scandals, and voting procedures, while misrepresenting its sources.

La plainte contre OpenAI n’est pas un incident isolé. En décembre 2023, une étude menée par deux organisations européennes à but non lucratif a révélé des inexactitudes et des informations trompeuses fournies par le chatbot Bing AI de Microsoft, rebaptisé Copilot, lors des élections politiques en Allemagne et en Suisse. Le chatbot a fourni des détails incorrects sur les candidats, les sondages, les scandales et les procédures de vote, tout en déformant ses sources.

Furthermore, Google faced criticism for its Gemini AI chatbot's "woke" and inaccurate image generation capabilities. The company apologized for the incident and announced plans to refine its model.

En outre, Google a été critiqué pour les capacités de génération d'images « réveillées » et inexactes de son chatbot Gemini AI. L'entreprise s'est excusée pour l'incident et a annoncé son intention d'affiner son modèle.

These incidents highlight the urgent need for greater transparency, accountability, and adherence to legal frameworks by companies developing and deploying AI-powered chatbots. The potential for misuse of personal data, dissemination of misinformation, and algorithmic bias calls for robust regulatory oversight and ethical considerations to safeguard individuals' privacy rights in the digital age.

Ces incidents mettent en évidence le besoin urgent d’une plus grande transparence, d’une plus grande responsabilité et d’un plus grand respect des cadres juridiques par les entreprises développant et déployant des chatbots alimentés par l’IA. Le risque d'utilisation abusive des données personnelles, de diffusion de fausses informations et de biais algorithmiques nécessite une surveillance réglementaire rigoureuse et des considérations éthiques pour protéger le droit à la vie privée des individus à l'ère numérique.