OpenAI von Datenschutzbeschwerde wegen fehlerhafter KI-generierter Daten betroffen

Die österreichische Datenschutzgruppe Noyb hat eine Datenschutzbeschwerde gegen OpenAI eingereicht und behauptet, dass ihr ChatGPT-Chatbot falsche Informationen liefert und sich weigert, diese zu korrigieren oder zu löschen. In der Beschwerde wird argumentiert, dass die Maßnahmen von OpenAI gegen EU-Datenschutzbestimmungen verstoßen, und es werden Bedenken hinsichtlich der Genauigkeit und Transparenz der von KI generierten Daten hervorgehoben. Noyb hat die österreichische Datenschutzbehörde aufgefordert, die Datenverarbeitungspraktiken von OpenAI zu untersuchen und die Einhaltung des EU-Rechts sicherzustellen.

OpenAI Faces Privacy Complaint Over Alleged Inaccurate and Untraceable AI-Generated Data

OpenAI sieht sich einer Datenschutzbeschwerde wegen angeblich ungenauer und nicht nachvollziehbarer KI-generierter Daten gegenüber

In a groundbreaking move, the data rights protection advocacy group Noyb has filed a complaint against OpenAI, the renowned artificial intelligence (AI) developer, alleging violations of privacy rules within the European Union (EU). The complaint stems from concerns over incorrect information provided by OpenAI's generative AI chatbot, ChatGPT, and the company's alleged refusal to address or provide transparency into its data handling practices.

In einem bahnbrechenden Schritt hat die Datenschutzgruppe Noyb eine Beschwerde gegen OpenAI, den renommierten Entwickler künstlicher Intelligenz (KI), wegen Verstößen gegen Datenschutzbestimmungen innerhalb der Europäischen Union (EU) eingereicht. Die Beschwerde beruht auf Bedenken hinsichtlich falscher Informationen, die von OpenAIs generativem KI-Chatbot ChatGPT bereitgestellt werden, und der angeblichen Weigerung des Unternehmens, sich mit seinen Datenverarbeitungspraktiken auseinanderzusetzen oder Transparenz darüber zu schaffen.

According to Noyb, the complainant, an unnamed public figure, sought information about themselves from ChatGPT, only to receive repeated instances of inaccurate data. Upon requesting corrections or erasure of the erroneous information, OpenAI reportedly denied their request, claiming it was not feasible. Furthermore, OpenAI declined to disclose details about the training data used for ChatGPT and its sources.

Laut Noyb suchte der Beschwerdeführer, eine namentlich nicht genannte Persönlichkeit des öffentlichen Lebens, bei ChatGPT nach Informationen über sich selbst, erhielt jedoch wiederholt ungenaue Daten. Auf die Bitte um Berichtigung oder Löschung der fehlerhaften Informationen lehnte OpenAI Berichten zufolge ihren Antrag mit der Begründung ab, dies sei nicht durchführbar. Darüber hinaus lehnte OpenAI es ab, Einzelheiten zu den für ChatGPT verwendeten Trainingsdaten und ihren Quellen offenzulegen.

Maartje de Graaf, a data protection lawyer at Noyb, expressed the group's concerns in a statement: "If a system cannot produce accurate and transparent results, it cannot be used to generate data about individuals. The technology has to follow the legal requirements, not the other way around."

Maartje de Graaf, Datenschutzanwältin bei Noyb, äußerte in einer Erklärung die Bedenken der Gruppe: „Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technologie muss den gesetzlichen Anforderungen entsprechen, nicht.“ umgekehrt."

The complaint underscores the growing scrutiny faced by AI-driven language models, particularly regarding their potential implications for data privacy and accuracy. Noyb has taken its case to the Austrian data protection authority, requesting an investigation into OpenAI's data processing practices and the measures it employs to ensure the accuracy of personal data processed by its large language models.

Die Beschwerde unterstreicht die zunehmende Prüfung, der KI-gesteuerte Sprachmodelle ausgesetzt sind, insbesondere im Hinblick auf ihre möglichen Auswirkungen auf den Datenschutz und die Genauigkeit. Noyb hat seinen Fall bei der österreichischen Datenschutzbehörde eingereicht und eine Untersuchung der Datenverarbeitungspraktiken von OpenAI und der Maßnahmen gefordert, die das Unternehmen einsetzt, um die Richtigkeit der von seinen großen Sprachmodellen verarbeiteten personenbezogenen Daten sicherzustellen.

"It's clear that companies are currently unable to make chatbots like ChatGPT comply with EU law when processing data about individuals," de Graaf stated.

„Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen“, erklärte de Graaf.

Noyb, also known as the European Center for Digital Rights, is based in Vienna, Austria, and has been instrumental in pursuing legal actions and media initiatives to uphold the EU's General Data Protection Regulation (GDPR) laws.

Noyb, auch bekannt als Europäisches Zentrum für digitale Rechte, hat seinen Sitz in Wien, Österreich, und war maßgeblich an der Verfolgung rechtlicher Schritte und Medieninitiativen zur Einhaltung der EU-Datenschutz-Grundverordnung (DSGVO) beteiligt.

The complaint against OpenAI is not an isolated incident. In December 2023, a study conducted by two European nonprofit organizations exposed inaccuracies and misleading information provided by Microsoft's Bing AI chatbot, rebranded as Copilot, during political elections in Germany and Switzerland. The chatbot furnished incorrect details about candidates, polls, scandals, and voting procedures, while misrepresenting its sources.

Die Beschwerde gegen OpenAI ist kein Einzelfall. Im Dezember 2023 deckte eine von zwei europäischen Non-Profit-Organisationen durchgeführte Studie Ungenauigkeiten und irreführende Informationen auf, die der Bing AI-Chatbot von Microsoft, umbenannt in Copilot, während politischer Wahlen in Deutschland und der Schweiz bereitgestellt hatte. Der Chatbot lieferte falsche Angaben zu Kandidaten, Umfragen, Skandalen und Abstimmungsverfahren und stellte gleichzeitig seine Quellen falsch dar.

Furthermore, Google faced criticism for its Gemini AI chatbot's "woke" and inaccurate image generation capabilities. The company apologized for the incident and announced plans to refine its model.

Darüber hinaus wurde Google wegen der „aufgewachten“ und ungenauen Bilderzeugungsfunktionen seines Gemini AI-Chatbots kritisiert. Das Unternehmen entschuldigte sich für den Vorfall und kündigte Pläne zur Weiterentwicklung seines Modells an.

These incidents highlight the urgent need for greater transparency, accountability, and adherence to legal frameworks by companies developing and deploying AI-powered chatbots. The potential for misuse of personal data, dissemination of misinformation, and algorithmic bias calls for robust regulatory oversight and ethical considerations to safeguard individuals' privacy rights in the digital age.

Diese Vorfälle verdeutlichen die dringende Notwendigkeit einer größeren Transparenz, Rechenschaftspflicht und Einhaltung gesetzlicher Rahmenbedingungen durch Unternehmen, die KI-gestützte Chatbots entwickeln und einsetzen. Das Potenzial für den Missbrauch personenbezogener Daten, die Verbreitung von Fehlinformationen und algorithmische Voreingenommenheit erfordert eine strenge Regulierungsaufsicht und ethische Überlegungen, um die Datenschutzrechte des Einzelnen im digitalen Zeitalter zu schützen.