Google engagiert sich gemeinsam mit OpenAI und Meta für die Kindersicherheit bei der KI-Entwicklung – Tokenhell

The fight against child sexual abuse material (CSAM) is gaining momentum as high-powered technology players pledged to prioritize child safety in all AI development phases. The coalition features leading generative AI developers, among them Microsoft-backed OpenAI, Google, and Meta, each vowing to enforce guardrails around their products. 

Der Kampf gegen Material zum sexuellen Missbrauch von Kindern (CSAM) gewinnt an Dynamik, da sich leistungsstarke Technologieunternehmen verpflichtet haben, der Kindersicherheit in allen Phasen der KI-Entwicklung Vorrang einzuräumen. Der Koalition gehören führende Entwickler generativer KI an, darunter die von Microsoft unterstützten Unternehmen OpenAI, Google und Meta, die alle geloben, Schutzmaßnahmen für ihre Produkte durchzusetzen.

The group is steered by two non-profit organizations with a collective pledge to end child sexual exploitation via artificial intelligence (AI). New York-headquartered All Tech is Human, alongside Thorn (formerly DNA Foundation), advocates the Safety by Design principle in all phases of generative AI development. 

Die Gruppe wird von zwei gemeinnützigen Organisationen geleitet, die sich gemeinsam dazu verpflichten, der sexuellen Ausbeutung von Kindern durch künstliche Intelligenz (KI) ein Ende zu setzen. All Tech is Human mit Hauptsitz in New York setzt sich gemeinsam mit Thorn (ehemals DNA Foundation) für das Safety by Design-Prinzip in allen Phasen der generativen KI-Entwicklung ein.

The pledge to prioritize child safety has been a critical objective for Thorn since its inception in 2012 by actors Ashton Kutcher and Demi Moore. The collective pledge coincided with the unveiling of the Thorn report on Tuesday, April 23, championing safety design in generative AI development. 

Das Versprechen, der Kindersicherheit Priorität einzuräumen, ist seit der Gründung von Thorn im Jahr 2012 durch die Schauspieler Ashton Kutcher und Demi Moore ein wichtiges Ziel. Das gemeinsame Versprechen fiel mit der Enthüllung des Thorn-Berichts am Dienstag, dem 23. April, zusammen, der sich für Sicherheitsdesign in der generativen KI-Entwicklung einsetzt.

Thorn emphasized the need for establishing guardrails that would bar the generation of child sexual abuse material (CSAM) across the AI model lifecycle. Thorn urged the companies developing, deploying, and using generative AI and affiliate products to embrace Safety by Design principles. 

Thorn betonte die Notwendigkeit, Leitplanken einzurichten, die die Generierung von Material über sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) im gesamten Lebenszyklus des KI-Modells verhindern würden. Thorn forderte die Unternehmen, die generative KI und Affiliate-Produkte entwickeln, einsetzen und nutzen, auf, sich die Safety-by-Design-Prinzipien zu eigen zu machen.

Thorns Warns of Deepfake Threats Amid Prevalence of CSAM

Thorn added that the collective pledge mandates each to portray dedication to prevent CSAM creation and spread via AI. Besides, Thorn urged Thorn to avoid any form of child abuse and exploitation. 

Thorns warnt vor Deepfake-Bedrohungen inmitten der Verbreitung von CSAMThorn fügte hinzu, dass das kollektive Versprechen jeden dazu verpflichtet, sein Engagement zu zeigen, um die Entstehung und Verbreitung von CSAM über KI zu verhindern. Darüber hinaus forderte Thorn Thorn auf, jede Form von Kindesmissbrauch und -ausbeutung zu vermeiden.

Thorn indicated that AI-generated CSAM has become relatively easy for criminals to attain. Thorn affirmed its commitment to developing tools and resources that would help defend children from exploitation and sexual abuse. 

Thorn wies darauf hin, dass KI-generiertes CSAM für Kriminelle mittlerweile relativ leicht zugänglich sei. Thorn bekräftigte sein Engagement für die Entwicklung von Werkzeugen und Ressourcen, die dazu beitragen, Kinder vor Ausbeutung und sexuellem Missbrauch zu schützen.

Thorn reflected on the 2022 publication that revealed the discovery of over 824,000 files of child abuse material. The previous year’s impact report had over 104 million files propagating suspected CSAM. 

.ubada1eaae7a77506a614814f7c134939 { padding:0px; Rand: 0; padding-top:1em!important; padding-bottom:1em!important; Breite: 100 %; Bildschirmsperre; Schriftdicke: fett; Hintergrundfarbe:#2ECC71; Grenze:0!wichtig; border-left:4px solid #34495E!important; Box-Shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); Textdekoration: keine; } .ubada1eaae7a77506a614814f7c134939:active, .ubada1eaae7a77506a614814f7c134939:hover { opacity: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; Textdekoration: keine; } .ubada1eaae7a77506a614814f7c134939 { Transition: Hintergrundfarbe 250 ms; Webkit-Übergang: Hintergrundfarbe 250 ms; Deckkraft: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; } .ubada1eaae7a77506a614814f7c134939 .ctaText { Font-weight:bold; Farbe:#464646; Textdekoration: keine; Schriftgröße: 16px; } .ubada1eaae7a77506a614814f7c134939 .postTitle { color:#000000; Textdekoration: unterstrichen!wichtig; Schriftgröße: 16px; } .ubada1eaae7a77506a614814f7c134939:hover .postTitle { text-decoration: underline!important; } 📰 Lesen Sie auch: Staatsanwälte von Taipeh zielen auf Ace-Krypto-Börse in hochkarätigem Betrugsfall abThorn dachte über die Veröffentlichung aus dem Jahr 2022 nach, die die Entdeckung von über 824.000 Dateien mit Kindesmissbrauchsmaterial enthüllte. Der Impact Report des Vorjahres enthielt über 104 Millionen Dateien, in denen der Verdacht auf CSAM verbreitet wurde.

Thorn’s efforts to combat CSAM are timely, given the prevalence of deepfake child pornography since the generative AI models emerged. The existence of stand-alone AI models aggravates the menace circulated on the dark web channels. 

Thorns Bemühungen zur Bekämpfung von CSAM kommen angesichts der Verbreitung von Deepfake-Kinderpornografie seit der Entstehung generativer KI-Modelle zur rechten Zeit. Die Existenz eigenständiger KI-Modelle verschärft die Bedrohung, die auf den Dark-Web-Kanälen verbreitet wird.

Thorn illustrated that Generative AI yields volumes of content more easily than ever before. It allows a single child predator to create CSAM en masse. Thorn demonstrated that generative AI allows child predators to adapt the original images and videos into newly formulated content.

Thorn veranschaulichte, dass generative KI einfacher als je zuvor große Mengen an Inhalten generieren kann. Es ermöglicht einem einzelnen Kinderräuber, massenhaft CSAM zu erstellen. Thorn zeigte, dass generative KI es Kinderräubern ermöglicht, die Originalbilder und -videos in neu formulierte Inhalte umzuwandeln.

Thorn observes that the influx of AIG-CSAM threatens the already burdened child safety ecosystem by scaling new victimization to more population. It exacerbates the challenges that law enforcement stakeholders confront in their efforts to identify and rescue abuse victims. 

Thorn stellt fest, dass der Zustrom von AIG-CSAM das bereits belastete Ökosystem der Kindersicherheit bedroht, indem er die neue Viktimisierung auf eine größere Bevölkerungsgruppe ausweitet. Dies verschärft die Herausforderungen, mit denen die Strafverfolgungsbehörden bei ihren Bemühungen, Missbrauchsopfer zu identifizieren und zu retten, konfrontiert sind.

Thorn offers a series of principles that tech companies and AI developers can embrace to prevent their products from facilitating child pornography. Thorn urges responsible sourcing for training, integrating feedback loops and stress-testing strategies. 

Thorn bietet eine Reihe von Grundsätzen an, die Technologieunternehmen und KI-Entwickler anwenden können, um zu verhindern, dass ihre Produkte Kinderpornografie ermöglichen. Thorn drängt auf eine verantwortungsvolle Beschaffung von Schulungen, die Integration von Feedbackschleifen und Stressteststrategien.

Companies Behind Generative AI Models Pledge to Mind Adversarial Misuse of Products

Thorn suggests that companies should employ provenance while minding adversarial misuse. Also, responsible hosting is key to safety in the AI models. The call saw Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI, and Stability AI.

Unternehmen, die hinter generativen KI-Modellen stehen, verpflichten sich, auf kontroversen Missbrauch von Produkten zu achten. Thorn empfiehlt, dass Unternehmen Provenienz nutzen und gleichzeitig auf kontroversen Missbrauch achten sollten. Außerdem ist verantwortungsvolles Hosting der Schlüssel zur Sicherheit in den KI-Modellen. An dem Anruf nahmen Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI und Stability AI teil.

Metaphysic chief market executive Alejandro affirmed the importance of integrating responsibility in developing AI. The executive acknowledged the need to safeguard the vulnerable in society during this darkest advent of technology. 

Alejandro, Chief Market Executive von Metaphysic, bekräftigte die Bedeutung der Integration von Verantwortung in die Entwicklung von KI. Die Exekutive erkannte die Notwendigkeit an, die Schwachen in der Gesellschaft während dieses dunkelsten Aufkommens der Technologie zu schützen.

OpenAI identified itself with the statement conveyed by the head of child safety, Chelsea Carlson. The executive explained the importance of safety in its tools. 

OpenAI identifizierte sich mit der Aussage der Leiterin der Kindersicherheit, Chelsea Carlson. Der Geschäftsführer erläuterte die Bedeutung der Sicherheit seiner Werkzeuge.

Carlson confirmed the guardrails deployed into ChatGPT and DALL-E align to the call by Thorn and All Tech is Human. The executive affirmed support for the Safety by Design principles as its reference to mitigate potential harm to the children. 

.uef27b5abaccc52e9b8f3f557da8e9da6 { padding:0px; Rand: 0; padding-top:1em!important; padding-bottom:1em!important; Breite: 100 %; Bildschirmsperre; Schriftdicke: fett; Hintergrundfarbe:#2ECC71; Grenze:0!wichtig; border-left:4px solid #34495E!important; Box-Shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); Textdekoration: keine; } .uef27b5abaccc52e9b8f3f557da8e9da6:active, .uef27b5abaccc52e9b8f3f557da8e9da6:hover { opacity: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; Textdekoration: keine; } .uef27b5abaccc52e9b8f3f557da8e9da6 { Transition: Hintergrundfarbe 250 ms; Webkit-Übergang: Hintergrundfarbe 250 ms; Deckkraft: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; } .uef27b5abaccc52e9b8f3f557da8e9da6 .ctaText { Font-weight:bold; Farbe:#464646; Textdekoration: keine; Schriftgröße: 16px; } .uef27b5abaccc52e9b8f3f557da8e9da6 .postTitle { color:#000000; Textdekoration: unterstrichen!wichtig; Schriftgröße: 16px; } .uef27b5abaccc52e9b8f3f557da8e9da6:hover .postTitle { text-decoration: underline!important; } 📰 Lesen Sie auch:  Crypto Advocacy Groups Support Tornado Cash-Entwickler Roman StormCarlson bestätigte, dass die in ChatGPT und DALL-E eingesetzten Leitplanken mit der Forderung von Thorn und All Tech is Human übereinstimmen. Die Führungskraft bekräftigte ihre Unterstützung für die „Safety by Design“-Grundsätze als Referenz zur Minderung potenzieller Schäden für Kinder.

Meta hailed its experience in keeping people safe through numerous tools to combat potential harm orchestrated by child predators. Meta pledged to adapt since predators were too adjusting to evade protections. 

Meta lobte seine Erfahrung bei der Gewährleistung der Sicherheit von Menschen durch zahlreiche Instrumente zur Bekämpfung potenzieller Schäden, die von Kinderräubern verursacht werden. Meta versprach, sich anzupassen, da Raubtiere sich zu sehr anpassten, um Schutzmaßnahmen zu entgehen.

Google’s head of trust and safety solutions, Susan Jasper, illustrated that the team utilizes hash-matching technology and AI classifiers alongside human reviews to remove CSAE content proactively. The proactive safety approach extends to detecting AI-generated CSAM and reporting such to the NCMEC. 

Susan Jasper, Leiterin für Vertrauens- und Sicherheitslösungen bei Google, erläuterte, dass das Team neben menschlichen Überprüfungen auch Hash-Matching-Technologie und KI-Klassifizierer einsetzt, um CSAE-Inhalte proaktiv zu entfernen. Der proaktive Sicherheitsansatz erstreckt sich auf die Erkennung von KI-generiertem CSAM und deren Meldung an das NCMEC.

The creation of a collective pledge is timely given that several watchdog groups led by the UK’s Internet Watch Foundation warned that AIG-CSAM leaves the internet overwhelmed with exploitative material. 

Die Schaffung eines kollektiven Versprechens kommt zum richtigen Zeitpunkt, da mehrere Überwachungsgruppen unter der Leitung der britischen Internet Watch Foundation davor gewarnt haben, dass AIG-CSAM das Internet mit ausbeuterischem Material überschwemmt.

Editorial credit: AHK Photography / Shutterstock.com

Bildnachweis: AHK Photography / Shutterstock.com

Tokenhell produces content exposure for over 5,000 crypto companies and you can be one of them too! Contact at info@tokenhell.com if you have any questions. Cryptocurrencies are highly volatile, conduct your own research before making any investment decisions. Some of the posts on this website are guest posts or paid posts that are not written by Tokenhell authors (namely Crypto Cable , Sponsored Articles and Press Release content) and the views expressed in these types of posts do not reflect the views of this website. Tokenhell is not responsible for the content, accuracy, quality, advertising, products or any other content or banners (ad space) posted on the site. Read full terms and conditions / disclaimer.

Tokenhell produziert Content-Präsenz für über 5.000 Krypto-Unternehmen und auch Sie können einer von ihnen sein! Wenn Sie Fragen haben, wenden Sie sich bitte an info@tokenhell.com. Kryptowährungen sind sehr volatil. Führen Sie daher Ihre eigene Recherche durch, bevor Sie Investitionsentscheidungen treffen. Bei einigen Beiträgen auf dieser Website handelt es sich um Gastbeiträge oder bezahlte Beiträge, die nicht von Tokenhell-Autoren verfasst wurden (nämlich Crypto Cable, gesponserte Artikel und Pressemitteilungsinhalte), und die in solchen Beiträgen geäußerten Ansichten spiegeln nicht die Ansichten dieser Website wider. Tokenhell ist nicht verantwortlich für den Inhalt, die Richtigkeit, die Qualität, die Werbung, die Produkte oder andere auf der Website veröffentlichte Inhalte oder Banner (Werbeflächen). Lesen Sie die vollständigen Geschäftsbedingungen/Haftungsausschluss.

.u92c8edbee170e51f8195e7feb7dad8c9 { padding:0px; Rand: 0; padding-top:1em!important; padding-bottom:1em!important; Breite: 100 %; Bildschirmsperre; Schriftdicke: fett; Hintergrundfarbe:#2ECC71; Grenze:0!wichtig; border-left:4px solid #34495E!important; Box-Shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0,17); Textdekoration: keine; } .u92c8edbee170e51f8195e7feb7dad8c9:active, .u92c8edbee170e51f8195e7feb7dad8c9:hover { opacity: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; Textdekoration: keine; } .u92c8edbee170e51f8195e7feb7dad8c9 { Transition: Hintergrundfarbe 250 ms; Webkit-Übergang: Hintergrundfarbe 250 ms; Deckkraft: 1; Übergang: Deckkraft 250 ms; Webkit-Übergang: Deckkraft 250 ms; } .u92c8edbee170e51f8195e7feb7dad8c9 .ctaText { Font-weight:bold; Farbe:#464646; Textdekoration: keine; Schriftgröße: 16px; } .u92c8edbee170e51f8195e7feb7dad8c9 .postTitle { color:#000000; Textdekoration: unterstrichen!wichtig; Schriftgröße: 16px; } .u92c8edbee170e51f8195e7feb7dad8c9:hover .postTitle { text-decoration: underline!important; } 📰 Lesen Sie auch: Gary Genslers Viral-X-Beitrag sorgt für Aufsehen in der Krypto-Community