Google、OpenAIおよびMetaと協力してAI開発における子供の安全に取り組む - Tokenhell

The fight against child sexual abuse material (CSAM) is gaining momentum as high-powered technology players pledged to prioritize child safety in all AI development phases. The coalition features leading generative AI developers, among them Microsoft-backed OpenAI, Google, and Meta, each vowing to enforce guardrails around their products. 

児童性的虐待資料 (CSAM) との戦いは、強力なテクノロジー企業が AI 開発のすべての段階で児童の安全を優先することを約束するにつれて勢いを増しています。この連合には、Microsoft が支援する OpenAI、Google、Meta などの主要な生成 AI 開発者が参加しており、それぞれが自社製品の周りにガードレールを強化することを誓っています。

The group is steered by two non-profit organizations with a collective pledge to end child sexual exploitation via artificial intelligence (AI). New York-headquartered All Tech is Human, alongside Thorn (formerly DNA Foundation), advocates the Safety by Design principle in all phases of generative AI development. 

このグループは、人工知能 (AI) による児童の性的搾取をなくすという共同の誓約を掲げる 2 つの非営利団体によって運営されています。ニューヨークに本社を置く All Tech is Human は、Thorn (旧 DNA Foundation) と並んで、生成 AI 開発のすべての段階で Safety by Design の原則を提唱しています。

The pledge to prioritize child safety has been a critical objective for Thorn since its inception in 2012 by actors Ashton Kutcher and Demi Moore. The collective pledge coincided with the unveiling of the Thorn report on Tuesday, April 23, championing safety design in generative AI development. 

子どもの安全を優先するという誓約は、2012 年に俳優のアシュトン カッチャーとデミ ムーアによって設立されて以来、ソーンにとって重要な目標でした。この共同誓約は、4 月 23 日火曜日の生成 AI 開発における安全設計を擁護する Thorn レポートの発表と同時に行われました。

Thorn emphasized the need for establishing guardrails that would bar the generation of child sexual abuse material (CSAM) across the AI model lifecycle. Thorn urged the companies developing, deploying, and using generative AI and affiliate products to embrace Safety by Design principles. 

ソーン氏は、AI モデルのライフサイクル全体にわたって児童性的虐待資料 (CSAM) の生成を阻止するガードレールを確立する必要性を強調しました。ソーン氏は、生成 AI や関連製品を開発、導入、使用している企業に対し、Safety by Design の原則を採用するよう促しました。

Thorns Warns of Deepfake Threats Amid Prevalence of CSAM

Thorn added that the collective pledge mandates each to portray dedication to prevent CSAM creation and spread via AI. Besides, Thorn urged Thorn to avoid any form of child abuse and exploitation. 

ソーン氏はCSAMの流行の中でディープフェイクの脅威を警告 ソーン氏は、共同誓約ではCSAMの作成とAIによる拡散を阻止するための献身的な姿勢を各自に表明するよう義務付けていると付け加えた。さらに、ソーン氏はいかなる形の児童虐待や搾取も避けるよう求めた。

Thorn indicated that AI-generated CSAM has become relatively easy for criminals to attain. Thorn affirmed its commitment to developing tools and resources that would help defend children from exploitation and sexual abuse. 

ソーン氏は、AI によって生成された CSAM は犯罪者にとって比較的容易に達成できるようになっていると指摘しました。ソーンは、子供たちを搾取や性的虐待から守るのに役立つツールやリソースの開発に取り組むことを確認した。

Thorn reflected on the 2022 publication that revealed the discovery of over 824,000 files of child abuse material. The previous year’s impact report had over 104 million files propagating suspected CSAM. 

.ubada1eaae7a77506a614814f7c134939 {パディング:0px;マージン: 0;パディングトップ:1em!重要;パディングボトム:1em!重要;幅:100%;表示ブロック;フォントの太さ:太字;背景色:#2ECC71;境界線:0!重要; border-left:4px ソリッド #34495E!重要;ボックスシャドウ: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);テキスト装飾:なし; .ubada1eaae7a77506a614814f7c134939:アクティブ、.ubada1eaae7a77506a614814f7c134939:hover { 不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms;テキスト装飾:なし; } .ubada1eaae7a77506a614814f7c134939 { 遷移: 背景色 250 ミリ秒; webkit-transition: 背景色 250ms;不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms; .ubada1eaae7a77506a614814f7c134939 .ctaText { font-weight:bold;色:#464646;テキスト装飾:なし;フォントサイズ: 16px; .ubada1eaae7a77506a614814f7c134939 .postTitle { color:#000000; }テキスト装飾: 下線!重要;フォントサイズ: 16px; } .ubada1eaae7a77506a614814f7c134939:hover .postTitle { text-decoration: 下線!重要; } 📰 こちらもお読みください: 台北検察、大規模な詐欺でエース仮想通貨取引所を標的 CaseThorn は、824,000 件を超える児童虐待資料のファイルの発見を明らかにした 2022 年の出版物を振り返りました。前年の影響レポートには、CSAM の疑いを広める 1 億 400 万以上のファイルが含まれていました。

Thorn’s efforts to combat CSAM are timely, given the prevalence of deepfake child pornography since the generative AI models emerged. The existence of stand-alone AI models aggravates the menace circulated on the dark web channels. 

生成型 AI モデルの出現以来、ディープフェイク児童ポルノが蔓延していることを考えると、CSAM と闘うためのソーン氏の取り組みは時宜にかなったものです。スタンドアロン AI モデルの存在は、ダークウェブ チャネル上で流通する脅威を悪化させます。

Thorn illustrated that Generative AI yields volumes of content more easily than ever before. It allows a single child predator to create CSAM en masse. Thorn demonstrated that generative AI allows child predators to adapt the original images and videos into newly formulated content.

ソーン氏は、Generative AI がこれまでよりも簡単に大量のコンテンツを生成できることを説明しました。これにより、単一の子捕食者が一斉に CSAM を作成することが可能になります。ソーンは、生成 AI により、捕食者が元の画像やビデオを新たに作成されたコンテンツに適応させることができることを実証しました。

Thorn observes that the influx of AIG-CSAM threatens the already burdened child safety ecosystem by scaling new victimization to more population. It exacerbates the challenges that law enforcement stakeholders confront in their efforts to identify and rescue abuse victims. 

ソーン氏は、AIG-CSAMの流入が新たな犠牲者をより多くの人口に拡大することで、すでに負担となっている子どもの安全エコシステムを脅かしていると観察している。これは、法執行機関の関係者が虐待被害者を特定し救出する取り組みで直面する課題をさらに悪化させます。

Thorn offers a series of principles that tech companies and AI developers can embrace to prevent their products from facilitating child pornography. Thorn urges responsible sourcing for training, integrating feedback loops and stress-testing strategies. 

ソーン氏は、テクノロジー企業やAI開発者が自社の製品が児童ポルノを助長するのを防ぐために採用できる一連の原則を提案している。ソーン氏は、トレーニングのための責任ある調達、フィードバック ループとストレス テスト戦略の統合を強く求めています。

Companies Behind Generative AI Models Pledge to Mind Adversarial Misuse of Products

Thorn suggests that companies should employ provenance while minding adversarial misuse. Also, responsible hosting is key to safety in the AI models. The call saw Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI, and Stability AI.

生成 AI モデルの背後にある企業は、製品の敵対的誤用に留意することを誓約 ソーン氏は、企業は敵対的誤用を考慮しながら出所を採用する必要があると提案しています。また、責任あるホスティングは AI モデルの安全性の鍵となります。この会議には、Microsoft、Amazon、Metaphysic、Anthropic、Mistral AI、Civit AI、Stability AI が参加しました。

Metaphysic chief market executive Alejandro affirmed the importance of integrating responsibility in developing AI. The executive acknowledged the need to safeguard the vulnerable in society during this darkest advent of technology. 

Metaphysics のチーフマーケットエグゼクティブであるアレハンドロ氏は、AI の開発において責任を統合することの重要性を断言しました。同幹部は、この最も暗いテクノロジーの到来の中で、社会の弱者を守る必要性を認めた。

OpenAI identified itself with the statement conveyed by the head of child safety, Chelsea Carlson. The executive explained the importance of safety in its tools. 

OpenAI は、児童安全責任者のチェルシー カールソン氏の声明に自らを認めました。同幹部はツールの安全性の重要性を説明した。

Carlson confirmed the guardrails deployed into ChatGPT and DALL-E align to the call by Thorn and All Tech is Human. The executive affirmed support for the Safety by Design principles as its reference to mitigate potential harm to the children. 

.uef27b5abaccc52e9b8f3f557da8e9da6 {パディング:0px;マージン: 0;パディングトップ:1em!重要;パディングボトム:1em!重要;幅:100%;表示ブロック;フォントの太さ:太字;背景色:#2ECC71;境界線:0!重要; border-left:4px ソリッド #34495E!重要;ボックスシャドウ: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);テキスト装飾:なし; .uef27b5abaccc52e9b8f3f557da8e9da6:アクティブ、.uef27b5abaccc52e9b8f3f557da8e9da6:hover {不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms;テキスト装飾:なし; .uef27b5abaccc52e9b8f3f557da8e9da6 {遷移:背景色 250ms; webkit-transition: 背景色 250ms;不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms; .uef27b5abaccc52e9b8f3f557da8e9da6 .ctaText { font-weight:bold;色:#464646;テキスト装飾:なし;フォントサイズ: 16px; .uef27b5abaccc52e9b8f3f557da8e9da6 .postTitle { color:#000000; }テキスト装飾: 下線!重要;フォントサイズ: 16px; } .uef27b5abaccc52e9b8f3f557da8e9da6:hover .postTitle { text-decoration: 下線!重要; } 📰 こちらもお読みください: 暗号化擁護団体が Tornado Cash をサポート 開発者の Roman StormCarlson 氏は、ChatGPT と DALL-E に展開されたガードレールが Thorn と All Tech is Human の呼びかけに沿っていることを確認しました。同行政長官は、子どもたちへの潜在的な危害を軽減するための参照として、Safety by Design原則への支持を確認した。

Meta hailed its experience in keeping people safe through numerous tools to combat potential harm orchestrated by child predators. Meta pledged to adapt since predators were too adjusting to evade protections. 

メタ社は、子どもを捕食する者によって画策された潜在的な危害と戦うための多数のツールを通じて人々の安全を守ってきた経験を称賛した。捕食者が防御を回避するにはあまりにも適応しすぎているため、メタは適応することを誓った。

Google’s head of trust and safety solutions, Susan Jasper, illustrated that the team utilizes hash-matching technology and AI classifiers alongside human reviews to remove CSAE content proactively. The proactive safety approach extends to detecting AI-generated CSAM and reporting such to the NCMEC. 

Google の信頼および安全性ソリューションの責任者であるスーザン・ジャスパー氏は、チームが人間によるレビューと並行してハッシュ マッチング テクノロジーと AI 分類器を利用して、CSAE コンテンツを積極的に削除していることを説明しました。プロアクティブな安全アプローチは、AI によって生成された CSAM の検出と NCMEC への報告にまで拡張されます。

The creation of a collective pledge is timely given that several watchdog groups led by the UK’s Internet Watch Foundation warned that AIG-CSAM leaves the internet overwhelmed with exploitative material. 

英国のインターネット監視財団が主導するいくつかの監視団体が、AIG-CSAM によってインターネットが搾取的なコンテンツであふれかえっていると警告していたことを考慮すると、この共同誓約の作成は時宜を得たものである。

Editorial credit: AHK Photography / Shutterstock.com

編集クレジット: AHK Photography / Shutterstock.com

Tokenhell produces content exposure for over 5,000 crypto companies and you can be one of them too! Contact at info@tokenhell.com if you have any questions. Cryptocurrencies are highly volatile, conduct your own research before making any investment decisions. Some of the posts on this website are guest posts or paid posts that are not written by Tokenhell authors (namely Crypto Cable , Sponsored Articles and Press Release content) and the views expressed in these types of posts do not reflect the views of this website. Tokenhell is not responsible for the content, accuracy, quality, advertising, products or any other content or banners (ad space) posted on the site. Read full terms and conditions / disclaimer.

Tokenhell は 5,000 社以上の暗号通貨企業のコンテンツ公開をプロデュースしており、あなたもその一員になることができます。ご質問がある場合は、info@tokenhell.com までお問い合わせください。暗号通貨は変動性が高いため、投資を決定する前に独自の調査を行ってください。この Web サイト上の投稿の一部は、Tokenhell 作成者によって書かれていないゲスト投稿または有料投稿 (つまり、 Crypto Cable 、スポンサー付き記事、プレス リリース コンテンツ) であり、これらの種類の投稿で表明された見解は、この Web サイトの見解を反映していません。 Tokenhell は、サイトに掲載されているコンテンツ、正確性、品質、広告、製品、またはその他のコンテンツやバナー (広告スペース) について責任を負いません。利用規約/免責事項をすべてお読みください。

.u92c8edbee170e51f8195e7feb7dad8c9 {パディング:0px;マージン: 0;パディングトップ:1em!重要;パディングボトム:1em!重要;幅:100%;表示ブロック;フォントの太さ:太字;背景色:#2ECC71;境界線:0!重要; border-left:4px ソリッド #34495E!重要;ボックスシャドウ: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);テキスト装飾:なし; .u92c8edbee170e51f8195e7feb7dad8c9:アクティブ、.u92c8edbee170e51f8195e7feb7dad8c9:ホバー { 不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms;テキスト装飾:なし; } .u92c8edbee170e51f8195e7feb7dad8c9 {遷移:背景色 250ms; webkit-transition: 背景色 250ms;不透明度: 1;トランジション: 不透明度 250ms。 webkit-transition: 不透明度 250ms; .u92c8edbee170e51f8195e7feb7dad8c9 .ctaText { font-weight:bold;色:#464646;テキスト装飾:なし;フォントサイズ: 16px; .u92c8edbee170e51f8195e7feb7dad8c9 .postTitle { color:#000000;テキスト装飾: 下線!重要;フォントサイズ: 16px; } .u92c8edbee170e51f8195e7feb7dad8c9:hover .postTitle { text-decoration: 下線!重要; } 📰 こちらもお読みください: ゲイリー・ゲンスラー氏のバイラル X 投稿が仮想通貨コミュニティに波紋を起こす