Google加入 OpenAI 和 Meta 承諾人工智慧開發中的兒童安全 - Tokenhell

The fight against child sexual abuse material (CSAM) is gaining momentum as high-powered technology players pledged to prioritize child safety in all AI development phases. The coalition features leading generative AI developers, among them Microsoft-backed OpenAI, Google, and Meta, each vowing to enforce guardrails around their products. 

隨著強大的技術參與者承諾在所有人工智慧開發階段優先考慮兒童安全，打擊兒童性虐待材料（CSAM）的鬥爭正在獲得動力。該聯盟由領先的生成式人工智慧開發人員組成，其中包括微軟支援的 OpenAI、Google和 Meta，每個公司都誓言要對其產品實施監管。

The group is steered by two non-profit organizations with a collective pledge to end child sexual exploitation via artificial intelligence (AI). New York-headquartered All Tech is Human, alongside Thorn (formerly DNA Foundation), advocates the Safety by Design principle in all phases of generative AI development. 

該組織由兩個非營利組織領導，共同承諾透過人工智慧 (AI) 終結兒童性剝削。總部位於紐約的 All Tech is Human 與 Thorn（前身為 DNA 基金會）一起，在生成式人工智慧開發的所有階段倡導「設計安全」原則。

The pledge to prioritize child safety has been a critical objective for Thorn since its inception in 2012 by actors Ashton Kutcher and Demi Moore. The collective pledge coincided with the unveiling of the Thorn report on Tuesday, April 23, championing safety design in generative AI development. 

自 2012 年由演員阿什頓·庫徹 (Ashton Kutcher) 和黛米·摩爾 (Demi Moore) 創立以來，優先考慮兒童安全的承諾一直是 Thorn 的一個重要目標。這項集體承諾與 4 月 23 日星期二的 Thorn 報告發布同時發布，該報告倡導生成式人工智慧開發中的安全設計。

Thorn emphasized the need for establishing guardrails that would bar the generation of child sexual abuse material (CSAM) across the AI model lifecycle. Thorn urged the companies developing, deploying, and using generative AI and affiliate products to embrace Safety by Design principles. 

Thorn 強調需要建立護欄，禁止在整個 AI 模式生命週期中產生兒童性虐待材料 (CSAM)。索恩敦促開發、部署和使用生成式人工智慧及附屬產品的公司遵守「設計安全」原則。

Thorns Warns of Deepfake Threats Amid Prevalence of CSAM

Thorn added that the collective pledge mandates each to portray dedication to prevent CSAM creation and spread via AI. Besides, Thorn urged Thorn to avoid any form of child abuse and exploitation. 

Thorns 對 CSAM 盛行中的 Deepfake 威脅發出警告Thorn 補充說，集體承諾要求每個人都表現出致力於防止 CSAM 創建和透過人工智慧傳播的奉獻精神。此外，索恩敦促索恩避免任何形式的虐待和剝削兒童。

Thorn indicated that AI-generated CSAM has become relatively easy for criminals to attain. Thorn affirmed its commitment to developing tools and resources that would help defend children from exploitation and sexual abuse. 

Thorn 表示，犯罪者相對容易取得人工智慧產生的 CSAM。索恩重申致力於開發工具和資源，幫助保護兒童免受剝削和性虐待。

Thorn reflected on the 2022 publication that revealed the discovery of over 824,000 files of child abuse material. The previous year’s impact report had over 104 million files propagating suspected CSAM. 

.ubada1eaae7a77506a614814f7c134939 { 填充：0px;保證金：0；填充頂部：1em！填充底部：1em！寬度：100%；顯示：塊；字體粗細：粗體；背景顏色：#2ECC71；邊框：0！左邊框：4px 實線#34495E！盒子陰影: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);文字裝飾：無； .ubada1eaae7a77506a614814f7c134939：活動，.ubada1eaae7a77506a614814f7c134939：懸停{不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms；文字裝飾：無； } .ubada1eaae7a77506a614814f7c134939 { 過渡：背景顏色 250ms; webkit-transition：背景顏色 250ms；不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms； } .ubada1eaae7a77506a614814f7c134939 .ctaText { 字型粗細：粗體；顏色：#464646；文字裝飾：無；字體大小：16px； .ubada1eaae7a77506a614814f7c134939 .postTitle { 顏色：#000000;文字修飾：底線！字體大小：16px； } .ubada1eaae7a77506a614814f7c134939:hover .postTitle { 文字裝飾：底線！ } 📰 另請閱讀：台北檢察官在備受矚目的詐欺案件中瞄準 Ace Crypto Exchange。去年的影響報告中有超過 1.04 億個傳播可疑 CSAM 的文件。

Thorn’s efforts to combat CSAM are timely, given the prevalence of deepfake child pornography since the generative AI models emerged. The existence of stand-alone AI models aggravates the menace circulated on the dark web channels. 

鑑於自生成式人工智慧模型出現以來深度偽造兒童色情製品的盛行，索恩打擊 CSAM 的努力是及時的。獨立人工智慧模式的存在加劇了暗網管道上傳播的威脅。

Thorn illustrated that Generative AI yields volumes of content more easily than ever before. It allows a single child predator to create CSAM en masse. Thorn demonstrated that generative AI allows child predators to adapt the original images and videos into newly formulated content.

索恩表示，生成式人工智慧比以往任何時候都更容易產生大量內容。它允許單一兒童掠奪者集體創建 CSAM。索恩證明，生成式人工智慧可以讓兒童掠食者將原始圖像和影片改編成新制定的內容。

Thorn observes that the influx of AIG-CSAM threatens the already burdened child safety ecosystem by scaling new victimization to more population. It exacerbates the challenges that law enforcement stakeholders confront in their efforts to identify and rescue abuse victims. 

索恩觀察到，AIG-CSAM 的湧入將新的受害者擴大到更多人口，從而威脅到本已不堪重負的兒童安全生態系統。它加劇了執法利益相關者在識別和營救虐待受害者的過程中所面臨的挑戰。

Thorn offers a series of principles that tech companies and AI developers can embrace to prevent their products from facilitating child pornography. Thorn urges responsible sourcing for training, integrating feedback loops and stress-testing strategies. 

索恩提出了一系列科技公司和人工智慧開發人員可以遵循的原則，以防止他們的產品助長兒童色情內容。索恩敦促負責任地採購培訓、整合回饋循環和壓力測試策略。

Companies Behind Generative AI Models Pledge to Mind Adversarial Misuse of Products

Thorn suggests that companies should employ provenance while minding adversarial misuse. Also, responsible hosting is key to safety in the AI models. The call saw Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI, and Stability AI.

生成人工智慧模式背後的公司承諾專注於產品的對抗性濫用。此外，負責任的託管是人工智慧模型安全的關鍵。微軟、亞馬遜、Metaphysical、Anthropic、Mistral AI、Civit AI 和 Stability AI 參加了電話會議。

Metaphysic chief market executive Alejandro affirmed the importance of integrating responsibility in developing AI. The executive acknowledged the need to safeguard the vulnerable in society during this darkest advent of technology. 

Metaphysical 首席市場執行長 Alejandro 肯定了在開發人工智慧中整合責任的重要性。這位高層承認，在這個最黑暗的技術出現期間，有必要保護社會中的弱勢群體。

OpenAI identified itself with the statement conveyed by the head of child safety, Chelsea Carlson. The executive explained the importance of safety in its tools. 

OpenAI 認同兒童安全負責人 Chelsea Carlson 的聲明。這位高層解釋了其工具安全的重要性。

Carlson confirmed the guardrails deployed into ChatGPT and DALL-E align to the call by Thorn and All Tech is Human. The executive affirmed support for the Safety by Design principles as its reference to mitigate potential harm to the children. 

.uef27b5abaccc52e9b8f3f557da8e9da6 { 填充：0px;保證金：0；填充頂部：1em！填充底部：1em！寬度：100%；顯示：塊；字體粗細：粗體；背景顏色：#2ECC71；邊框：0！左邊框：4px 實線#34495E！盒子陰影: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);文字裝飾：無； .uef27b5abaccc52e9b8f3f557da8e9da6：活動， .uef27b5abaccc52e9b8f3f557da8e9da6：懸停{ 不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms；文字裝飾：無； } .uef27b5abaccc52e9b8f3f557da8e9da6 { 過渡：背景顏色 250ms; webkit-transition：背景顏色 250ms；不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms； } .uef27b5abaccc52e9b8f3f557da8e9da6 .ctaText { 字型粗細：粗體；顏色：#464646；文字裝飾：無；字體大小：16px； } .uef27b5abaccc52e9b8f3f557da8e9da6 .postTitle { 顏色：#000000;文字修飾：底線！字體大小：16px； } .uef27b5abaccc52e9b8f3f557da8e9da6:hover .postTitle { 文字裝飾：底線！另請閱讀：加密倡導團體支持 Tornado Cash 開發者 Roman StormCarlson 確認，部署到 ChatGPT 和 DALL-E 中的護欄與 Thorn 和 All Tech is Human 的號召一致。這位高層確認了對「設計安全」原則的支持，將其作為減輕對兒童潛在傷害的參考。

Meta hailed its experience in keeping people safe through numerous tools to combat potential harm orchestrated by child predators. Meta pledged to adapt since predators were too adjusting to evade protections. 

Meta 稱讚其透過多種工具保護人們安全、打擊兒童掠奪者精心策劃的潛在傷害的經驗。梅塔承諾要適應，因為掠食者的適應能力太強，無法逃避保護。

Google’s head of trust and safety solutions, Susan Jasper, illustrated that the team utilizes hash-matching technology and AI classifiers alongside human reviews to remove CSAE content proactively. The proactive safety approach extends to detecting AI-generated CSAM and reporting such to the NCMEC. 

谷歌信任和安全解決方案主管 Susan Jasper 表示，該團隊利用哈希匹配技術和人工智慧分類器以及人工審核來主動刪除 CSAE 內容。主動安全方法擴展到偵測人工智慧產生的 CSAM 並向 NCMEC 報告。

The creation of a collective pledge is timely given that several watchdog groups led by the UK’s Internet Watch Foundation warned that AIG-CSAM leaves the internet overwhelmed with exploitative material. 

鑑於英國網路觀察基金會領導的多個監管組織警告稱，AIG-CSAM 會讓網路充斥著剝削性內容，因此制定集體承諾是及時的。

Editorial credit: AHK Photography / Shutterstock.com

編輯來源：AHK Photography / Shutterstock.com

---

Tokenhell produces content exposure for over 5,000 crypto companies and you can be one of them too! Contact at info@tokenhell.com if you have any questions. Cryptocurrencies are highly volatile, conduct your own research before making any investment decisions. Some of the posts on this website are guest posts or paid posts that are not written by Tokenhell authors (namely Crypto Cable , Sponsored Articles and Press Release content) and the views expressed in these types of posts do not reflect the views of this website. Tokenhell is not responsible for the content, accuracy, quality, advertising, products or any other content or banners (ad space) posted on the site. Read full terms and conditions / disclaimer.

Tokenhell 為超過 5,000 家加密貨幣公司提供內容曝光，您也可以成為其中之一！如果您有任何疑問，請聯絡 info@tokenhell.com。加密貨幣波動性很大，在做出任何投資決定之前請自行研究。本網站上的一些貼文是非 Tokenhell 作者撰寫的客座貼文或付費貼文（即 Crypto Cable、贊助文章和新聞稿內容），這些類型的貼文中表達的觀點並不反映本網站的觀點。 Tokenhell 不對網站上發布的內容、準確性、品質、廣告、產品或任何其他內容或橫幅（廣告空間）負責。閱讀完整的條款和條件/免責聲明。

.u92c8edbee170e51f8195e7feb7dad8c9 { 填充：0px;保證金：0；填充頂部：1em！填充底部：1em！寬度：100%；顯示：塊；字體粗細：粗體；背景顏色：#2ECC71；邊框：0！左邊框：4px 實線#34495E！盒子陰影: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17);文字裝飾：無； .u92c8edbee170e51f8195e7feb7dad8c9：活動，.u92c8edbee170e51f8195e7feb7dad8c9：懸停{不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms；文字裝飾：無； .u92c8edbee170e51f8195e7feb7dad8c9 { 過渡：背景顏色 250 毫秒； webkit-transition：背景顏色 250ms；不透明度：1；過渡：不透明度250ms； webkit-transition：不透明度 250ms； .u92c8edbee170e51f8195e7feb7dad8c9 .ctaText { 字型粗細：粗體；顏色：#464646；文字裝飾：無；字體大小：16px； .u92c8edbee170e51f8195e7feb7dad8c9 .postTitle { 顏色：#000000;文字修飾：底線！字體大小：16px； } .u92c8edbee170e51f8195e7feb7dad8c9:hover .postTitle { 文字裝飾：底線！ } 📰 另請閱讀：Gary Gensler 的 Viral X 帖子在加密社區引起轟動