Google, OpenAI 및 Meta에 합류하여 AI 개발에서 아동 안전 보장 - Tokenhell

The fight against child sexual abuse material (CSAM) is gaining momentum as high-powered technology players pledged to prioritize child safety in all AI development phases. The coalition features leading generative AI developers, among them Microsoft-backed OpenAI, Google, and Meta, each vowing to enforce guardrails around their products. 

아동 성적 학대 자료(CSAM)와의 싸움은 강력한 기술 기업들이 모든 AI 개발 단계에서 아동 안전을 최우선으로 삼겠다고 약속하면서 탄력을 받고 있습니다. 이 연합에는 Microsoft가 지원하는 OpenAI, Google, Meta 등 선도적인 생성 AI 개발자들이 참여하고 있으며, 이들은 각각 자사 제품에 대한 가드레일을 시행하겠다고 다짐하고 있습니다.

The group is steered by two non-profit organizations with a collective pledge to end child sexual exploitation via artificial intelligence (AI). New York-headquartered All Tech is Human, alongside Thorn (formerly DNA Foundation), advocates the Safety by Design principle in all phases of generative AI development. 

이 그룹은 인공 지능(AI)을 통해 아동 성 착취를 종식시키겠다는 공동 서약을 하는 두 비영리 단체에 의해 운영됩니다. 뉴욕에 본사를 둔 All Tech is Human은 Thorn(이전 DNA Foundation)과 함께 생성 AI 개발의 모든 단계에서 Safety by Design 원칙을 옹호합니다.

The pledge to prioritize child safety has been a critical objective for Thorn since its inception in 2012 by actors Ashton Kutcher and Demi Moore. The collective pledge coincided with the unveiling of the Thorn report on Tuesday, April 23, championing safety design in generative AI development. 

어린이 안전을 최우선으로 삼겠다는 서약은 2012년 배우 Ashton Kutcher와 Demi Moore가 설립한 Thorn의 중요한 목표였습니다. 집단 서약은 생성적 AI 개발에서 안전 설계를 옹호하는 Thorn 보고서가 4월 23일 화요일에 공개되는 것과 동시에 이루어졌습니다.

Thorn emphasized the need for establishing guardrails that would bar the generation of child sexual abuse material (CSAM) across the AI model lifecycle. Thorn urged the companies developing, deploying, and using generative AI and affiliate products to embrace Safety by Design principles. 

Thorn은 AI 모델 수명주기 전반에 걸쳐 아동 성적 학대 자료(CSAM)의 생성을 금지하는 가드레일 설정의 필요성을 강조했습니다. Thorn은 생성 AI 및 제휴 제품을 개발, 배포 및 사용하는 회사가 Safety by Design 원칙을 수용할 것을 촉구했습니다.

Thorns Warns of Deepfake Threats Amid Prevalence of CSAM

Thorn added that the collective pledge mandates each to portray dedication to prevent CSAM creation and spread via AI. Besides, Thorn urged Thorn to avoid any form of child abuse and exploitation. 

Thorns는 CSAM이 만연한 가운데 딥페이크 위협에 대해 경고합니다. 단체 서약에서는 각 사람이 CSAM 생성 및 AI를 통한 확산을 방지하기 위한 헌신을 표현해야 한다고 덧붙였습니다. 게다가 Thorn은 모든 형태의 아동 학대와 착취를 피할 것을 촉구했습니다.

Thorn indicated that AI-generated CSAM has become relatively easy for criminals to attain. Thorn affirmed its commitment to developing tools and resources that would help defend children from exploitation and sexual abuse. 

Thorn은 AI로 생성된 CSAM이 범죄자들이 획득하기 상대적으로 쉬워졌다고 지적했습니다. Thorn은 아동을 착취와 성적 학대로부터 보호하는 데 도움이 되는 도구와 자원을 개발하겠다는 약속을 확인했습니다.

Thorn reflected on the 2022 publication that revealed the discovery of over 824,000 files of child abuse material. The previous year’s impact report had over 104 million files propagating suspected CSAM. 

.ubada1eaae7a77506a614814f7c134939 { 패딩:0px; 여백: 0; padding-top:1em!important; padding-bottom:1em!important; 너비:100%; 디스플레이: 블록; 글꼴 두께:굵게; 배경색:#2ECC71; 테두리:0!중요; 테두리 왼쪽:4px 단색 #34495E!중요; 상자 그림자: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); 텍스트 장식:없음; } .ubada1eaae7a77506a614814f7c134939:active, .ubada1eaae7a77506a614814f7c134939:hover { 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; 텍스트 장식:없음; } .ubada1eaae7a77506a614814f7c134939 { 전환: 배경색 250ms; 웹킷 전환: 배경색 250ms; 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; } .ubada1eaae7a77506a614814f7c134939 .ctaText { 글꼴 무게:굵은; 색상:#464646; 텍스트 장식:없음; 글꼴 크기: 16px; } .ubada1eaae7a77506a614814f7c134939 .postTitle { 색상:#000000; 텍스트 장식: 밑줄!중요; 글꼴 크기: 16px; } .ubada1eaae7a77506a614814f7c134939:hover .postTitle { 텍스트 장식: 밑줄!중요; } 📰 또한 읽어 보세요:  타이베이 검찰은 세간의 이목을 끄는 사기 사건에서 Ace Crypto Exchange를 표적으로 삼았습니다. Thorn은 824,000개 이상의 아동 학대 자료 파일이 발견된 사실을 공개한 2022년 간행물을 반영했습니다. 전년도 영향 보고서에는 의심스러운 CSAM을 전파하는 파일이 1억 4백만 개가 넘었습니다.

Thorn’s efforts to combat CSAM are timely, given the prevalence of deepfake child pornography since the generative AI models emerged. The existence of stand-alone AI models aggravates the menace circulated on the dark web channels. 

생성 AI 모델이 등장한 이후 딥페이크 아동 포르노가 만연했다는 점을 고려할 때 CSAM을 퇴치하려는 Thorn의 노력은 시의적절합니다. 독립형 AI 모델의 존재는 다크웹 채널에 유포되는 위협을 더욱 가중시킵니다.

Thorn illustrated that Generative AI yields volumes of content more easily than ever before. It allows a single child predator to create CSAM en masse. Thorn demonstrated that generative AI allows child predators to adapt the original images and videos into newly formulated content.

Thorn은 Generative AI가 그 어느 때보다 더 쉽게 많은 양의 콘텐츠를 생성한다고 설명했습니다. 이를 통해 한 명의 아동 포식자가 CSAM을 집단적으로 생성할 수 있습니다. Thorn은 생성 AI를 통해 아동 포식자가 원본 이미지와 비디오를 새로 제작된 콘텐츠에 적용할 수 있음을 보여주었습니다.

Thorn observes that the influx of AIG-CSAM threatens the already burdened child safety ecosystem by scaling new victimization to more population. It exacerbates the challenges that law enforcement stakeholders confront in their efforts to identify and rescue abuse victims. 

Thorn은 AIG-CSAM의 유입이 새로운 피해를 더 많은 인구로 확대함으로써 이미 부담을 안고 있는 아동 안전 생태계를 위협하고 있음을 관찰합니다. 이는 법집행 이해관계자들이 학대 피해자를 식별하고 구출하려는 노력에서 직면하는 어려움을 더욱 악화시킵니다.

Thorn offers a series of principles that tech companies and AI developers can embrace to prevent their products from facilitating child pornography. Thorn urges responsible sourcing for training, integrating feedback loops and stress-testing strategies. 

Thorn은 기술 회사와 AI 개발자가 자사 제품이 아동 포르노를 조장하는 것을 방지하기 위해 채택할 수 있는 일련의 원칙을 제공합니다. Thorn은 교육을 위한 책임감 있는 소싱, 피드백 루프 통합 및 스트레스 테스트 전략을 촉구합니다.

Companies Behind Generative AI Models Pledge to Mind Adversarial Misuse of Products

Thorn suggests that companies should employ provenance while minding adversarial misuse. Also, responsible hosting is key to safety in the AI models. The call saw Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI, and Stability AI.

생성적 AI 모델을 뒷받침하는 회사들은 제품의 적대적 오용을 염두에 두기로 약속합니다. Thorn은 기업이 적대적 오용을 염두에 두고 출처를 사용해야 한다고 제안합니다. 또한 책임 있는 호스팅은 AI 모델의 안전에 핵심입니다. 통화에는 Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI 및 Stability AI가 포함되었습니다.

Metaphysic chief market executive Alejandro affirmed the importance of integrating responsibility in developing AI. The executive acknowledged the need to safeguard the vulnerable in society during this darkest advent of technology. 

형이상학의 최고 시장 경영자 알레한드로(Alejandro)는 AI 개발에 있어 책임 통합의 중요성을 확인했습니다. 그는 기술이 가장 암울하게 도래하는 동안 사회의 취약계층을 보호해야 할 필요성을 인정했습니다.

OpenAI identified itself with the statement conveyed by the head of child safety, Chelsea Carlson. The executive explained the importance of safety in its tools. 

OpenAI는 아동 안전 책임자인 첼시 칼슨(Chelsea Carlson)의 성명을 통해 자신을 밝혔습니다. 그 경영진은 도구에 있어 안전이 얼마나 중요한지 설명했습니다.

Carlson confirmed the guardrails deployed into ChatGPT and DALL-E align to the call by Thorn and All Tech is Human. The executive affirmed support for the Safety by Design principles as its reference to mitigate potential harm to the children. 

.uef27b5abaccc52e9b8f3f557da8e9da6 { 패딩:0px; 여백: 0; padding-top:1em!important; padding-bottom:1em!important; 너비:100%; 디스플레이: 블록; 글꼴 두께:굵게; 배경색:#2ECC71; 테두리:0!중요; 테두리 왼쪽:4px 단색 #34495E!중요; 상자 그림자: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); 텍스트 장식:없음; } .uef27b5abaccc52e9b8f3f557da8e9da6:active, .uef27b5abaccc52e9b8f3f557da8e9da6:hover { 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; 텍스트 장식:없음; } .uef27b5abaccc52e9b8f3f557da8e9da6 { 전환: 배경색 250ms; 웹킷 전환: 배경색 250ms; 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; } .uef27b5abaccc52e9b8f3f557da8e9da6 .ctaText { 글꼴 무게:굵은; 색상:#464646; 텍스트 장식:없음; 글꼴 크기: 16px; } .uef27b5abaccc52e9b8f3f557da8e9da6 .postTitle { 색상:#000000; 텍스트 장식: 밑줄!중요; 글꼴 크기: 16px; } .uef27b5abaccc52e9b8f3f557da8e9da6:hover .postTitle { 텍스트 장식: 밑줄!중요; } 📰 또한 읽어 보세요:  Crypto Advocacy Groups 지원 Tornado Cash 개발자 Roman StormCarlson은 ChatGPT 및 DALL-E에 배포된 가드레일이 Thorn 및 All Tech is Human의 요청에 맞춰 조정되었음을 확인했습니다. 경영진은 어린이에 대한 잠재적 피해를 완화하기 위한 참조로서 안전 중심 설계 원칙에 대한 지지를 확인했습니다.

Meta hailed its experience in keeping people safe through numerous tools to combat potential harm orchestrated by child predators. Meta pledged to adapt since predators were too adjusting to evade protections. 

Meta는 아동 포식자가 조율하는 잠재적 피해에 맞서 싸우기 위해 다양한 도구를 통해 사람들을 안전하게 지키는 경험을 높이 평가했습니다. 포식자들이 보호를 회피하기에는 너무 적응하고 있기 때문에 메타는 적응하겠다고 다짐했습니다.

Google’s head of trust and safety solutions, Susan Jasper, illustrated that the team utilizes hash-matching technology and AI classifiers alongside human reviews to remove CSAE content proactively. The proactive safety approach extends to detecting AI-generated CSAM and reporting such to the NCMEC. 

Google의 신뢰 및 안전 솔루션 책임자인 Susan Jasper는 팀이 CSAE 콘텐츠를 사전에 제거하기 위해 사람의 검토와 함께 해시 매칭 기술과 AI 분류자를 활용한다고 설명했습니다. 선제적 안전 접근 방식은 AI가 생성한 CSAM을 탐지하고 이를 NCMEC에 보고하는 것까지 확장됩니다.

The creation of a collective pledge is timely given that several watchdog groups led by the UK’s Internet Watch Foundation warned that AIG-CSAM leaves the internet overwhelmed with exploitative material. 

영국의 인터넷 감시 재단(Internet Watch Foundation)이 이끄는 여러 감시 단체가 AIG-CSAM이 인터넷을 착취적인 자료로 압도하고 있다고 경고한 점을 고려할 때 집단 서약의 창설은 시의적절합니다.

Editorial credit: AHK Photography / Shutterstock.com

에디토리얼 크레딧: AHK Photography / Shutterstock.com

Tokenhell produces content exposure for over 5,000 crypto companies and you can be one of them too! Contact at info@tokenhell.com if you have any questions. Cryptocurrencies are highly volatile, conduct your own research before making any investment decisions. Some of the posts on this website are guest posts or paid posts that are not written by Tokenhell authors (namely Crypto Cable , Sponsored Articles and Press Release content) and the views expressed in these types of posts do not reflect the views of this website. Tokenhell is not responsible for the content, accuracy, quality, advertising, products or any other content or banners (ad space) posted on the site. Read full terms and conditions / disclaimer.

Tokenhell은 5,000개 이상의 암호화폐 회사에 대한 콘텐츠 노출을 제공하며 귀하도 그 중 하나가 될 수 있습니다! 질문이 있는 경우 info@tokenhell.com으로 문의하세요. 암호화폐는 변동성이 매우 높으므로 투자 결정을 내리기 전에 자체 조사를 수행하십시오. 이 웹사이트의 게시물 중 일부는 Tokenhell 작성자가 작성하지 않은 게스트 게시물 또는 유료 게시물(즉, 암호화 케이블, 후원 기사 및 보도 자료 콘텐츠)이며 이러한 유형의 게시물에 표현된 견해는 이 웹사이트의 관점을 반영하지 않습니다. Tokenhell은 사이트에 게시된 콘텐츠, 정확성, 품질, 광고, 제품 또는 기타 콘텐츠나 배너(광고 공간)에 대해 책임을 지지 않습니다. 전체 이용약관/면책조항을 읽어보세요.

.u92c8edbee170e51f8195e7feb7dad8c9 { 패딩:0px; 여백: 0; padding-top:1em!important; padding-bottom:1em!important; 너비:100%; 디스플레이: 블록; 글꼴 두께:굵게; 배경색:#2ECC71; 테두리:0!중요; 테두리 왼쪽:4px 단색 #34495E!중요; 상자 그림자: 0 1px 2px rgba(0, 0, 0, 0.17); -moz-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -o-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); -webkit-box-shadow: 0 1px 2px rgba(0, 0, 0, 0.17); 텍스트 장식:없음; } .u92c8edbee170e51f8195e7feb7dad8c9:활성, .u92c8edbee170e51f8195e7feb7dad8c9:hover { 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; 텍스트 장식:없음; } .u92c8edbee170e51f8195e7feb7dad8c9 { 전환: 배경색 250ms; 웹킷 전환: 배경색 250ms; 불투명도: 1; 전환: 불투명도 250ms; 웹킷 전환: 불투명도 250ms; } .u92c8edbee170e51f8195e7feb7dad8c9 .ctaText { 글꼴 무게:굵은; 색상:#464646; 텍스트 장식:없음; 글꼴 크기: 16px; } .u92c8edbee170e51f8195e7feb7dad8c9 .postTitle { 색상:#000000; 텍스트 장식: 밑줄!중요; 글꼴 크기: 16px; } .u92c8edbee170e51f8195e7feb7dad8c9:hover .postTitle { 텍스트 장식: 밑줄!중요; } 📰 또한 읽어 보세요:  Gary Gensler의 Viral X Post로 인해 암호화폐 커뮤니티가 동요되었습니다.