Nvidiaは、Nemo GuardrailsとNim MicroservicesでAIセキュリティでバーを上げます

Nvidia（NVDA）は、Nemo Guardrailsシステムと革新的なNIMマイクロサービスを導入することで、人工知能のセキュリティでバーを引き上げています。

Artificial intelligence (AI) is rapidly transforming various industries, offering new possibilities and efficiencies. However, ensuring the safety, security, and compliance of AI systems is crucial for widespread adoption and trust in the technology. Recognizing this need, NVIDIA (NASDAQ:NVDA) has introduced two innovative solutions: the NeMo Guardrails system and Garak, an open-source toolset. These solutions aim to address key challenges in AI application safety and scalability.

人工知能（AI）は、さまざまな産業を急速に変革し、新しい可能性と効率を提供しています。ただし、AIシステムの安全性、セキュリティ、およびコンプライアンスを確保することは、テクノロジーへの広範な採用と信頼にとって非常に重要です。このニーズを認識して、Nvidia（NASDAQ：NVDA）は、2つの革新的なソリューションを導入しました。NemoGuardrailsS​​ystemとGarakはオープンソースツールセットです。これらのソリューションは、AIアプリケーションの安全性とスケーラビリティにおける重要な課題に対処することを目的としています。

At the center of NVIDIA's AI safety initiative is the NeMo Guardrails platform, which provides a comprehensive set of tools to ensure AI systems function within strict safety and compliance parameters. The platform's newly revealed NIM microservices offer developers a robust solution for preventing negative outputs and defending against attempts to bypass security protocols.

NvidiaのAI Safety Initiativeのセンターには、厳密な安全およびコンプライアンスパラメーター内でAIシステム機能を確保するための包括的なツールセットを提供するNemo Guardrailsプラットフォームがあります。プラットフォームの新しく公開されたNIMマイクロサービスは、開発者に負の出力を防止し、セキュリティプロトコルをバイパスしようとする試みに対して防御するための堅牢なソリューションを提供します。

With sectors like retail, automotive, and healthcare relying heavily on AI, the ability to maintain compliant and secure interactions is paramount. NVIDIA's NeMo Guardrails is designed to meet these needs by implementing various protective features, including content moderation, topic management, and jailbreak detection tools. These features work together to ensure that AI systems remain safe, trustworthy, and reliable.

小売、自動車、ヘルスケアなどのセクターがAIに大きく依存しているため、準拠した安全な相互作用を維持する能力が最重要です。 NvidiaのNemo Guardrailsは、コンテンツモデレーション、トピック管理、脱獄検出ツールなど、さまざまな保護機能を実装することにより、これらのニーズを満たすように設計されています。これらの機能は、AIシステムが安全で信頼できる、信頼性を保証するために連携して機能します。

Key Features of NeMo Guardrails:

Nemo Guardrailsの主要な機能：

Content Moderation: Leverages the Aegis Content Safety Dataset, which comprises over 35,000 human-annotated instances, to identify and filter harmful content generated by AI systems.

コンテンツのモデレート：AIシステムによって生成された有害なコンテンツを識別およびフィルタリングするために、35,000を超えるヒトが注文したインスタンスを含むAegisコンテンツ安全データセットを活用します。

Topic Management: Ensures AI systems adhere to specific topics and prevents them from engaging in conversations or generating outputs outside the defined scope.

トピック管理：AIシステムは特定のトピックに準拠し、会話に従事したり、定義された範囲外の出力を生成したりすることを保証します。

Jailbreak Detection: Monitors AI systems for attempts to bypass safety protocols or generate outputs that violate established rules and regulations.

ジェイルブレイク検出：安全プロトコルをバイパスしたり、確立された規則と規制に違反したりする出力を生成しようとする試みのためのAIシステムを監視します。

These features are essential for industries where maintaining AI safety is critical, and they are supported by the Aegis Content Safety Dataset, which NVIDIA describes as a library of over 35,000 human-annotated instances. This dataset is available for free to developers, providing them with valuable resources to enhance their AI models' safety.

これらの機能は、AIの安全性を維持することが重要である産業にとって不可欠であり、Nvidiaが35,000を超える人間に注目したインスタンスのライブラリとして説明しているAegisコンテンツ安全データセットによってサポートされています。このデータセットは、開発者に無料で利用でき、AIモデルの安全性を高めるための貴重なリソースを提供します。

Companies Already Leveraging NeMo Guardrails:

すでにNemo Guardrailを活用している企業：

In retail, Gap (NYSE:GPS) is utilizing NeMo Guardrails to ensure its AI-powered virtual stylist generates safe and appropriate responses while assisting customers.

小売業では、GAP（NYSE：GPS）はNemo Guardrailsを利用して、AIを搭載した仮想スタイリストが顧客を支援しながら安全で適切な応答を生成するようにします。

For automotive applications, Mercedes-Benz (OTCMKTS:DDAIF) is employing NeMo Guardrails to enhance the safety and compliance of its in-car AI assistant.

自動車用アプリケーションでは、メルセデスベンツ（OTCMKTS：DDAIF）がNemo Guardrailsを採用して、車内AIアシスタントの安全性とコンプライアンスを強化しています。

Within the entertainment industry, Netflix (NASDAQ:NFLX) is leveraging NeMo Guardrails to ensure its AI-powered movie and TV show recommendations adhere to specific guidelines and avoid generating harmful outputs.

エンターテインメント業界内では、Netflix（NASDAQ：NFLX）がNemo Guardrailsを活用して、AIを搭載した映画とテレビ番組の推奨事項を特定のガイドラインに準拠し、有害な出力を生成しないようにしています。

These early adopters demonstrate the versatility and scalability of NeMo Guardrails across a wide range of industries, highlighting the growing demand for secure and trustworthy AI solutions.

これらの初期の採用者は、幅広い産業にわたるNemo Guardrailの汎用性とスケーラビリティを示しており、安全で信頼できるAIソリューションに対する需要の高まりを強調しています。

Moreover, NVIDIA has also released Garak, an open-source toolkit, to identify flaws in major language models. This toolset enables developers to evaluate the security and integrity of AI systems by detecting potential vulnerabilities and inappropriate outputs.

さらに、Nvidiaは、主要な言語モデルの欠陥を特定するために、オープンソースツールキットのGarakをリリースしました。このツールセットにより、開発者は潜在的な脆弱性と不適切な出力を検出することにより、AIシステムのセキュリティと整合性を評価できます。

With the launch of both NeMo Guardrails and Garak, NVIDIA is providing developers with the essential tools to build scalable, secure, and compliant AI systems. As AI continues to shape the future of industries worldwide, ensuring the safety and dependability of these systems is more important than ever. NVIDIA's commitment to advancing AI security and safety is a significant step forward in fostering trust in AI technologies across various sectors.

Nemo GuardrailsとGarakの両方の発売により、Nvidiaは開発者にスケーラブル、セキュア、準拠のAIシステムを構築するための重要なツールを提供しています。 AIは世界中の産業の将来を形作り続けており、これらのシステムの安全性と信頼性がこれまで以上に重要であることを保証します。 AIのセキュリティと安全性を促進するというNvidiaのコミットメントは、さまざまなセクターのAIテクノロジーへの信頼を促進する上で重要な一歩です。

Stay tuned for more updates on the latest AI advancements and how companies like NVIDIA are paving the way for secure and scalable AI solutions.

最新のAIの進歩と、Nvidiaのような企業が安全でスケーラブルなAIソリューションへの道を開いている方法について、より多くの最新情報をお楽しみに。