NVIDIA、NeMo Guardrailsを発表：ChatGPTのようなAIチャットボットの性能と安全性を向上させるオープンソースツール

人工知能（AI）技術が進歩するにつれて、生成型AIアプリケーションのための効果的なガードレールを開発することが喫緊の課題となっている。

この課題に対応するために、NVIDIAは、大規模言語モデル（LLM）を利用したAIアプリケーションの安全性、正確性、適切性を確保するための開発者を支援するオープンソースソフトウェアであるNeMo Guardrailsをリリースした。

参考：NeMo Guardrails Keep AI Chatbots on Track

NeMo Guardrails摘要
NeMo Guardrailsの活用方法
AIの安全性、セキュリティ、信頼性を保持
Reinforz Insightニュースレター登録フォーム

NeMo Guardrails摘要

NeMo Guardrailsは、企業がAIアプリに安全対策を追加するために必要なコード、ドキュメントを提供する。顧客の問い合わせへの回答の加速など、さまざまな業界でLLMの採用が増える中で、NeMo Guardrailsはこれらのアプリケーションを安全に保つ解決策を提供する。

このソフトウェアは、開発者が3つのタイプの境界を作成することを可能にする。アプリを期待の範囲内に保つためのトピカルガードレール、不要な言語をフィルタリングし正確な回答を確保するためのセーフティガードレール、安全なサードパーティアプリケーションへの接続を制限するためのセキュリティガードレールである。

NeMo Guardrailsは、LangChainやZapierを含むさまざまなツールと連携して動作し、オープンソースであるため、さまざまなレベルの専門知識を持つソフトウェア開発者に利用可能である。目標は、AI開発において安全性、セキュリティ、信頼性を重視し、AIを将来の信頼できるパートナーにすることである。

NVIDIAは、独自のデータを使用して言語モデルをトレーニングおよびチューニングするための包括的なツールであるNeMoフレームワークにNeMo Guardrailsを統合すると発表した。NeMoフレームワークは、既にGitHub上でオープンソースコードとして部分的に利用可能である。

NeMo Guardrailsの活用方法

企業は、NVIDIAのAIエンタープライズソフトウェアプラットフォームの一部として、完全でサポートされたパッケージを取得することができる。NVIDIA AI Foundationsは、企業が自分たちのデータと専門知識を使用してカスタマイズされた生成型AIモデルを作成および展開するのに役立つクラウドサービスを提供する。このスイートで利用可能なツールの1つがNeMoフレームワークである。

韓国の主要な携帯電話事業者を含むいくつかの組織が、すでにNeMoフレームワークを使用してインテリジェントアシスタントを構築している。スウェーデンの研究チームは、それを使用して、国の病院、政府、ビジネスオフィスのテキスト機能を自動化するLLMを作成している。

生成型AIの効果的なガードレールを開発することは、AI技術が進歩するにつれて継続的な研究が必要な複雑な課題である。NVIDIAはこの課題を認識し、NeMo Guardrailsソフトウェアをオープンソース化することで、開発者コミュニティのAI安全性を確保するための継続的な取り組みに貢献している。

ガードレール開発において連携して取り組むことで、企業は自社のインテリジェントサービスを安全性、プライバシー、セキュリティの要件に沿って進めることができ、これらの革新的なツールが正しい道を進み、信頼できるものであることを確保できる。

NeMo GuardrailsをNeMoフレームワークに統合することで、開発者は開発プロセスの開始からAIアプリケーションに安全対策を取り入れることができる。その結果、企業はAIアプリケーションの正確性、セキュリティ、適切性に対してより大きな自信を持つことができ、一般の人々はこれらのアプリケーションが安全に使用できることを信頼できる。

AIの安全性、セキュリティ、信頼性を保持

NVIDIAの取り組みは、AI技術の進歩と広がりに伴い、安全性、セキュリティ、そして信頼性がますます重要になる現代社会において、非常に重要で前向きな試みであると考えられる。NeMo Guardrailsの開発とオープンソース化は、開発者がより容易に安全対策をAIアプリケーションに実装できるようにすることで、AI技術の社会的な受け入れや普及を促進する可能性がある。

特に、NeMo Guardrailsは、トピカルガードレール、セーフティガードレール、セキュリティガードレールといった3つのタイプの境界を作成することを可能にし、さまざまなAIアプリケーションの安全性や適切性を高めることができる。これにより、開発者はAI技術をより責任を持って使用し、その結果として、企業や一般の人々はAIアプリケーションを信頼し、安心して利用できるようになると期待される。

また、NVIDIAがNeMo GuardrailsをNeMoフレームワークに統合することで、開発プロセスの初期段階からAIアプリケーションに安全対策を組み込むことができる。これにより、開発者は安全性やセキュリティを最初から考慮することができ、その結果として、AI技術が持つ潜在的なリスクを低減し、より信頼性の高いAIアプリケーションが実現される可能性がある。

NVIDIAの取り組みは、AI技術の発展に伴い、開発者、企業、そして一般の人々が共にAIの安全性、セキュリティ、信頼性に関心を持ち、取り組んでいく必要性を示している。このような取り組みが今後も続くことで、AI技術は社会全体にとってより価値あるものとなり、持続可能で倫理的な方法で利用されることが期待される。