プレスリリース

業界初、エンドツーエンドのAIモニタリングソリューションにより、大規模言語モデル（LLM）を搭載したAIアプリケーションのパフォーマンス、品質、コストなど、AIの利用を最適化するデータと洞察を提供


※本リリースは、2023年11月14日（米国現地時間）に米国カリフォルニア州サンフランシスコで発表されたプレスリリースの抄訳版です。

デジタルビジネスにオブザーバビリティ（可観測性）プラットフォームを提供するNew Relic株式会社（本社：東京都港区、代表取締役社長：小西 真一朗、以下「New Relic」）は、New Relic AI Monitoring（AIM）の提供を開始しました。AIMは、AIアプリケーション向けの業界初*のAPMソリューションです。New Relicは、AIMを提供するなどAIオブザーバビリティの先駆者であり、AIアプリケーションスタック全体にわたる前例のない可視性と洞察をエンジニアに提供します。AIMは、AIアプリケーションのパフォーマンスや品質、コスト、AIの使用に関するトラブルシュートや最適化を容易にするだけでなく、LLMの応答のトレースやモデル比較などの50以上のインテグレーションと機能が用意されており、エンジニアチームがLLM ベースのアプリケーションを確実に構築し、実行できるように支援します。
* グローバル規模の主要モニタリングツールとして（自社調べ 2023年11月）

AIアプリケーションは、組織に新たな課題をもたらす一面もあります。大規模言語モデル（LLM）やベクトルデータベースなどのAIコンポーネントは、しばしばエンジニアにとってブラックボックスとなり、不正確で偏った結果の提供やセキュリティ上の問題の発生、大量に生成されるテレメトリーデータの追跡と分析、といった課題が発生します。AIMでは、AI駆動型のアプリケーションにエンドツーエンドのオブザーバビリティを提供することで、この問題を解決します。エンジニアは単一ビューにアクセスし、パフォーマンス、コスト、セキュリティ、品質問題（幻覚症状、バイアス、有害性、公平性など）に関するさまざまなLLMプロンプトとレスポンスのトラブルシューティング、比較、最適化を行うことができます。さらに、サービスやインフラストラクチャのほか、AIスタックの全コンポーネントを完全に把握できるようになり、AIの使用と、将来予想されるAI関連規制に準拠していることを証明するために必要なデータを取得することができます。

IDC Group 副社長 Stephen Elliot氏のコメント
「組織は、より優れた顧客体験の提供と、効率および、収益の向上を目指して、AIアプリケーションを自社の技術スタックに統合していく傾向にあります。その代償として、AIは技術スタックに複雑さをもたらすため、セキュリティ、品質、コンプライアンス、コストを最優先して責任を持って導入する必要があります。企業が規模を拡大してもイノベーションを推進できるように、AIアプリケーションにオブザーバビリティを適用することは、これらの複雑さに対処する上で賢明かつ効率的な方法です。このようなソリューションを提供する企業は、最終的に組織がより優れた製品と顧客体験を提供できるようになります。」

New Relic 最高製品責任者 Manav Khuranaのコメント
「あらゆる組織がAIを自社の製品やプロセスに統合しており、AIワークロードは現代の組織におけるアプリケーションアーキテクチャーの一部となっています。AI Monitoring は、クラウドAPMの開発からAIアプリケーションへのエンドツーエンドの可視性の提供まで、当社の深い専門知識を適用して、企業がパフォーマンス、コスト、責任あるAIの使用を管理できるようにサポートします。」

主な機能とユースケースは以下の通りです。
自動計装：New Relicのエージェントには、完全なAIスタックの可視化、応答トレース、モデル比較などを含むあらゆるAIM機能が用意されており、迅速かつ簡単に設定可能

フルスタックAIの可視性：応答品質やトークンなどのAIメトリクスとAPMゴールデンシグナルを含む、アプリケーション、インフラストラクチャ、AIレイヤーにわたる全体的なビューを提供

すべてのLLM応答の詳細なトレースに関する洞察：LangChainなどのツールで構築された複雑なLLM応答のライフサイクルを追跡し、バイアス、有害性、幻覚症状などのパフォーマンスの問題や品質問題を修正

パフォーマンスとコストの比較：すべてのモデルの使用状況、パフォーマンス、品質、コストを単一ビューで追跡。よく使われるプロンプト、思考の連鎖（Chain of Thought）、プロンプトのテンプレートやキャッシュに関する洞察によりAIの使用を最適化

責任あるAIの使用を可能に：応答がAIによって生成されたことを示す適切なタグを付与し、バイアス、有害性、幻覚症状がないことを検証することにより、安全なAIの使用を可能に

AIエコシステムを即座に監視：50以上のインテグレーションをサポートし、あらゆるAIエコシステムのスタック全体を監視する最も包括的なソリューション
オーケストレーションフレームワーク：LangChain

LLM：OpenAI、PaLM2、HuggingFace

機械学習ライブラリ：Pytorch、TensorFlow

機械学習サービス：Amazon SageMaker、AzureML

ベクトルデータベース：Pinecone、Weaviate、Milvus、FAISS

AIインフラストラクチャ：Azure、AWS、GCP




Pinecone CEO兼創業者 Edo Liberty氏のコメント
「PineconeベクトルデータベースとNew Relic AI Monitoringをシームレスに統合することで、可視性とインサイトが得られ、開発者はより優れた検索と生成AIアプリケーションを構築することができます。ベクトルデータベースはAIスタックの中核部分です。企業がAIアプリケーションを構築・導入する上で、ベクトルデータベースに対する需要の高まりが見られます。今後、開発者はAIオブザーバビリティの実践と並行して、関連性の高い迅速な応答を得ることで、より優れた検索と生成AIソリューションを構築できるようになります。」

現在、AIMは、New Relicユーザーの方であれば、限定プレビューでご利用いただけます。ユーザーはこちらからサインアップの上、早期アクセスをリクエストできます。New Relicのシンプルで透明性の高い価格設定の一部として提供されます。詳細は以下をご覧ください。

Web ページ
https://newrelic.com/jp/platform/ai-monitoring

ブログ
https://newrelic.com/jp/blog/how-to-relic/ai-monitoring

New Relic AIモニタリングとAmazon Bedrockのインテグレーションに関するプレスリリース
https://newrelic.com/jp/press-release/20231206-1



■本プレスリリースのURLはこちらです。
https://newrelic.com/jp/press-release/20231206

■New Relicのファクトシートやロゴ等は、以下からご確認いただけます。
https://newrelic.com/jp/about/media-assets

■New Relicについて
2008年に創業したNew Relic は、デジタルビジネスのあらゆる重要指標を観測可能にする「オブザーバビリティ（可観測性）プラットフォーム」を提供しています。デジタルビジネスを構成するアプリケーションやインフラストラクチャだけでなく、ユーザー側の顧客体験状況までをも観測可能にするため、企業はデジタルサービスの障害検知、顧客体験の低下検知、潜在的な問題やボトルネックを早期特定し解決するDevOps チームを生み出します。これにより、企業は取り組むべきデジタル変革を、計測可能な戦略へと変化させることができます。New Relicの全世界顧客数は16,000以上、Fortune 100企業の過半数で採用されており、日本でも数百社を超えるお客様のデジタル変革を支援しています。New Relicが支持されている理由は、newrelic.com/jpをご覧ください。

■オブザーバビリティ（可観測性）プラットフォーム「New Relic」について
New Relic はお客様がより完璧なソフトウェアを作成するために構築された、最も強力なクラウドベースの観測プラットフォームです。世界中のエンジニアリングチームがNew Relic を利用して、アップタイムとパフォーマンスの向上、規模と効率の向上、市場投入までの時間の短縮を実現しています。New Relic には、組織がオブザーバビリティを実現するために必要なすべての機能が含まれています。

・Telemetry Data Platform:
ペタバイト規模であらゆるタイプのアプリケーションやインフラストラクチャのデータを収集、可視化することができます。これは、すべての運用データの単一で正しいソースとなるように設計されています。

・Full Stack Observability:
APM、インフラストラクチャ、ログ、デジタルカスタマーエクスペリエンスにまたがるソフトウェアスタック全体を1つのコネクテッドエクスペリエンスで簡単に分析し、トラブルシューティングを行います。

※New Relic は、New Relic, Inc.の登録商標です。
※本文書内の製品名および会社名は全て、それらの登録名義人の商標である場合があります。

将来予想に関する記述
本資料は関係情報の開示のみを目的として作成されたものであり、有価証券の取得または売付けの勧誘または申込みを構成するものではありません。本資料は、正確性を期すべく慎重に作成されていますが、完全性を保証するものではありません。また本資料の作成にあたり、当社に入手可能な第三者情報に依拠しておりますが、かかる第三者情報の実際の正確性および完全性について、当社が表明・保証するものではありません。当社は、本資料の記述に依拠したことにより生じる損害について一切の責任を負いません。本資料の情報は、事前の通知なく変更される可能性があります。本資料には将来予想に関する見通し情報が含まれます。これらの記述は、現在の見込、予測およびリスクを伴う想定（一般的な経済状況および業界または市場の状況を含みますがこれらに限定されません）に基づいており、実際の業績とは大きく異なる可能性があります。今後、新たな情報、将来の事象の発生またはその他いかなる理由があっても、当社は本資料の将来に関する記述を更新または修正する義務を負うものではありません。

プレスリリース提供：PR TIMES