LLMメッシュは、セキュアなAPIゲートウェイとして機能し、ハードコードされた依存関係を解消し、アプリケーションと基盤となるサービス間のリクエストを管理、ルーティングします。
Dataikuは、大規模言語モデル（LLM）、ベクトルデータベース、高速化およびコンテナ化された計算機能の主要なプロバイダと提携しています。これには、プロダクショングレードのローカルLLMを簡単かつ効率的に提供するHugging Faceが含まれます。
SEE AVAILABLE LLM CONNECTIONS
生成AIを搭載したアプリケーションは、現在最高のモデルの上に構築すべきなのでしょうか？ それとも、より正確で、パワフルで、ユースケースに適した新しいモデルが登場するまで、もう少し我慢すべきでしょうか？Dataikuなら、選ぶ必要はありません。 マルチLLM戦略により、コスト、パフォーマンス、プライバシー、セキュリティー、規制要件などのトレードオフのバランスを取ることができます。 LLMメッシュは、市場で最も包括的で不可知論的なLLMゲートウェイであり、生成AIのトッププレーヤーと提携し、何千ものLLM（サービスまたは自己管理の両方）に安全にアクセスできます。
コストガードでLLM使用状況の最新データを分析。
誰がどのモデルやサービスをどのような目的で使用したかを完全に監査可能なログで記録することで、コストの追跡や社内での再請求が可能になります。
DIG DEEPER ON COST GUARD
個人情報や不適切なコンテンツのスクリーニングに関しては、LLMメッシュは、Dataiku Safe Guardを経由して、機密情報の要求と応答を評価することができます。これには、個人を特定できる情報（PII）、有害なコンテンツ、または禁止用語の検出が含まれます。
LLMメッシュは、LLM APIにリクエストを送信する前に、この機密情報を再編集したり、リクエストを完全にブロックしたり、管理者に警告を発したりします。
LLMの使用を承認し、文書化し、体系化することは、規制への対応に向けた重要なステップです。
Dataiku LLMレジストリを使用して、どのモデルをどのようなユースケースに使用すべきか（または使用すべきでないか）を合理化するだけでなく、モデルのドキュメントを常に最新の状態に保ってください。
Dataikuのガバナンスについて詳細はこちら
LLMメッシュは、LLMサービスとプロバイダーのラウンドトリップパフォーマンスを監視します。これにより、問題を診断し、アプリケーションのニーズとSLAに基づいて最適なサービスを選択できます。
さらに、一般的なクエリーに対するレスポンスをキャッシュすることで、レスポンスを再生成する必要性を回避し、コスト削減とパフォーマンス向上の両方を実現します。
Dataikuは、LLMメッシュだけでなく、企業全体のビルダーが生成AIアプリケーションを実用化するために必要なすべてのツールを、高速かつコードフリーで提供します。
ユニバーサルAIプラットフォームは、生成AIアプリケーションを大規模に作成するために必要なすべてを提供します：
