About
TDSE AI Forgeとは
AI活用には、AI基盤、AIモデル、開発環境、セキュリティ、運用ノウハウなど、数多くの要素が必要です。
TDSE AI Forgeは、それらを統合したオンプレミス型AIエージェント基盤です。全社基盤の整備を待たず、まずは特定業務から安全にAI活用を始められます。
Overview
TDSE AI Forgeとは
～
機密データを外に出さず、
部門から始めるオンプレミスAIエージェント基盤
TDSE AI Forgeは、AIやAIエージェント活用に必要な要素を統合したオンプレミス型AIエージェント基盤です。
最下層のAI基盤にはNVIDIA DGX Sparkを採用し、その上にセキュリティとガバナンスを担保するNeMo Guardrails、用途に応じて選択可能なOSS LLM、DifyなどのAIアプリケーション開発基盤を用いて業務特化型AIエージェントやアプリケーションを構築することができます。
まずは特定業務でAI活用を始め、成果を確認しながら利用範囲を拡大できるため、全社AI基盤の整備を待つことなく、スモールスタートで現場でのAI活用を始めることができます。
Support Menu
AI活用の第一歩から
成果創出まで
生成AIへの関心が高まる一方で、セキュリティ要件やクラウド利用制約により、これまで十分に検証や活用を進められなかった企業も少なくありません。
また、AI活用は基盤を整備すれば実現できるものではありません。どの業務に適用するのか、どのLLMを選択するのか、どのように現場へ定着させるのか、継続的な改善の仕組みをどう作るのかによって、その成果は大きく変わります。
ご要望に応じて業務課題の整理から活用テーマの選定、LLM選定、AIエージェント構築、運用改善・内製化まで、幅広いご支援が可能です。
機密データを外に出さず、
部門から始める
オンプレミスAIエージェント基盤
TDSE AI Forgeは、セキュリティやガバナンスを理由に
これまでAI活用を諦めていた業務の可能性を広げ、現場の生産性向上を支援します。
拡張構成例
スモールスタートから全社展開へ
導入後の成長を見据えた拡張アーキテクチャ
TDSE AI Forgeの「Forge」には、素材を鍛えながら理想の形へと育てていくという意味を込めています。
最初から大規模な投資や全社導入を前提とするのではなく、まずは小さな成功体験を積み重ね、その後の活用拡大に合わせてシステムも段階的に成長させていく。その考え方のもと、将来的なハイブリッドクラウド構成や統合管理構成も見据えています。
※以下は拡張構想・参考構成例であり、具体的な実現方法や提供時期については個別にご相談ください。
拡張構成1
機密データを守りながら
クラウドAIも活用可能にするハイブリッド構成
機密性の高い社内データをオンプレミス環境で安全に管理しながら、クラウドLLMやMicrosoft 365などの外部サービスを組み合わせたハイブリッド構成案です。用途に応じてオンプレミスとクラウドを使い分けることで、セキュリティを確保しながら利便性とコストの最適化を両立するアーキテクチャ構想です。
※掲載しているハードウェア構成は一例です。提供時期や調達状況に応じて、同等性能の機器・構成へ変更となる場合があります。
拡張構成2
AI活用が複数部門へ広がった
企業向け統合管理構成
(GH200 オーケストレーション)
AI活用が複数部門へ広がると、モデル管理やナレッジ共有、セキュリティポリシーの統一、GPUリソースの最適配分など、新たな運用課題が発生します。
TDSE AI Forgeでは、部門ごとの独立した環境を維持しながら、将来的には全社共通の管理基盤による統合運用も視野に入れています。モデル配信や推論処理の最適化、共有RAG基盤の構築、監査・ガバナンスの一元管理により、組織全体で持続的にAI活用を拡大するためのアーキテクチャ構想です。
導入効果
部門サイロを横断したモデル・ナレッジの共通化、ピーク時の処理オフロード、運用・セキュリティの一元統制を同時実現。
拡張性
部門 DGX-Spark の追加は GH200 への登録のみで完結。将来的に GH200 NVL2/DGX クラスへの段階的アップグレードも可。
NVIDIA GH200 Grace Hopper
管理サーバー
（中央オーケストレーション基盤）
Grace CPU + Hopper GPU 統合アーキテクチャ ｜ 大容量メモリ・高帯域 NVLink-C2C で
部門横断のモデル管理・推論統合を担う
01
モデル配信・レジストリ
FT 済み LLM や Guardrails 設定を一元管理し、各部門 DGX-Spark へ配信・更新
02
ジョブ・推論ルーティング
負荷状況に応じて部門間で推論・FT ジョブを最適振分け、ピーク時はGH200 自身でも処理
03
共有データ・RAG 基盤
全社共通ナレッジ・ベクトルDB を集約し、部門別アクセス制御の上で横断 RAG を提供
04
監視・認証・ガバナンス
ログ/監査・SSO・部門別権限を集中管理し、Guardrails ポリシーを全社統一
セキュア社内ネットワーク
（モデル配信／ジョブ制御／メトリクス収集）
営業・マーケ部門
DGX-Spark ｜ Dify w/ TDSE
提案書作成、議事録要約、顧客分析等の業務特化エージェント
R&D・開発部門
DGX-Spark ｜ OSS LLM Finetune
コード生成・技術文書 RAG・社内モデルのファインチューニング
管理・バックオフィス部門
DGX-Spark ｜ NeMo Guardrails
規程 Q&A、契約・経理ドキュメント要約、機微情報マスキング
その他部門 … N 台
DGX-DGX-Spark ｜ 部門専用構成
部門毎にユースケース・モデル・データを分離。GH200 配下にスケールアウト可能
※記載のオーケストレーション用サーバは、参考例となります。
ご導入時に利用用途に合わせ機種を選定致します。
※掲載しているハードウェア構成は一例です。提供時期や調達状況に応じて、同等性能の機器・構成へ変更となる場合があります。
FAQ
よくある質問
クラウド型の生成AIサービスと何が違いますか？
TDSE AI Forgeはオンプレミス環境で利用できるため、機密情報・知財・個人情報など、クラウドLLMでは扱いにくいデータを含む業務にも適用しやすい点が特徴です。クラウド利用に制約がある環境でも、部門単位で生成AI活用を始められます。
TDSE AI Forgeは全社導入が前提ですか？
いいえ。TDSE AI Forgeは部門単位での導入を想定しています。全社AI基盤の整備を待たずに、まずは特定部門・特定業務からAI活用を始め、成果を確認しながら段階的に利用範囲を広げることができます。
どのような業務にTDSE AI Forgeを活用できますか？
生成AIアプリケーションの開発、AIエージェントの構築、社内ナレッジ活用、問い合わせ対応、文書作成支援、業務プロセスの自動化など、部門ごとの業務課題に応じて活用できます。
AI活用の経験がなくても導入できますか？
はい。TDSE AI Forgeは、クラウド利用制約などにより、これまで生成AI活用を十分に検証できなかった企業も想定したサービスです。
利用目的や業務課題を伺いながら、導入の進め方や必要な支援内容をご提案します。
まず何から相談すればよいですか？
まずは「どの業務で生成AIを活用したいか」「クラウドAIでは扱いにくいデータや制約があるか」「導入後の運用に不安があるか」などをお聞かせください。TDSE AI Forgeで実現できる範囲や進め方をご提案します。
将来的に利用規模の拡大やシステムの拡張は可能ですか？
はい。TDSE AI Forgeは、まずは部門単位で小さく導入し、成果や利用状況に応じて段階的に活用範囲を広げていくことを想定したプラットフォームです。将来的には、クラウドサービスとの連携によるハブリッド構成や、複数のAI環境を統合的に管理する構成なども視野に入れています。お客様のセキュリティ要件や利用規模、コスト要件に応じて最適な構成をご提案します。
CONTACT
安全なオンプレミス環境で、
AI活用の可能性を広げる
まずは、お客様の課題や
活用イメージをお聞かせください。