国内第1号ユーザー NTTインテグレーションが語る！IBM Spyre検証で見えてきた企業AI基盤の最適解

生成AIの活用が本格化する中、企業システムにおいてもAI基盤の重要性が高まっています。そうした中、NTTと日本アイ・ビー・エム（以下、日本IBM）の強みを融合したシステムインテグレーター NTTインテグレーション株式会社では、日本国内第1号ユーザーとしてIBM Spyre Accelerator for Power（以下IBM Spyre）を導入し、社内利用と顧客提案の両面を見据えた検証を進めています。

しかし、その取り組みは単に最新技術を試すだけのものではありません。環境構築や設定、性能評価、活用シナリオの検討など、実際に自社活用したからこそ見えてきた課題や発見がありました。

本記事では、取り組みの当事者が、導入の背景から検証の過程、得られた知見、そして将来的なビジネス適用の可能性までを率直に語ります。先進技術をいち早く取りこみ、その価値を見極めようとする現場のリアルな挑戦に迫ります。

登場者

【インタビューイー】

NTTインテグレーション株式会社
クラウド事業本部
クラウドビジネス部　
　部長 佐々木 大介 氏
　主査 中西 渉 氏
　　 　小森 海恵梨 氏

【インタビューアー】

エヌアイシー・パートナーズ株式会社
技術企画本部
テクニカルサポート部　
　部長 広橋　稔

IBM Spyreに見出した可能性

広橋：
本日はご多忙の中、貴重なお時間をいただきありがとうございます。先日、貴社NTTインテグレーションではエンタープライズ向けAI推論アクセラレーターであるIBM Spyreを日本国内で第1号として購入、現在企業におけるAI活用推進のための検証を進めておられます。そもそもこの製品に着目されたきっかけを伺わせてください。

図1　エンタープライズ向けAI推論アクセラレーター IBM Spyre

佐々木：
われわれが所属しているクラウドビジネス部は、2025年7月、クラウド事業本部の中に新しく立ち上がった事業部門です。お客様に提供可能なさまざまな製品・サービスを、メーカーやテクノロジーの系統を越えて包括的に取り扱おうというのがその目的でした。そうした折り、IBMが Spyreというものを上市するという情報を入手しました。時を置かず日本IBMが主催する天城エグゼクティブ・セミナーに参加し、IBM Spyreについて詳しく知るなり、これは日本のお客様に役立つテクノロジーなのでは、と直感しました。

 広橋：
どのような点に目を向けられたのですか。

図2　既存データセンターに設置可能な高性能低電力を実現　

佐々木：
まずは、高性能低電力であるということです。特に、低電力でAI推論が行えるというところに惹かれました。通常、AI基盤環境を調達する場合、GPUの膨大な電力を消費量がネックとなります。しかし、IBM Spyreなら1カードあたり75Wで、8カード使っても600ワットにとどまるため、一般的なデータセンターの設備で十分設置可能です。新しい電源拡張が不要というのは、お客様にとって大きな利点になります。

また、IBM Power 11に載せて動かせるアクセラレーターであるため、オンプレミスのAI推論環境が持てることになります。データを社外に出せない、出したくないというお客様に最適です。

さらに、IBM Spyreは高度な専門知識がなくてもAIを導入できる「Turnkey（ターンキー） AI」をコンセプトとしています。IBM Power＋IBM Spyreで、実現したいAIサービスをIBMカタログからワンクリックで選び、事前構築済みAIサービスを利用することで、業務を効率化するソリューションを簡単に作り上げられる点も高く評価しました。お客様自身がGPUクラスタ構築や推論基盤のチューニングを行う手間をかけず、短期間でAIを使い始められるというのが非常に魅力的でした。

そこで、もう天城でのセミナー中に、どのような形で取り組んでいくのが最良か日本IBM側と話を始めました。そして、2025年10月にIBM Spyreが正式に発表された後は、お客様に展開できる技術の習得を目的として、日本IBMと当社でタスクフォースを結成、共創を進めていました。

国内第1号購入を決めた理由

広橋：
迅速な決断で、国内第1号購入を実現されました。

 佐々木：
結果から見ればそうなのですが、実は「予算ゼロ」という厳しい状況からのスタートでした。会計年度中に発足した新しい事業部門ですから、持っている予算はありません。当初は次の会計年度をターゲットとした予算化を考えていました。しかし、これは今しかない好機だと考え直したのですね。早く導入すれば、日本初ということで社外にアピールすることができますし、知見をいち早く蓄積することで実機をショーケース化することも可能です。しかも、当社はこのタイミングで創業40周年を迎え、日本情報通信からNTTインテグレーションへと社名変更しました。それに伴う取り組みということで話題性もあります。IBM Spyreそのものの革新性に加え、こうした複数のメリットを訴求した結果、経営層からGOサインが得られ、日本IBMとも戦略的な調達交渉に就くことができました。

 広橋：
導入の決め手は何でしたか。 

佐々木：
着目点でもお話ししたとおり、企業におけるAI基盤導入の課題を、圧倒的なハードウェアスペックで解決できる点です。低消費電力で、しかも空冷で対応できるため、導入にあたってデータセンターの大幅な改修は必要ありません。また、IBM Powerとの統合性が深く、基幹システムが稼働している、まさにその筐体でAI推論処理を行えるため、機密データを外部へ出さずにすむ点も重要でした。

もちろん、購入を決断する前には他の選択肢との比較も行いました。汎用的なGPUはAI学習や画像処理など幅広い用途に利用できる反面、大幅な電源・空調改修が必要になるケースがあります。しかし、IBM SpyreはAI推論処理に特化することで、極めて低い電力消費と発熱を実現しており、持続可能なAI基盤として優位性があると判断しました。

着々と検証を推進

広橋：
現在、どのように検証を進めておられますか。

 佐々木： 導入前、大きく3つの期待がありました。

 1つ目は、「Turnkey AI」コンセプトにより、どれだけ導入・運用がしやすくなるかという点です。コンテナやLLMの深い専門知識がない若手社員やインフラ担当者でも、ほんとうにクリック操作でAIサービスをデプロイできるのかどうかに注目しました。

 2つ目は、既存の基幹システムとのシームレスな連携です。データを移動させるのではなく、データのところへAIを持ちこむというIBMの「Bring AI to the data」アプローチにより、IBM Power上のIBM iやAIXが格納している機密性の高い業務データを、外部に出すことなく同一基盤内で安全にAI推論を行える環境が構築できれば、と考えました。機密性の高い業務データを 外部AIサービスに出すときには、個人情報や機密情報をマスキングして送信するという方法もあります。しかし、過度なマスキングはAIの回答精度や判断品質を下げるリスクがあります。その点、ローカル環境で実行できれば、機密情報を外部に出さずに、またデータ加工を行わずにAI活用できるため、情報漏えいを防止しつつ、データ品質を保ったまま、業務に必要な文脈を活かした推論が可能になります。

 3つ目は、オンプレミスならではの低レイテンシーです。データのすぐそばでAI推論処理を行うことで、ネットワーク遅延を抑えられますし、非常に高い即時性が求められる業務要件、たとえば金融機関における不正検知など、そうしたニーズにも応える基盤になると思ったのです。

こうしたことを、私たちが「クライアント・ゼロ」となって直接確かめてみようというのが、まさに現在進めている検証プロセスです。 

中西：
現在、IBM Open-Source AI Foundation for Power、ai-servicesを活用して、IBM Spyreを用いたAI推論環境の構築・設定・動作確認を進めています。ai-servicesを利用することで、この環境構築に必要となるコンポーネントを短時間でデプロイできることがわかってきました。ai-servicesにはたとえば、フロントエンドのプロンプト画面、RAGで必要となるベクトルデータベース、モデルを稼働させるが推論サーバーなどあらかじめ用意されています。そのため、推論環境の構築に必要な作業を効率化でき、検証開始までのリードタイムを短縮できます。これは大きなメリットです。

 そしてまずは、AI活用に必要な要素をあらかじめ揃え、短期間で利用開始できる状態をめざす「Turnkey AI」コンセプトの検証として、QAチャットボットの構築から開始しました。RAGを利用し、参照データとして取り込んだ文書をもとに回答を返すチャットボットです。この構築を入社2年目の若手社員に依頼したところ、1週間で動作確認可能なQAチャットボット環境を構築できました。

既存システムの連携という点では、業務システムや社内データとAI推論環境を連携させることを考えており、具体的には、業務データを活用した問い合わせ対応、情報検索、業務支援などを候補としています。また、IBM Spyre単体の動作確認にとどまらず、当社で提供しているAIサービスとの連携も視野に入れています。当社には、全国の自治体や一般企業向けに提供している生成AIクライアントアプリ「NICMA」があります。このアプリケーションの中に、IBM Spyreを使ったオンプレミスのAI基盤を採り入れることで、運用コストの削減や機密保持につながる活用が行えるのではと連携を進めています。

オンプレミスならではの低レイテンシーという点は、現在データを蓄積しているところで、これから本格的に検証していきます。

そしてこれは、今後さらに検証したいテーマになりますが、現在のRHEL環境での基本検証が完了した後に、OpenShift環境への移行検証を行っていきます。さらに、お客様向け連携とアーリーアダプター検証を優先的に実施していく予定です。特に、既存のIBM iやAIXといった基幹業務システムとのシームレスな連携実証は重要だと考えています。加えて、通信・ネットワークなどの先進技術を研究する外部機関との連携なども構想しており、次世代AI基盤としての可能性をさらに広げていきたいと考えています。

 広橋：
検証の中で、何か苦労されている点、想定外だった点などはありますか。 

中西：
AI領域は技術の進歩が非常に速く、モデル、フレームワーク、推論基盤、運用ツールのいずれも短いサイクルで更新されています。そのため、 このような変化の速い領域だからこそ、早い段階で実機に触れて知見を蓄積することには大きな価値があります。

 一方で、早期段階の技術であるからこそ、現時点での対応範囲や適用しやすいユースケースを正しく見極めることも重要です。利用可能なLLMやAIアセット、対応するソフトウェアスタックは今後さらに拡充されていく領域であり、その前提を踏まえて評価する必要があります。

 この点は単なる制約ではなく、早期検証だからこそ得られる重要な知見です。現時点で適用しやすい領域と、今後のエコシステム拡充を見据えて検討すべき領域を整理することで、お客様に対してより現実的で精度の高い提案が可能になります。

 今後、対応するLLMやAIアセット、関連ツールがさらに拡充されることで、IBM Spyre の適用範囲はより広がっていくと期待しています。当社としても、周辺システムとの組み合わせを含めたアーキテクチャ検討を進め、実践的なノウハウをお客様への提案や導入支援に活かしていきたいと考えています。

早期の取り組みで見えてきた価値

広橋：
 現時点でIBM Spyreに見出された価値はどのような点にありますか。

 佐々木： IBM Spyreの最大の利点は、企業内でAI推論環境を持てることにあります。企業でAIを活用する場合、機密情報、顧客情報、社内文書、業務データなど、外部に出しづらい情報が数多くあります。それが大半だといっても過言ではないかもしれません。そのため、オンプレミスでAIを活用したいというニーズはますます高まっていくと見ています。IBM Spyreを活用することで、社内データや既存システムと連携しながら、より安全にAIを利用できることがわかってきました。つまり、IBM Spyreは単なるAIアクセラレーターではなく、企業向けAI活用を支えるインフラ基盤として重要な選択肢だということです。
また、AI基盤を運用する上でコストや設備負荷を抑えられる点も大きいです。モデルの性能や回答精度も重要ではありますが、実際に運用し続けられなければ、取り組むこともできません。その点、IBM Spyre は低消費電力を特長としており、既存のIBM Power環境で利用している電源設備を活かしながら、AI推論環境を導入しやすい点も大きなメリットです。データセンターの電源容量や冷却設備への追加負荷を抑えやすく、より現実的な運用コストでAI基盤を検討できると考えています。このメリットは、お客様環境への提案においても導入しやすいAI基盤として訴求できるポイントになります。 

広橋： 今後、どのようにビジネスへ適用されていく予定ですか。 

佐々木： 社内向けとしては、「クライアント・ゼロ」として、実際の業務にIBM Spyreを積極的に適用していきたいと考えています。具体的には、「NICMA」の開発・推論環境としての利用や、IBM i上で稼働する社内の基幹業務データを活用したナレッジ検索などへの適用を想定しています。自らがユーザーとなってAI基盤の構築・運用・改善といった実務レベルのノウハウを蓄積し、将来お客様へ提供するサービスの品質向上に直結させていきます。 他方で顧客向けとしては、大きく2つの方向性を考えています。
1つ目は、お客様ご自身のオンプレミス環境に対するセキュアなAI基盤としての提案です。たとえば、製造業における設計図面や歩留まり情報といった知的財産（IP）の活用や、金融機関における不正取引検知など、低レイテンシーで即時性が求められる業務への適用です。
2つ目は、当社クラウドサービス「PowerCloudNEXT」上で展開する、SaaS型のAI推論サービスの提供です。 オンプレミスで専用のAI基盤を構築するのはコストがかかりすぎると考えるお客様に、「PowerCloud NEXT」を基盤として、学習済みAIモデルを実際の業務で動かし、推論を実行するインファレンスサーバーを“相乗り”形式で提供することを検討しています。これにより、高額な初期投資やインフラの運用負荷を負うことなく、機密データの外部環境への移動を抑えながら、安全性に配慮した形でAIを活用できるマネージドなSaaS型サービスをお客様に享受いただけます。

誰もが安全かつ容易にAI活用できる世界の実現に向けて

広橋： 直近のロードマップを教えてください。

 佐々木： 2026年10月に、お客様の要望をIBM Spyreで検証できるサービスの立ち上げを予定しています。言い換えれば、既存の業務データを利用してPoCを実施できる環境の提供ですね。お客様に実際にお試しいただくことで、IBM Spyreの先進性をご理解いただければと思います。

 広橋： IBM Spyreに日本で一番早く取り組んだ先駆者として、読者の皆様にメッセージをお願いいたします。

 佐々木： AI関連は当社として全社的に推進している分野で、なかでも今回の取り組みは、IBMとNTT、双方の技術を活用できる最先端の挑戦ということで、経営層からも大きな期待が寄せられています。現実問題として、企業がAIを本格展開する際には、データセンターの電力・空調の制約、機密データのセキュリティ、高度なIT人材の不足などが大きな壁となりますが、IBM Spyreを導入することで、誰もが安全かつ容易にAIを業務活用できる新しい世界を実現できると確信しています。これを、「お客様の自社環境向けに構築できるセキュアなオンプレミスAI基盤」として、また、当社がマネージドサービス基盤を提供することで、お客様が常に最適な環境を選択できる「全方位的（オムニディレクショナル）AI基盤」としてお届けできるよう、自負心を持ちつつ準備を進めています。次世代AI基盤のお披露目を、ぜひ楽しみにしていただけばと思います。

 中西： 当社は日本で最初のユーザーとなりました。次は実務への活用に向けた先行事例を当社から創出していきます。検証で得た知見を日本IBMへ共有しながら、お客様にとって実用性の高い製品・サービスを提供していく役割を、システムインテグレーターとしてしっかり担いたいと考えています。

 広橋： グループ会社としてディストリビューター事業を展開する当社としても、さまざまな形でIBM Spyreのさらなる認知度向上に努め、お客様からシステム構成依頼をいただいたときにも、このアクセラレーターの先進性を十分に伝えていきたいと考えています。本日はどうもありがとうございました。

お問い合わせ

この記事に関するお問い合せは以下のボタンよりお願いいたします。