【てくさぽBLOG】IBM Power Virtual ServerのAIX環境とIBM Cloud x86環境を接続してみた

一覧に戻る

2021年11月

【てくさぽBLOG】IBM Power Virtual ServerのAIX環境とIBM Cloud x86環境を接続してみた

ブログ

こんにちは。
てくさぽBLOGメンバーの村上です。

本ブログは、IBM Power Virtual Server をトライしてみた内容や感想をご紹介するブログです。

シリーズ化していますので、まずインデックスのご紹介をします。

インデックス

・IBM Power Virtual ServerでAIX環境を作ってみた
・IBM Power Virtual ServerのAIX環境にSWを導入してみた
・IBM Power Virtual ServerのAIX環境を日本ロケールにしてみた
・IBM Power Virtual ServerのAIX環境をバックアップしてみた（Part.1）
・IBM Power Virtual ServerのAIX環境をバックアップしてみた（Part.2）
・IBM Power Virtual ServerのAIX環境とIBM Cloud x86環境を接続してみた ←今回

今回は、Power Virtual ServerのAIX環境を IBM Cloud の x86環境と接続する方法をご紹介します。

セクション

以下の1)～6)のセクションに分けてご紹介します。

1）接続イメージの説明
2） Direct Link Connect の説明
3） Direct Link Connect の作成
4） Caseを利用した接続依頼
5） VSI for VC の作成
6） AIX環境とx86環境の接続確認
 最後に
 お問い合わせ

検証はAIXのインスタンスで行いましたが、IBM i のインスタンスでも同等の手順で操作を行うことができます。

利用したクライアント端末（私のPC）は、Windows10 pro バージョン2004（検証当時）です。

1) 接続イメージの説明

Power Virtual Server のAIX環境と IBM Cloud の x86環境はロケーションが異なる別のサービスで、ネットワークは直接つながっていません（2021年11月時点）。
そこで、お互いの環境を接続する方法が IBM Cloud から提供されています。
Direct Link Connect を利用する方法です。

今回は、上記の図の青色の線「Direct Link Connect」を作成し、オレンジ色のubuntuサーバ（仮想サーバ・インスタンス(VSI)）とAIXサーバを接続することが目的です。IBM Cloud環境の「仮想プライベート・クラウド(VPC)」と「仮想サーバ・インスタンス(VSI)」は未作成だったので、新規に作成し手順もブログ内に残しました。

2) Direct Link Connect の説明

Direct Link Connect と Power Virtual Server は全く別のサービスですので、Direct Link Connect は新規に作成する必要があります。
Direct Link Connect は IBM Cloud のポータルから作成（契約）します。

1)でも記載した通り、Power Virtual Server は IBM Cloud の x86環境と異なるコロケーションサイトを利用しており、ネットワークも直接つながっていません。そのため、Direct Link Connect を契約し設定することで x86環境と接続することが可能となります。

Direct Link Connect には、従来からある「Classic」と新しく提供が開始された「2.0」があり、どちらも無料で利用できるので、今回は新機能が充実している「2.0」を利用します

Direct Link Connect 利用条件（IBM Cloud 柔らか層本20211124版 p.85より）

・1データセンターあたり、10Gbps ポート x 2回線(HA) まで無料
・Global routing を利用しても追加費用は不要
・Direct Link Connect の申請時、「Network Provider」は「IBM Power Virtual Server」を選択すること（「3) Direct Link Connect の作成」でも触れます）

3) Direct Link Connect の作成

では早速、Direct Link Connect を作成します。

・IBM Cloud にログインし、左上にある「ナビゲーション・メニュー」→「相互接続性(Interconnectivity)」を選択します。

相互接続性(Interconnectivity) の画面に移動しました。

・「Direct Link」を選択します。

・「Direct Linkの注文」を選択します。

・「Direct Link Connect」を選択します

Direct Link Connect の構成パラメーターを選択する画面に移動しました。

・「リソース」情報は以下を入力・選択します。
＞ Direct Link 名：tok-powervs（任意の文字列）
＞リソース・グループ：Default

ここから、Direct Link Connect の構成パラメータを設定していきます。

・「ゲートウェイ」では以下の順番で選択します。
＞ジオグラフィー：APAC
＞市場：Tokyo
＞タイプ：すべて
＞サイト：Tokyo 4
＞経路指定：ローカル（グローバルを選択すると別リージョンへ接続可能）

プロバイダー：IBM POWER VS

速度は、50Mbps~10Gbps まで8種類から選択可能です。どの速度でも金額は変わりません。IBM推奨は1Gbps以上です。

・速度とポート(1つ)を選択します。
＞速度：1Gbps（10Gbpsにしようかと思いましたが、何となく遠慮してみました）
＞ポート：SL-TOK04-POWERIAASLITE-1-1-(ASR1)

※ 選択するポートは「速度範囲」が当てはまるものを選びます。今回は、どのポートでも当てはまりますので一番上のポートを選びました。

・「請求処理」で「従量制」を選択します。

・「BGP」は以下の通り選択および入力します
＞ BGPピアリング・サブネット：「IPの手動選択」を選択
＞範囲：「169.254.0.0/16」を選択（169.254.0.0/16 から）
＞自分のIPv4 CIDR：「169.254.0.2/30」を選択
＞ IBM IPv4 CIDR：「169.254.0.1/30」を選択
＞ BGP ASN：「64999」を入力

※ BGPピアリングは「169.254.0.0/16 」から範囲を指定します。今回は特に決めごともないので自由に設定しました。
※ BGP ASNは Direct Link Connect の構成ガイドにある通り、「64999」を指定します。

・「接続」は初期状態のまま変更しません。

ここまで入力が出来たら構成パラメータの設定は完了です。

・画面の右側に表示されるサマリーを確認し「作成」ボタンをクリックします。

Direct Link Connect の作成が受け付けられたメッセージが出力されます。

暫く待つと Direct Linkの「状況」が「構成中」→「プロビジョン済み」に代わります。作成したDirect Link名「tok-powervs」をクリックし詳細画面を表示します。

下記の詳細情報は「4) Caseを利用した接続依頼」で利用しますので、このまま表示させておくかコピペしておきます。

Direct Link Connect の作成が完了しました！

4) Caseを利用した接続依頼

次に、Power Virtual Server のAIX環境とDirect Link Connect の情報を紐付けるための作業を行います。この作業は、IBM Cloud のWEBポータル画面やIBM Cloud CLI 、API からは実施できません。Case を利用して、IBMのSEさん(？) へ接続のリクエストを出します。
Caseとは、IBMのサポートコミュニティの「問い合わせ」のことです

・IBM Cloud のWEBポータル画面の右上にある「サポート」をクリックします。

・「Caseの作成」をクリックします。

・「リソース」を選択します。

・「Caseの作成」画面で以下を選択し「次へ」をクリックします。
＞トピック：「Power Virtual Server」をプルダウンから選択
＞名前：「Power Virtual Server-g5」にチェックを入れる

下記の画面に移動したら、依頼内容を記載することができます。

Caseに依頼する情報は、「3) Direct Link Connect の作成」の最後に表示した詳細情報を利用し、以下のように記載しました。Case は英語で記載する必要があります。
実は、日本語でCaseを依頼してしまったことがあったのですが（英語で記入することをすっかり忘れていました）、担当SEさんが丁寧に英語に翻訳してくださって「質問はこういう意味であっていますか？」と返信が来ました。優しいです。
Caseの記載方法はQiitaのブログを参考にさせてもらっています。

サブジェクト：PowerVS : Direct Link 2.0 Request

説明：
<Inquiry regarding Direct Link Connect for PowerVS>
I ordered Direct Link Connect from IBM Cloud portal and its provisioning has finished.
The detail information is as follows.
Please proceed at Power VS side to establish Direct Link Connect. Thanks.
—
Data creaged : Tue,Mar 2,2021,13:49:39 JST
Resource group : Default
Provider : IBM POWER VS
Routing : Local
Speed : 1 Gbps
Billing : Metered
User CIDR : 169.254.0.2/30
IBM CIDR : 169.254.0.1/30
BGP ASN : 64999
IBM ASN : 13884
Port : SL-TOK04-POWERIAASLITE-1-1-(ASR1)
Location : Tokyo 4
Service key : （「サービス・キー」にある値を記載します）
BGP status : Idle
VLAN : 3921Connected VLAN : CIDR
public-192_168_187_32-29-VLAN_2032 : 192.168.187.32/29

・記載が完了したら「Caseの作成」ページの一番下にある「次へ」をクリックします。

・記載した内容を確認し「Caseの送信」をクリックします。

下記のメッセージが出力されたらCaseによる申請が完了しています。

数日後・・サポート・センターよりPower Virtual Server 側の接続が完了されたお知らせが来ました。
依頼内容を間違えてしまったのと少しのんびりやっていたので、接続完了まで5日くらいかかりました。Advanced Supportに入っていないので、対応はクイックではない印象ですが、Caseの担当SEさんより私の方がのんびり返信しているので問題ないです。
修正がなければ、2日程度時間を用意していれば確実に接続してもらえそうです。

IBM CloudのWEBポータル画面ではBCPのステータスが「確立済み」になっていました。

Direct Link Connect とPower Virtual Server の接続が完了しました！

5) VSI for VPC の作成

Direct Link Connect がPower Virtual Server と接続できたので、IBM Cloud の x86環境とちゃちゃっと接続したいところではありますが、実はまだ仮想プライベート・クラウド(VPC)もIBM Cloud のx86環境(仮想サーバインスタンス(VSI)) もありません。。

そのため、この検証のためにx86環境を作っていきます。画面ショットを取得していない部分は文字のみで説明しています。

・「ナビゲーションメニュー」から「VPCインフラストラクチャー」を選択します。
＞左のメニューから「VPC」を選択し、「作成」をクリックします。

・「新規仮想プライベート・クラウド」の画面で以下のように入力・選択します。
＞名前：tok-vpc（任意の名前でOK）
＞リソース・グループ：Default（変更なし）
＞タグ：（記載なしのまま）
＞ Region：「東京」にチェック
＞デフォルト・セキュリティー・グループ：「SSHを許可」「Pingを許可」にチェック
＞クラシック・アクセス：「クラシック・リソースへのアクセスを有効にします」は無効
＞デフォルトのアドレス接頭部：「各ゾーンのデフォルト接頭部の作成」にチェック

・「サブネット」の項目では「サブネットの追加」をクリックします。

・画面の左に「VPC用の新規サブネット」が表示されるので以下の情報を入力し「保存」をクリックします。
＞名前：tok-vpc-subnet（任意の名前）
＞ゾーン：「東京1」（東京1~3まで選択できます）
＞リソース・グループ：Default（初期値のまま）
＞タグ：（記載なしのまま）
＞ IP選択範囲
＞＞アドレス接頭部：10.244.128.0/18
＞＞アドレスの数：256
＞＞ IP範囲：10.244.1.0/24
＞ルーティング・テーブル：（記載なしのまま）
＞サブネット・アクセス制御リスト：（記載なしのまま）
＞パブリック・ゲートウェイ：「接続済み」にチェック

保存が完了したらVPCの作成承認画面になりますので「仮想プライベート・クラウドの作成」をクリックしVPCを作成します。

仮想プライベート・クラウド(VPC)の作成が完了しました！

続いて、VPCの中に仮想サーバ・インスタンス（VSI）を作成します。

・「カタログ」に「virtual server」と入力するとリストに「Virtual Server for VPC」が出てくるので選択します。

「VPC用の新規仮想サーバ」の作成画面になります。

・「詳細」では以下の通り入力・選択します。
＞名前：tok-test-vsi（任意の名前でOK）
＞リソース・グループ：Default
＞タグ：（記載なしのまま）
＞ロケーション：東京1（東京1~3が選択できます）
＞仮想サーバのタイプ：パブリック
＞プロセッサー・アーキテクチャー：x86

・「オペレーティング・システム」と「プロファイル」は以下を選択しました。
（SSH鍵はAIXインスタンス作成時に作ったものを利用します）

・「配置グループ」「ブート・ボリューム」「データ・ボリューム」は初期値のままとします。

・「ネットワーキング」では以下を選択します。
＞仮想プライベート・クラウド：tok-vpc (先ほど作成したVPC)

・「ネットワーク・インターフェース」は初期値のままとします。

ここまで入力と選択ができたら左画面に出力されているサマリーを確認し「仮想サーバ・インスタンスの作成」をクリックしてVSIを作成します。

下記のような表示となります。

「状況」が「稼働中」になったら作成完了です（2分くらいで稼働中になりました）。

仮想サーバ・インスタンス(VSI)の作成が完了しました！

次に、VSIをインターネット経由でアクセスできるようにするために、浮動IPアドレスを作成して割り当てます。浮動IPは、フローティングIPとも呼ばれています。

・IBM Cloud ポータル画面の左上にある「ナビゲーション・メニュー」→「VPCインフラストラクチャー」→「浮動IP」を選択します。

・「VPC用の浮動IP」の画面で「作成」をクリックします。

左画面に「浮動IPの予約」画面が出力されます。

・「浮動IPの予約」画面では以下を選択・入力します。
＞浮動IP名：tok-test-vsi-ip（任意の名前でOK）
＞リソース・グループ：Default
＞タグ：(記載なし)
＞ロケーション：「東京3」を選択
＞バインドするインスタンス：「tok-test-vsi」を選択(作成したVSI)
＞ネットワーク・インターフェース：「en0」を選択
すべての設定ができたら「IPの予約」をクリック

浮動IPが割り振られました。

私のPCから作成した浮動IPに疎通できるか確認します。

疎通ができました。

浮動IPの設定が完了しました！

6）AIX環境とx86環境の接続確認

いよいよ、Direct Link Connect と VPC を接続します。

・「ナビゲーションメニュー」→「相互接続性(Interconnectivity)」→「Direct Link」で「Direct Link」の画面を表示します。
・左の3つの点をクリックし「接続の追加」を選択します。

・「接続の追加」で以下を選択・入力し「追加」をクリックします。
＞接続の作成：アカウントに新規接続を追加します。
＞ネットワーク接続：VPC
＞地域：東京
＞使用可能な接続：tok-vpc
＞接続の名前：tok-powervs（任意の名前）

以下のメッセージが出力されます。

2分程度経つと、状況が「作動可能」になります。

これで、VPC と Direct Link Connect がつながりました。

AIX環境とx86環境間でPing疎通ができるかの確認を行います。

・AIXインスタンスにログインし、VSI環境にpingを投げます。

AIX環境とx86環境が疎通できました！

AIXサーバからVSIのubuntuサーバにssh でログインできることも確認できました。

今回で Power Virtual Server のブログは終了です。
検証を通して沢山の新しい知識を培うことができ、とても充実した機会でした！

最後に

2021年は多くのお客様が、Power Systems のオンプレミス更改の考え方を見直すと同時に、クラウド化を本格的に検討されました。

特に、中小企業のお客様は、クラウド化を選択することで得るメリットがお客様ご自身の負担やストレスを減らす手助けになられたように感じます。

2021年10月から、Power Virtual Server は安価な新ネットワークサービスが開始になったり、IBM i のライセンス移行オファリングが始まったりと、ユーザの目線に立った新機能が続々登場しています。
より身近なクラウドになってきました。

さて、2022年はアフターコロナが訪れるでしょうか。
海外旅行に行きたいです。

お問い合わせ

この記事に関するご質問は下記までご連絡ください。

エヌアイシー・パートナーズ株式会社
技術支援本部
E-Mail：nicp_support@NIandC.co.jp

2024年04月08日

特集一覧 (ブログ、コラム他) [2024年度]

コーポレートサイトに掲載している2024年度のブログやコラムの一覧です。ハードウェアやソフトウェア製品に関するコラムやソリューション情報、それらの製品を使った弊社エンジニアのブログやホワイトペーパーなど皆様のビジネスにお役立てください。コラム・ブログ一覧カテゴリタイトル公開日ブログ【てくさぽBLOG】watsonx Assistant + Watson Discovery + watsonx.aiを連携してみた 24/04/08 アーカイブ 2023年度 2022年度 2021年度 2020年度 2019年度

コラム

ブログ

2024年04月08日

【てくさぽBLOG】watsonx Assistant + Watson Discovery + watsonx.aiを連携してみた

こんにちは。てくさぽBLOGメンバーの高村です。ビジネスへの生成AI の取り込みに注目が集まっている今日、watsonx.ai をどう活用すればいいのか、多くのお客様からお問い合わせ頂いています。そこで前回の「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part2）」では、watsonx.ai のユースケースとして Retrieval-Augmented Generation（以下 RAG）をご紹介しました。今回は、RAG の仕組みを利用し AIチャットボットを提供する「watsonx Assistant（以下 Assistant）」と検索エンジン機能を提供する「Watson Discovery（以下 Discovery）」、「watsonx.ai」を組み合わせた連携ソリューションをご紹介します。目次 AssistantとDiscoveryの連携 watsonx.aiを取り入れた連携 Assistant + Discovery + watsonx.aiを連携してみたさいごにお問い合わせ AssistantとDiscoveryの連携本来なら各製品を一つのブログで詳しくご説明したいところですが、今回は連携した結果についてのご紹介となりますので、Assistant と Discovery については今後のブログであらためてご紹介したいと思います。 Assistant は watsonx の大規模言語モデルが搭載され、自然言語の問い合わせを理解し、適切な回答を返すことができるチャットボット機能を提供する製品です。一方 Discovery はドキュメントから適切な情報を検索する検索エンジン機能、パターンや傾向を読み取る分析エンジンとしての機能を備えた製品です。 Assistant と Discovery を組合わせたユースケースでは Assistant にあらかじめ回答を用意してルールベースで回答させ、答えることが難しい問い合わせに対しては Discovery の検索結果を利用して回答します。 watsonx.aiを取り入れた連携上記の連携では Discovery の検索結果がユーザーに表示される仕組みとなっていますが、watsonx.ai を介して回答を提供することでDiscovery が得た検索結果をさらに整理し、より理解しやすい形での返答が実現できます。 Assistant + Discovery + watsonx.aiを連携してみた Assistant、Discovery、watsonx.ai を連携してみます。事前準備利用環境今回は IBM Cloud で提供される SaaS を利用して検証します。なお、Assistant と Discovery の Plusプランは30日間無償期間が付属されていますので、是非ご活用ください。 watsonx Assistant：Plusプラン（30日間無償期間あり、以降は有償） Watson Discovery：Plusプラン（30日間無償期間あり、以降は有償） watsonx.ai：Essentialプラン（有償）検証の目的検証では構築手順の他、以下の点を確認します。「Assistant + Discovery + watsonx.ai」と「Assistant + Discovery」の連携による回答の違いを比較言語モデルを変えて問い合わせを行い、回答の違いの比較実施手順以下の流れで検証を実施します。 Assistantのプロビジョニング Discoveryのプロビジョニング、検索対象とするデータの取り込み※取り込むデータは「IBM Power S1014 データシート」のS1014のPDF watsonx.aiのプロビジョニング Assistantの初期設定 Assistantのカスタム拡張機能からDiscoveryを繋げる Assistantのカスタム拡張機能からwatsonx.aiを繋げる Assistantアクションの作成、問い合わせの検証言語モデルを変えて問い合わせの検証検証実施 1. Assistantのプロビジョニングはじめに Assistant のプロビジョニングを行います。 IBM Cloud にログインし、カタログ画面から "Assistant" を選択します。ロケーションとプランを選択し「作成」をクリックします。しばらくすると以下の画面の様に、Assistant がプロビジョニングされます。 2. Discoveryのプロビジョニング次に Discovery をプロビジョニングします。カタログ画面から "Discovery" を選択します。ロケーションとプランを選択し「作成」をクリックします。しばらくすると以下の画面の様に、Discovery がプロビジョニングされます。※ここで、資格情報内にある「API鍵」と「URL」をメモに控えます「Watson Discoveryの起動」をクリックし「New Project +」をクリックします。 Project name に任意の名前を入力、Project type では「Conversational Serch」を選択し「Next」をクリックします。作成されたプロジェクトをクリックします。「Integration Deploy」をクリックします。「API Information」タブをクリックし「Project ID」をメモに控えます。次に検索対象の PDF を Discovery に取り込みます。「Manage collections」から「New collection +」をクリックし、「Collection name」に任意の名前を入力、「Select language」を「Japanese」に設定します。 Upload files の領域に PDF をドラッグアンドドロップして「Finish」をクリックします。アップロードが完了しました。次に、Smart Document Understanding機能（以下 SDU）を利用して PDF内のヘッダーやテキストなどのフィールドを定義します。 SDU は、PDFをはじめとする非構造化データの文書構造を理解して検索や分析の精度を向上させる機能です。例えばタイトルと定義した箇所を検索キーとしたり、検索対象をテキストと定義した箇所のみとするなど可能になります。「Identify Field」タブをクリックします。取り込んだ PDF が表示されるので右側の Field labels からヘッダー箇所やタイトル箇所などをドラッグアンドドロップして指定していきます。ページの定義が終わったら「Submit page」をクリックして次の頁を定義していきます。 SDU では数ページ指定すると自動的にヘッダー箇所やテキスト箇所を認識してくれるので、何ページもあるドキュメントには便利な機能です。今回は SDU を使って PDF の文書構造を定義しました。SDU以外の Discovery の機能については、また別の機会にご紹介したいと思います。 3. watsonx.aiのプロビジョニング ※watsonx.ai のプロビジョニング方法は「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part1）」をご参照ください。 4. Assistantの初期設定 Assistant の初期設定を行います。 Assistant を起動します。起動後、以下の項目を入力します。 Assistant name：任意の名前を入力 Assistant Language：「English」を選択※日本語を選択することが可能ですが、Assistant のスターターキットは英語での利用を想定しているため今回はEinglishを選択します Assistant の公開先を「web」に設定します。※"Tell us about your self" 以降はご自身の情報を入力ください入力後「Next」をクリックします。デフォルトのチャットUI を利用するため「Next」をクリックします。プレビュー画面が表示されるので「Create」をクリックします。（以下の画面は「Create」が隠れてしまっています）「Congratulations!」と表示されたら初期設定は完了です。 5. Assistantのカスタム拡張機能からDiscoveryを繋げる「Githubのassistant-toolkit」から "watson-discovery-query-openapi.jsonファイル" をダウンロードします。 Assistant のメニューから「Integration」をクリックします。下にスクロールし「Build custom extension」をクリックします。以下の画面が表示されるので「Next」をクリックします。「Extension name」に任意の名前を入力し「Next」をクリックします。先程ダウンロードした watson-discovery-query-openapi.jsonファイルをドラッグアンドドロップでアップロードします。以下の画面が表示されるので「Finish」をクリックします。追加した Extension の「Add +」をクリックします。以下の画面が表示されるので「Next」をクリックします。以下の画面が表示されるので、選択および入力します。 Authentication type：「Basic auth」を選択 Username：「apikey」と入力 Password：メモに控えたWatson DiscoveryのAPI鍵 discovery_url：メモに控えたWatson DiscoveryのURLから"http://"を除いた値 ※以下の画面ショットは discovery_url入力箇所が切れてしまっていますが、実際は「Servers」の下に discovery_url の項目があります以下の画面が表示されるので「Finish」をクリックします。 Extension が「Open」となっていることを確認します。これで watsonx Assistant と Watson Discovery が連携できました。 6. Assistantのカスタム拡張機能からwatsonx.aiを繋げる次に、Assistant のカスタム拡張機能から watsonx.ai を利用できるように設定します。設定には IBM Cloud の APIキーと watsonx.ai のプロジェクトID が必要です。取得方法は「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part2）」をご参照ください。なお、今回は東京リージョンで watsonx.ai をプロビジョニングします。 Github の「assistant-toolkit」から "watsonx-openapi.json" をダウンロードします。 Visual Studio Code などで東京リージョンの URL に編集し保存します。 Discovery の連携と同様に、Assistant のメニューから「Integration」「Build custom extension」をクリックします。以下の画面が表示されるので、任意の Extension name を入力して「Next」をクリックします。編集した watson-discovery-query-openapi.jsonファイルをドラッグアンドドロップでアップロードして「Next」をクリックします。以下の画面が表示されるので「Finish」をクリックします。追加した Extension の「Add +」をクリックします。以下の画面が表示されるので、選択および入力します。 Authentication type：「Oauth 2.0」を選択 Grant type：「Custom apikey」を入力 apikey：取得済みのIBM CloudのAPIキー Client authentication：「Send as Body」を選択 Header prefix：Bearer（デフォルト） Servers：https://jp-tok.ml.cloud.ibm.com（自動入力）以下の画面が表示されるので「Finish」をクリックします。 Extension が「Open」となっていることを確認します。これで Assistant と watsonx.ai が連携できました。 7. Assistantアクションの作成、問い合わせの検証 Github の「assistant-toolkit」から "discovery-watsonx-actions.json" をダウンロードします。 Assistant の「Actions」から「Global Setting」をクリックします。「Upload/Download」タブをクリックし、Uploadスペースに discovery-watsonx-actions.json をドラッグアンドドロップしてアップロードします。以下の画面が表示されるので「Upload and replace」をクリックします。以下の画面の通り、3つのアクションが作成されます。メニューから「Variables」「Created by you」をクリックします。「discovery_project_id」の値をメモに控えていた Discovery のプロジェクトID を入力し「Save」をクリックします。「watsonx_project_id」の値をメモに控えて置いた watsonx.ai のプロジェクトID を入力し「Save」をクリックします。「model_id」の値で watsonx.ai で使用する言語モデルを指定します。2024年2月29日に GA された日本語で訓練された Granite-japaneseモデルを使用するため、「ibm/granite-8b-japanese」を入力し「Save」をクリックします。（その他変数はデフォルト値とします）「Actions」から「Generate Answer」を選択し、「model_input」の値を以下の例の様に日本語に変更します。例： ("<s>[INST] <<SYS>>\nあなたは親切で、礼儀正しく、誠実なアシスタントです。常に安全を保ちながら、できるだけ役立つように答えてください。答えは簡潔に日本語で回答してください。回答には、有害、非倫理的、人種差別的、性差別的、有毒、危険、または違法なコンテンツを含めてはいけません。回答が社会的に偏見がなく、本質的に前向きであることを確認してください。\n\n質問が意味をなさない場合、または事実に一貫性がない場合は、正しくないことに答えるのではなく、その理由を説明してください。質問の答えがわからない場合は、誤った情報を共有しないでください。\n<</SYS>>\n\n質問に答えることで、次のエージェントの応答を生成します。タイトルが付いたいくつかの文書が提供されます。答えが異なる文書から得られた場合は、あらゆる可能性について言及し、文書のタイトルを使用してトピックまたは領域を区切ってください。与えられた文書に基づいて回答できない場合は、回答がない旨を記載してください。\n\n").concat(passages).concat("\n\n[question]: ").concat(query_text).concat("[/INST]") 以上で設定は完了です。さっそく Assistant から問い合わせをしてみます。右下の「Preview」をクリックします。チャットから S1014 の特徴について問い合わせしてみます。約18秒後に以下の回答が返ってきました。「Inspect」をクリックすると、Discovery の検索結果が以下の通り watsonx.ai に渡されていることがわかります。 <s>[INST] <<SYS>> あなたは親切で、礼儀正しく、誠実なアシスタントです。常に安全を保ちながら、できるだけ役立つように答えてください。答えは簡潔に日本語で回答してください。回答には、有害、非倫理的、人種差別的、性差別的、有毒、危険、または違法なコンテンツを含めてはいけません。回答が社会的に偏見がなく、本質的に前向きであることを確認してください。質問が意味をなさない場合、または事実に一貫性がない場合は、正しくないことに答えるのではなく、その理由を説明してください。質問の答えがわからない場合は、誤った情報を共有しないでください。 <</SYS>> 質問に答えることで、次のエージェントの応答を生成します。タイトルが付いたいくつかの文書が提供されます。答えが異なる文書から得られた場合は、あらゆる可能性について言及し、文書のタイトルを使用してトピックまたは領域を区切ってください。与えられた文書に基づいて回答できない場合は、回答がない旨を記載してください。[title]: IBM Power S1014 柔軟かつセキュアなハイブリッドクラウド・インフラストラクチャーで俊敏性を実現[document]: 1 コア当たり 4 つの M a t r i x Math Acceleratorによる迅速なAI推論のために洞察と自動化を合理化業界標準のDIMMより2倍優れたメモリーの信頼性と可用性を提供 IBM® Power® S1014 は、1ソケット、4U Power10プロセッサーをベースにしたサーバーで、IBM AIX®、IBM iまたは Linux®上のビジネス・クリティカルなワークロード向けに設計されています。Power S1014を使用することで、ワークロードはより少数のサーバーに統合され、ソフトウェア・ライセンスの数、電力と冷却のコストを削減します。Power S1014サーバーは、プロセッサー上でのメモリー暗号化を使用してエンドツーエンドからデータを安全に保護し、ラック型またはタワーフォーム・ファクターで購入できます。プロセッサー・レベルでのメモリー暗号化と、POWER9 と比較してすべてのコアで4倍の暗号化エンジンによりコアからクラウドまでのデータを保護ますます高度に分散した環境に存在するデータには、もはや境界線を設定することは不可能です。 [question]: S1014の特徴は?[/INST] Assistant と Discovery のみの連携で検索した結果は以下の通りです。watsonx.ai を使用した方がより簡潔で分かりやすい回答を得られることが分かります。 8. 言語モデルを変えて問い合わせの検証言語モデルを "llama-2-70b" にして同様の問い合わせをしたところ、約24秒後に回答が返ってきました。箇条書きで丁寧な印象です。言語モデルを "elyza-japanese" にした際は10秒ほどで回答がありました。主語として「S1014の特徴は」とあることで、問いに対する回答が分かりやすくなっています。言語モデルを変えて試した結果、llama-2-70B は箇条書きで回答し丁寧な印象を受けましたが、回答が得られるまでに24秒かかりました。一方 Granite-japanese や elyza-japanese はシンプルな回答を生成し、Granite-japanese は18秒、elyza-japanese は10秒というより短い時間で回答を得られました。 Watson Discovery の検索結果に基づき watsonx.ai で回答を生成するので、ある程度時間がかかると予想していましたが、elyza-japanese は速い回答で主語を添えてわかりやすく回答してくれました。また、llama-2-70B は汎用的で使いやすいモデルですが、プロントで「日本語で回答して」と指示をしても問い合わせ内容によっては英語で回答することがありました。日本語の回答精度を求める場合は、Granite-japanese や elyza-japanese を使用した方が精度の高い回答を得ることができます。モデルを変えて問い合わせてみると、モデルごとに得意なタスクが異なることがわかりました。数百億のパラメータで訓練された大規模言語モデルを一概に選択するのではなく、言語やタスクの特性に合わせて最適なモデルを選定することが重要になりそうですね。さいごにいかがでしたでしょうか。Github から提供されているスターターキットを使って Assistant、Discovery、watsonx.ai を繋げてみましたが、ほどんど躓くことなく UI から簡単に設定することができました。接続自体に高度な難しさは感じませんでしたが、問い合わせに対して正確な情報を得るためには Assistant の検索設定を調整する必要があります。今回は1つの PDFファイルの検索を行いましたが、複数の PDFファイルから情報を引き出す際には Assistant で query を設定することで特定の PDFファイルからの検索が可能です。このように PDF などの非構造化データを検索対象として精度の高い回答を得るには、Discovery において文書の構造を明確に定義し、Assistant の検索設定を調整することが必要です。実際にヘルプデスクなどの Webチャットで利用する場合は、Assistant にあらかじめ用意した回答をルールベースで回答させ、それでも解決できない問い合わせについては Discovery を通じて検索を行い、watsonx.ai を用いて回答を生成するという流れが効果的です。ただし、生成AI　によって生成される回答は常に”100%正確な回答”ではないので、より高い精度の回答を追求するためにはプロンプトの調整などチューニングを施すことが必要です。その結果、より使いやすい Webチャットの実現が期待できます。お問い合わせエヌアイシー・パートナーズ株式会社E-Mail：nicp_support@NIandC.co.jp .highlighter { background: linear-gradient(transparent 50%, #ffff52 90% 90%, transparent 90%); } .anchor{ display: block; margin-top:-20px; padding-top:40px; } .btn_A{ height:30px; } .btn_A a{ display:block; width:100%; height:100%; text-decoration: none; background:#eb6100; text-align:center; border:1px solid #FFFFFF; color:#FFFFFF; font-size:16px; border-radius:50px; -webkit-border-radius:50px; -moz-border-radius:50px; box-shadow:0px 0px 0px 4px #eb6100; transition: all 0.5s ease; } .btn_A a:hover{ background:#f56500; color:#999999; margin-left:0px; margin-top:0px; box-shadow:0px 0px 0px 4px #f56500; } .bigger { font-size: larger; }

ブログ

2024年01月16日

特集一覧 (ブログ、コラム他) [2023年度]

コーポレートサイトに掲載している2023年度のブログやコラムの一覧です。 (さらに…)

コラム

ブログ

2024年01月16日

【イベント開催レポート】IBM watsonx.ai ハンズオンセミナー

こんにちは。ソリューション推進部です。 2023年12月12日に、エヌアイシー・パートナーズ株式会社として初めてのハンズオンセミナー『「IBM watsonx.ai 」を利用したRAGのハンズオンセミナー』を開催しました。今回のハンズオンセミナーは、以下の2つのことを目的として行いました。パートナー様に製品の紹介とハンズオンを合わせて体験いただくことで、製品をより深く知っていただくこと製品を活用したビジネスの新たな応用の可能性を見つけ出していただくこと私たちのチームでは、パートナー様にご紹介・ご説明する製品を「実際に触ってみること」を大切にしています。これは私たち自身の技術力の向上という目的もありますが、パートナー様に私たちのリアルな経験を交えながら製品のご説明をすることが、お客様の具体的な課題発掘や案件創出に繋がっていると考えているためです。今回のハンズオンを通して、パートナー様ご自身が製品の価値を体感しご理解いただくことで、新しいビジネス展開のイメージを創出するお役に立ちたいと考えました。それでは、今回実施したセミナーの内容について簡単にご紹介いたします。目次レポート watsonx.ai紹介講義ハンズオン実施 IBMさまによる最新情報紹介・講義さいごにお問い合わせレポート 1. watsonx.ai紹介講義ハンズオンを実施する前に、watsonx.ai と RAG についての講義を行いました。国内では生成AIビジネスが加速し、競争力やセキュリティなどの課題が増えています。これらの課題を解決する製品として、IBM watsonx をご紹介しました。 watsonx は「watsonx.ai」「watsonx.governance」「watsonx.data」という3つの製品から成り立っています。watsonx.ai は、基盤モデルをベースとした AI開発スタジオです。ここでは、IBM が信頼できるデータを用いて事前に学習した基盤モデルや Hugging Face, Inc.* と連携したオープンソースの基盤モデルが利用可能で、ビジネスの状況や要件に応じて最適な基盤モデルを選択することが可能です。また、RAG についての概念や利点、活用が期待されるシーンもご説明しました。RAG を用いた具体的なユースケースとしては、IBM Watson Speech to Text や Watson Discovery、watsonx.ai を活用したコールセンター業務の事例や、watsonx Assistant や Watson Discovery、watsonx.ai を活用した ECサイトの問い合わせの事例を取り上げました。時間の制約からこれら2つの事例しかご紹介できませんでしたが、今後、watsonx.ai を活用した多様な事例を私たち自身も理解し、パートナーさまと共に議論を深めていきたいと思います。 *Hugging Face, Inc.：機械学習アプリケーションを作成するためのツールを開発しているアメリカの企業。 2. ハンズオン実施ハンズオンでは、受講者の方々に「RAG」を活用した watsonx.ai の Foundation Model（LLM）への問い合わせを体験していただきました。 RAG とは「Retrieval-Augmented Generation」の略で、LLM への問い合わせをする際に、事前に用意したベクターストアへデータ（今回はPDF）を取り込んでおき、問い合わせプロンプトをもとにベクターストアを検索し、その結果を付与して LLM へ問い合わせを行う、というテクノロジーです。 RAG を使うことで、一般公開されていない社内情報を活用して LLM を利用することが可能となるため、自社での利用やお客様の課題を解決するための方法として有効であると考えています。ハンズオンの環境につきましては、準備に時間をかけずスムーズに始められるよう、事前に弊社にて PC や RAG を利用するための Jupyter Notebook を用意いたしました。また、watsonx.ai では複数の Foundation Model を利用できるため、複数のモデルを使って挙動の違いを確認してみたり、取り込む PDFファイルを追加することで回答がどう変わるのか、など、ご自身で自由に検証をする時間を多く設けました。皆さまそれぞれに前提スキルは異なっていたかもしれませんが、「体験の時間が足りない…」ということはなかったかと思います。今回ベクターストアへ取り込むのは PDF のみとしましたが、テキストファイルや PowerPoint なども取り込むことができるので、応用できる使い方が非常に広いということを理解いただけたのではないかと感じています。 3. IBMさまによる最新情報紹介・講義日本アイ・ビー・エムデータ・AI・オートメーション事業部四元さまに「watsonx」に関して、最新事例と製品アップデート情報の2本立てで講義をしていただきました。事例においては、IBM社内の watsonx活用事例（AskIT）は特筆すべきと言えるでしょう。 AskIT は、IBMの自然言語処理（NLP）能力を活かし、30万件を超えるサポートチケットから抽出された知見をもとに、重要なサポートトピックに迅速に対処する AIアシスタントとして開発されたそうです。このツールは4ヶ月で133,000人の IBM社員に利用され、問い合わせの75%以上が AI によるチャットで解決されるなど、非常に大きな成果を上げています。製品アップデート情報のメインは、12月に発表された「watsonx.governance」でした。 AI を組織として採用するためには倫理感のある意思決定が必須であり、watsonx.governance は AIガバナンスとして以下の3つの機能を提供する製品である、というご説明をいただきました。 AIライフサイクルを通してAIモデルの実態を把握するための「モデル・インベントリ」 AIの性能や課題の管理などを行う「評価・モニタリング」総合監視画面を提供しリスクを可視化する「モデル・リスクガバナンス」モデル・インベントリでは、他社の AI商品である「Amazon SageMaker」「Azure Machine Learning」などの AIモデルも合わせて管理・監視できることが非常に興味深いです。 watsonx は、AIワークフローを一貫してサポートすることで倫理的かつ透明性の高い AI利用を可能にしています。これらの技術革新は私たちが直面している数多くの課題に対する解決策を見出し、先進的なビジネス環境を促進していく上での重要なステップと言えるでしょう。日本アイ・ビー・エム株式会社データ・AI・オートメーション事業部四元さまさいごにセミナー後には、参加いただいたパートナーさまとご支援いただいた IBMさまとの懇親会を開催いたしました。当懇親会を通してパートナー様の生成AI に対する取り組みや課題を直に伺うことができ、大変有意義な場となりました。 2023年12月18日に弊社は10周年を迎えました。10年間で培った経験を糧にし、今後さらに新しい取り組みにチャレンジしていきたいと考えております。本年も、ブログを通してパートナーの皆さまへ様々な情報をお届けさせていただきます！今後ともどうぞよろしくお願いいたします。懇親会会場お問い合わせエヌアイシー・パートナーズ株式会社E-Mail：nicp_support@NIandC.co.jp .highlighter { background: linear-gradient(transparent 50%, #ffff52 90% 90%, transparent 90%); } .anchor{ display: block; margin-top:-20px; padding-top:40px; } .btn_A{ height:30px; } .btn_A a{ display:block; width:100%; height:100%; text-decoration: none; background:#eb6100; text-align:center; border:1px solid #FFFFFF; color:#FFFFFF; font-size:16px; border-radius:50px; -webkit-border-radius:50px; -moz-border-radius:50px; box-shadow:0px 0px 0px 4px #eb6100; transition: all 0.5s ease; } .btn_A a:hover{ background:#f56500; color:#999999; margin-left:0px; margin-top:0px; box-shadow:0px 0px 0px 4px #f56500; } .bigger { font-size: larger; }

ブログ