MERIT ひろば
一覧に戻る
シェア

シェア

2017年06月

02

「IBM Watson Summit 2017」に参加してみた ～コグニティブはどこまで浸透したのか？～

ブログ

参加メンバーにインタビュー

皆さま、こんにちは。 企画部のWebサイト運営担当です。

去る 4月27日、28日にグランドプリンスホテル新高輪で開催された「IBM Watson Summit 2017」の参加レポートをお届けします。昨年の”参加してみた”レポート同様、Summit に参加した弊社エヌアイシー・パートナーズのメンバーにインタビューしました。

企画担当：では早速。まず、はじめに、昨年の Watson Summit と比較して感じた違いを「ひとこと」で教えてください。

 

昨年の Watson Summit と比較して

Kさん：昨年はみずほ銀行のコールセンターの事例が中心だったが今年は他社のコールセンターの事例も多かった。国内の大手銀行、生保は Watson の採用もしくは導入検討が進んでおり、裾野が広がってきたのだと思う。

Jさん：蔦屋（TSUTAYA）と地銀支店が連携した事例などもありましたね。

Aさん：昨年は「これからの時代はコグニティブだ」という言葉が多かったのですが、すでに実装している企業もあり、更に AI やチャットボットなど Watson に関連するテクノロジーもユーザ側がコグニティブを意識してなくても利用していると感じました。

また、この 1 年で日本IBM が直接受けた Watson 案件は 200 件を超えているという話を聞きました。いよいよ実案件でも Watson、と言った感じがしました。

代表的な事例まとめ（ Watson の活用事例 2017年）

◆海外の Watson
米国では大手税務サービス企業の H&R BLOCK が顧客が作成した確定申告の内容を確認し、より多くの還付金を得られるようにアドバイスするサービスに Watsonを利用するなどサービスの展開が進んでいる。

◆日本の Watson
日本では銀行、生保のコールセンターで Watson が採用されている。この一年の特長としては「知識ベース」と言われる Watson の辞書にあたるナレッジを収集、蓄積し、分析する活動が活発である。これらの知識ベースを「学習済み Watson 」としてサービス展開を視野に入れている。

  • 三井住友銀行は企業の信用力変化を示すニュースを自動収集するための知識ベースを構築
  • トランスコスモスは自社のコールセンター運営知見を複数の知識ベースにまとめる
  • 三菱自動車は自動車の不具合兆候を把握し、未然防止につながる情報や顧客の声を可視化する知識ベースを構築

また、国内大手企業以外にもベンチャーや研究開発型の企業がWatsonの活用を開始している

  • QUICK は金融マーケット情報の自然言語照会に取り組む
  • ファーマクラウドは調剤薬局向けの在庫医薬シェアリングサービスに Watson のチャット機能を付加
  • アイ・ラーニング社はプログラミング研修で受講者の質問に回答する Watson や個々人の最適なラーニングパスを提示する Watson を活用提供
  • 日本電通は基幹システムとの連携で総務・人事・経理関連の社員向けチャットボットを提供

企画担当：事例がどんどん増えているということですね。ところで、イベントの形式として昨年と違う点として、今年は会場に入る一般の参加者も有料のイベントになりましたよね。展示数が増え、内容も充実した思いますが、会場の様子はいかがでしょうか。

Aさん：参加者の総数は減っているはずですが、混み具合は去年と同じか、それ以上に感じましたよ。私どもの親会社である日本情報通信（株）はダイヤモンドの更に上のマーキー（Marquee）というトップのスポンサーとして出展していましたが、ブースエリアも賑わっていました。
ご参考：▼【出展レポート】 IBM Watson Summit 2017

 

企画担当：なるほど、イベント会場盛況で内容としては先行事例だけでなく、Watson 採用事例の裾野が広がってきたのですね。本題に入る前に、Watson の話題がどれだけ盛り上がっていたかを企画部の Web 担当として、ちょっと違う視点で調べてみました。

 

ネットでみる Watson の盛り上がり

IBM Watson の注目度合いはネットの検索量でも推し量ることができます。下図は世界中の人が過去5年間の「IBM Watson」を検索したボリュームです。（Google Trendより）

トレンドラインは右肩あがりですね。（大きな谷間はクリスマス〜年末のシーズンです）

googletrend_past5years

 

ついでに地域別の検索ボリュームをみると、1 位はシンガポール、次いでUS、インドと IT、開発の先進国と重なります。日本は 9 位でした。

googletrend_erea_global

 

 

地域別の集計を都市別のメッシュを変えてみると・・・中央区が世界で 2  位です！
我が社も中央区にかまえていますのでその影響でしょうか（笑）

(ツッコミ：日本IBM本社も中央区です！)

googletrend_erea_city

 

1 位のポキプシー、3 位のオースティンも IBM の研究所があり、 IT の中心都市ですからね、2 位 の中央区は検索の世界ではリードしています。

企画担当：また、昨年当サイトにて掲載の Watson Summit2016 の記事 もイベント開催1ヶ月程度前から期間中にかけて、アクセス数が 200％Up になっていました。大手メディアサイトではない弊社のページにアクセスしてくださって感謝です。

 

今年の Watson Summit で使われた「メッセージ」「キーワード」とは？

企画担当：このようにネットの世界でも注目されている IBM Watson について、Summit で感じたことをもっと伺おうと思います。今年の Summit の「メッセージ」はどのようなものか教えてください。メッセージが難しければ、良く使われていたキーワードでも良いです。

 

ハイブリッドクラウドに見る【非機能要件】と【Lift&Shift】というキーワード

Jさん：そうですね、今年の Watson Summit を一言でいうなら、「Cognitive on IBM Cloud」というメッセージを鮮明に感じました。

企画担当：Watson と Cloud が明確に一つに繋がったのですね。では、まず「IBM Cloud」についてのメッセージはいかがでしょう。

Aさん：クラウドというメッセージにおいて「非機能要件」という言葉は頻繁に聞きました。当初は「API connect を利用してオンプレからクラウドに上げると Watson が使えるんだよ」という事かと思ってましたが、そうではなく、オンプレをそのままクラウドに上げるのではなく、それぞれを分ける。というメッセージでした。

 

shift_lift

企画担当：「非機能要件」という言葉はあまり馴染みがなかったのですが、どういった定義なのでしょうか。

Jさん：「Lift&Shift」という言葉も一緒に使われていました。ハイブリッド・クラウドを構築するにあたって、既存のアプリケーションを変えなくてよいものと書き直してクラウドに持っていくものの 2つ に分けて考えるというところから来ています。この時に変えなくてよいものをパブリック・クラウドに持っていくと、従来はオンプレのアプリケーションの下層で動いていた管理、監視、制御などの部分もクラウド上で自分で構築する必要に迫られる。この部分を「非機能要件」と呼んでいます。
一方で、書き直すクラウドにもっていくアプリケーションの移行方法を「Lift&Shift」と呼んでいるようです。

Aさん：そうそう、オンプレをそのままパブリック・クラウドに上げるのは無理があるので、IBM Bluemix Infrastructure (Softlayer) では、ベアメタルを用意しているんですよ、オンプレからシステム管理も含めてベアメタルに持っていけばいんだよ、というメッセージですね。

Kさん：「非機能要件」と「Lift&Shift」については、どのセッションでも話題として出ていました。

企画担当：なるほど、IBM Bluemix Infrastructure（SoftLayer）の強みを活かしたアプローチですね。クラウドのキーワード、メッセージは他にもありましたか？

 

クラウド時代の戦略【オープンスタンダート】とは？

Jさん：IBM Cloud はBluemix という PaaS 環境がベースになっているので、まずはそこから入り、アプリケーションの差別化に Watson / コグニティブ が IBM の強みとなっています。さらにアプリケーションが使うデータがキーとなります。データという意味では IT 業界では DB のあるべき姿を考え、SQL と NonSQL のトピックになりがちですが、「データレイク」をキチンと管理しようという話をされています。

これらのデータの扱いについては、IBM は全て「オープンスタンダード」で答えています。つまり IBM というベンダー製品で抱え込むのではなく、仕様をオープンにしていく、オープンソースを活用するという意味です。IBM はオープンスタンダードに投資し、そこから出てきたテクノロジー、会社を買収するという戦略をとっていて、全方位で隙間がないように、ニッチなエリアに対しても同じ「オープンスタンダード」を戦略にしています。エンドユーザから見ても「ベンダーロックインを回避でき、自由度が広がる」という利点につながります。

Aさん：「データレイク」というキーワードは昨年のWatson Summitでも登場してましたね。

openstandard

Sさん：私は 3 月にラスベガスで開催された IBM 最大のイベントInterconnect 2017 に参加してきましたが、テクニカルな面での IBM のメッセージは Watson Summit もほぼ同じでした。

IBM Bluemix Infrastructure (SoftLayer) 関連では Cloud Automation Manager というマルチクラウド、オンプレのいずれにも対応したデプロイ管理ツールがオープンスタンダードのひとつだと思います。マルチクラウドということは SoftLayer だけでなく、AWS や Azure なども対象となるということです。現在は、IBM Bluemix 上に無料で提供開始していて注目されています。

企画担当：Blumix 自体がオープン・クラウド・アーキテクチャーの実装プラットフォームですから戦略は理解しやすいですね。では次に、Watson に関連した製品・サービスという切り口ではどのようなメッセージ、キーワードが Summit で話題になっていましたか？

 

Watson の知識データ

Jさん：データの扱いについてですが、知識ベースの構築しかり、大事なのはデータを Watson で扱える状態にすることです。いわゆる「コーパス」と呼ばれる AI の知識データですね。ここをどう構築していくかが鍵でもあり、泥臭い領域ではあるのですが、このテキスト分析の行程で「Watson Knowledge Studio」を大々的にメッセージしていました。「Watson Knowledge Studio」は、開発者と各分野の専門家が協力して、特定の業界向で利用されている言葉の意味を理解する機械学習モデルを、開発者と知見者である専門家が協力して作成できるクラウド・ベースのアプリケーションです。ブラウザ環境ですし、無料トライアルもあるので試しに使ってみるユーザが増えると思います。
WNS_Images

Watson Knowledge Studioの画面

 

企画担当：Web サイトを見ると「特定の業界向けのカスタム・アノテーター・コンポーネントを作成できる」と表記されていますが、要するに「業界特有の用語や知識のニュアンスを Watson に教えることができる」という感じですね。やはりテキスト分析は重要ですよね。

Aさん：ユーザのセッションで女性研究員2名によるテキスト分析の話がありました。大量のデータの中に、「川崎」という文字が出てきた時に人の名前なのか地名なのかをどのように識別させるかというトピックなど興味深い話でした。ユーザは色々試行錯誤されているようです。

 

学習済み Watson の提供

Jさん：一昔前の AI  はルールの定義という作業でひとつひとつの言葉を定義する必要がありました。そして機械学習が主流になっていくのです。IBM ではこの領域は SPSS のテキストマイニングなどのナレッジが活かされています。サービスインまでに Watson にある程度覚えさせる行程とリリース後に覚えさせる行程がありますが、コグニティブの世界ではこのコーパスを作るところは泥臭い作業で、特にリリース後のユーザの参加は必須ですね。

企画担当：データ分析の領域において、近年は「データサイエンティスト」という分析担当者に注目されていましたね。

Jさん：最近、IBM は「データサイエンティストのようなスーパーマンはそんなに多くはいない」と言い始めています。確かに私も個人的に存在を一人も知りません(笑）。DSX（Data Science Experience）というプラットフォームを IBM は用意しています。一人のスーパーマンではなく、データの準備、整備、プログラム開発、分析など行程をわけてチームワークでデータサイエンスを始めるためのプラットフォーム。こういうのが出てくるのは Knowledge Studio と同様に市場がコグニティブの導入検討ではなく、実際の導入の際に生産性に影響しているプロセスの改善ニーズがあるのだと思います。Watson も「何に使えるのか」から「どうやって効率的に使うか」のフェーズに入ってきたのですね。

DSX

Data Science Experienceの画面

 

企画担当：全体のメッセージは先行事例から次のフェーズに来ているということですね。先行投資できる企業は良いですが、研究や開発に大きな投資ができない企業はどうすれば良いでしょうか。

Jさん：IBM はインダストリー別に「”学習済み” Watson」をリリースしていくとこのイベントでも発信しています。例えば「Watson automobile」は自動車業界向けというように業界別にパッケージし、金融、製薬など現在 80 種類ほどの学習済 Watson をリリースしていくとのこと。

企画担当：企業が持つ「データレイク」やナレッジを知識ベースとして提供し、学習済みの Watson が用意されていく、オープンスタンダードな思想をもとに Watson を利用したサービスが増えていく・・・こんな近未来が見えてきますね。

Jさん：気象データや医療文献情報などもそのうちの一つですね。IBM 自体も The Weather Company を買収して、気象データを提供する側になっています。

 

今後のビジネス展開 – API 化

企画担当：こういった環境において、ビジネス面で考えるとシステムインテグレーターやソリューションプロバイダーはどのような戦術が必要になるのでしょうか。

Aさん：私の理解ですが、Watson は API のことを示していると思います。そして知識ベースは個別のインダストリーで用意する。この知識ベースを構築する行程はシステムインテグレータなどのベンダーがユーザをリードし、一緒に構築していく領域だと思います。

Kさん：テキスト分析、データマイニングの経験が豊富なベンダーは優位ですね。また、Web アプリ、API 開発が得意なベンダーにもチャンスだと思います。IBM は「IBM マーケットプレイス」をラウンチしていますが、日本国内はまだ立ち上がったばかりです。
このマーケットプレイスで開発ベンダーは開発した API、ソリューションをカタログ化して掲載できるのです。
ibm_marketplace

 

企画担当：なるほど、開発力はあるが営業力が弱いといったベンチャー型の会社や部門は参入のチャンスですね。

Jさん：そうですね、「今後は API 化してほしい」というのが IBM のメッセージです。ユーザ、パートナー企業を含めた「API エコノミーの推進」とも言えます。

企画担当：ありがとうございます。初歩的な質問をしますが、一般企業が API 化することの利点ってどんなことがありますか？

Jさん：例えば、フライト情報を検索、表示する旅行会社のアプリがあって、コンシューマーがフライト情報にアクセスする度に航空会社の Web を参照するアプリの仕様だと提供側の航空会社の Web サーバの負荷は高くなります。いわゆる Web スクレイピング、Web クローリングという技術ですね。これを API アクセスすることで Web サーバーの負荷が減ります。情報開示側が API 化しておくことで、開発ベンダーは様々な API を組合せてより良いサービスやアプリケーションを作っていけるのです。

Aさん：API 化しておけば、「Lift＆Shift」の際に、クラウド or オンプレ という移行もスムーズになりそうです。

Jさん：API 化はマイクロサービス化と言い換えてもいいだろうと思います。

企画担当：開発会社、エンジニアから見て、API 実装自体は新しいことではないと思いますが、マーケットプレイスにパッケージしてカタログ化していくことも最初から意識するという点でベンダーにとっては新しいビジネスモデルになりそうですね。

IBM マーケットプレイスなどのエコシステムについてはディストリビューターの弊社としても要ウォッチですね。　今後もエヌアイシー・パートナーズの取引先の皆様には専用Web サイト「MERITひろば」でより詳しい情報を掲載していきたいと思います。

本日はありがとうございました。

 

【関連リンク】

WS2016

IC2017

tokusyu0602

このページを見ている人におすすめのページ

  1. 【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part1）
  2. 【イベント開催レポート】IBM watsonx.ai ハンズオンセミナー
  3. 【セミナー資料 (動画あり)】Technologyセミナー「モダンなAPI（GraphQL）で様々なデータソースへ素早くシンプルにアクセス」(2023年12月6日開催)
シェア

シェア

その他の記事

2024年04月08日

特集一覧 (ブログ、コラム 他) [2024年度]

コーポレートサイトに掲載している2024年度のブログやコラムの一覧です。 ハードウェアやソフトウェア製品に関するコラムやソリューション情報、それらの製品を使った弊社エンジニアのブログやホワイトペーパーなど皆様のビジネスにお役立てください。 コラム・ブログ一覧 カテゴリ タイトル 公開日 ブログ 【てくさぽBLOG】watsonx Assistant + Watson Discovery + watsonx.aiを連携してみた 24/04/08 アーカイブ 2023年度 2022年度 2021年度 2020年度 2019年度  

コラム

ブログ

2024年04月08日

【てくさぽBLOG】watsonx Assistant + Watson Discovery + watsonx.aiを連携してみた

こんにちは。てくさぽBLOGメンバーの高村です。 ビジネスへの生成AI の取り込みに注目が集まっている今日、watsonx.ai をどう活用すればいいのか、多くのお客様からお問い合わせ頂いています。そこで前回の「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part2）」では、watsonx.ai のユースケースとして Retrieval-Augmented Generation（以下 RAG）をご紹介しました。 今回は、RAG の仕組みを利用し AIチャットボットを提供する「watsonx Assistant（以下 Assistant）」と検索エンジン機能を提供する「Watson Discovery（以下 Discovery）」、「watsonx.ai」を組み合わせた連携ソリューションをご紹介します。 目次 AssistantとDiscoveryの連携 watsonx.aiを取り入れた連携 Assistant + Discovery + watsonx.aiを連携してみた さいごに お問い合わせ AssistantとDiscoveryの連携 本来なら各製品を一つのブログで詳しくご説明したいところですが、今回は連携した結果についてのご紹介となりますので、Assistant と Discovery については今後のブログであらためてご紹介したいと思います。 Assistant は watsonx の大規模言語モデルが搭載され、自然言語の問い合わせを理解し、適切な回答を返すことができるチャットボット機能を提供する製品です。一方 Discovery はドキュメントから適切な情報を検索する検索エンジン機能、パターンや傾向を読み取る分析エンジンとしての機能を備えた製品です。 Assistant と Discovery を組合わせたユースケースでは Assistant にあらかじめ回答を用意してルールベースで回答させ、答えることが難しい問い合わせに対しては Discovery の検索結果を利用して回答します。 watsonx.aiを取り入れた連携 上記の連携では Discovery の検索結果がユーザーに表示される仕組みとなっていますが、watsonx.ai を介して回答を提供することでDiscovery が得た検索結果をさらに整理し、より理解しやすい形での返答が実現できます。 Assistant + Discovery + watsonx.aiを連携してみた Assistant、Discovery、watsonx.ai を連携してみます。 事前準備 利用環境 今回は IBM Cloud で提供される SaaS を利用して検証します。なお、Assistant と Discovery の Plusプランは30日間無償期間が付属されていますので、是非ご活用ください。 watsonx Assistant：Plusプラン（30日間無償期間あり、以降は有償） Watson Discovery：Plusプラン（30日間無償期間あり、以降は有償） watsonx.ai：Essentialプラン（有償） 検証の目的 検証では構築手順の他、以下の点を確認します。 「Assistant + Discovery + watsonx.ai」と「Assistant + Discovery」の連携による回答の違いを比較 言語モデルを変えて問い合わせを行い、回答の違いの比較 実施手順 以下の流れで検証を実施します。 Assistantのプロビジョニング Discoveryのプロビジョニング、検索対象とするデータの取り込み※取り込むデータは「IBM Power S1014 データシート」のS1014のPDF watsonx.aiのプロビジョニング Assistantの初期設定 Assistantのカスタム拡張機能からDiscoveryを繋げる Assistantのカスタム拡張機能からwatsonx.aiを繋げる Assistantアクションの作成、問い合わせの検証 言語モデルを変えて問い合わせの検証 検証実施 1. Assistantのプロビジョニング はじめに Assistant のプロビジョニングを行います。 IBM Cloud にログインし、カタログ画面から "Assistant" を選択します。 ロケーションとプランを選択し「作成」をクリックします。 しばらくすると以下の画面の様に、Assistant がプロビジョニングされます。 2. Discoveryのプロビジョニング 次に Discovery をプロビジョニングします。 カタログ画面から "Discovery" を選択します。 ロケーションとプランを選択し「作成」をクリックします。 しばらくすると以下の画面の様に、Discovery がプロビジョニングされます。※ここで、資格情報内にある「API鍵」と「URL」をメモに控えます 「Watson Discoveryの起動」をクリックし「New Project +」をクリックします。 Project name に任意の名前を入力、Project type では「Conversational Serch」を選択し「Next」をクリックします。 作成されたプロジェクトをクリックします。 「Integration Deploy」をクリックします。 「API Information」タブをクリックし「Project ID」をメモに控えます。 次に検索対象の PDF を Discovery に取り込みます。 「Manage collections」から「New collection +」をクリックし、「Collection name」に任意の名前を入力、「Select language」を「Japanese」に設定します。 Upload files の領域に PDF をドラッグアンドドロップして「Finish」をクリックします。 アップロードが完了しました。次に、Smart Document Understanding機能（以下 SDU）を利用して PDF内のヘッダーやテキストなどのフィールドを定義します。 SDU は、PDFをはじめとする非構造化データの文書構造を理解して検索や分析の精度を向上させる機能です。例えばタイトルと定義した箇所を検索キーとしたり、検索対象をテキストと定義した箇所のみとするなど可能になります。 「Identify Field」タブをクリックします。 取り込んだ PDF が表示されるので右側の Field labels からヘッダー箇所やタイトル箇所などをドラッグアンドドロップして指定していきます。 ページの定義が終わったら「Submit page」をクリックして次の頁を定義していきます。 SDU では数ページ指定すると自動的にヘッダー箇所やテキスト箇所を認識してくれるので、何ページもあるドキュメントには便利な機能です。 今回は SDU を使って PDF の文書構造を定義しました。SDU以外の Discovery の機能については、また別の機会にご紹介したいと思います。 3. watsonx.aiのプロビジョニング ※watsonx.ai のプロビジョニング方法は「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part1）」をご参照ください。 4. Assistantの初期設定 Assistant の初期設定を行います。 Assistant を起動します。 起動後、以下の項目を入力します。 Assistant name：任意の名前を入力 Assistant Language：「English」を選択※日本語を選択することが可能ですが、Assistant のスターターキットは英語での利用を想定しているため今回はEinglishを選択します Assistant の公開先を「web」に設定します。※"Tell us about your self" 以降はご自身の情報を入力ください 入力後「Next」をクリックします。 デフォルトのチャットUI を利用するため「Next」をクリックします。 プレビュー画面が表示されるので「Create」をクリックします。（以下の画面は「Create」が隠れてしまっています） 「Congratulations!」と表示されたら初期設定は完了です。 5. Assistantのカスタム拡張機能からDiscoveryを繋げる 「Githubのassistant-toolkit」から "watson-discovery-query-openapi.jsonファイル" をダウンロードします。 Assistant のメニューから「Integration」をクリックします。 下にスクロールし「Build custom extension」をクリックします。 以下の画面が表示されるので「Next」をクリックします。 「Extension name」に任意の名前を入力し「Next」をクリックします。 先程ダウンロードした watson-discovery-query-openapi.jsonファイルをドラッグアンドドロップでアップロードします。 以下の画面が表示されるので「Finish」をクリックします。 追加した Extension の「Add +」をクリックします。 以下の画面が表示されるので「Next」をクリックします。 以下の画面が表示されるので、選択および入力します。 Authentication type：「Basic auth」を選択 Username：「apikey」と入力 Password：メモに控えたWatson DiscoveryのAPI鍵 discovery_url：メモに控えたWatson DiscoveryのURLから"http://"を除いた値 ※以下の画面ショットは discovery_url入力箇所が切れてしまっていますが、実際は「Servers」の下に discovery_url の項目があります 以下の画面が表示されるので「Finish」をクリックします。 Extension が「Open」となっていることを確認します。 これで watsonx Assistant と Watson Discovery が連携できました。 6. Assistantのカスタム拡張機能からwatsonx.aiを繋げる 次に、Assistant のカスタム拡張機能から watsonx.ai を利用できるように設定します。 設定には IBM Cloud の APIキーと watsonx.ai のプロジェクトID が必要です。取得方法は「【てくさぽBLOG】IBM watsonx.aiを使ってみた（Part2）」をご参照ください。なお、今回は東京リージョンで watsonx.ai をプロビジョニングします。 Github の「assistant-toolkit」から "watsonx-openapi.json" をダウンロードします。 Visual Studio Code などで東京リージョンの URL に編集し保存します。 Discovery の連携と同様に、Assistant のメニューから「Integration」「Build custom extension」をクリックします。 以下の画面が表示されるので、任意の Extension name を入力して「Next」をクリックします。 編集した watson-discovery-query-openapi.jsonファイルをドラッグアンドドロップでアップロードして「Next」をクリックします。 以下の画面が表示されるので「Finish」をクリックします。 追加した Extension の「Add +」をクリックします。 以下の画面が表示されるので、選択および入力します。 Authentication type：「Oauth 2.0」を選択 Grant type：「Custom apikey」を入力 apikey：取得済みのIBM CloudのAPIキー Client authentication：「Send as Body」を選択 Header prefix：Bearer（デフォルト） Servers：https://jp-tok.ml.cloud.ibm.com（自動入力） 以下の画面が表示されるので「Finish」をクリックします。 Extension が「Open」となっていることを確認します。 これで Assistant と watsonx.ai が連携できました。 7. Assistantアクションの作成、問い合わせの検証 Github の「assistant-toolkit」から "discovery-watsonx-actions.json" をダウンロードします。 Assistant の「Actions」から「Global Setting」をクリックします。 「Upload/Download」タブをクリックし、Uploadスペースに discovery-watsonx-actions.json をドラッグアンドドロップしてアップロードします。 以下の画面が表示されるので「Upload and replace」をクリックします。 以下の画面の通り、3つのアクションが作成されます。 メニューから「Variables」「Created by you」をクリックします。 「discovery_project_id」の値をメモに控えていた Discovery のプロジェクトID を入力し「Save」をクリックします。 「watsonx_project_id」の値をメモに控えて置いた watsonx.ai のプロジェクトID を入力し「Save」をクリックします。 「model_id」の値で watsonx.ai で使用する言語モデルを指定します。2024年2月29日に GA された日本語で訓練された Granite-japaneseモデルを使用するため、「ibm/granite-8b-japanese」を入力し「Save」をクリックします。（その他変数はデフォルト値とします） 「Actions」から「Generate Answer」を選択し、「model_input」の値を以下の例の様に日本語に変更します。 例： ("<s>[INST] <<SYS>>\nあなたは親切で、礼儀正しく、誠実なアシスタントです。常に安全を保ちながら、できるだけ役立つように答えてください。答えは簡潔に日本語で回答してください。回答には、有害、非倫理的、人種差別的、性差別的、有毒、危険、または違法なコンテンツを含めてはいけません。回答が社会的に偏見がなく、本質的に前向きであることを確認してください。\n\n質問が意味をなさない場合、または事実に一貫性がない場合は、正しくないことに答えるのではなく、その理由を説明してください。質問の答えがわからない場合は、誤った情報を共有しないでください。\n<</SYS>>\n\n質問に答えることで、次のエージェントの応答を生成します。タイトルが付いたいくつかの文書が提供されます。答えが異なる文書から得られた場合は、あらゆる可能性について言及し、文書のタイトルを使用してトピックまたは領域を区切ってください。与えられた文書に基づいて回答できない場合は、回答がない旨を記載してください。\n\n").concat(passages).concat("\n\n[question]: ").concat(query_text).concat("[/INST]") 以上で設定は完了です。 さっそく Assistant から問い合わせをしてみます。 右下の「Preview」をクリックします。 チャットから S1014 の特徴について問い合わせしてみます。約18秒後に以下の回答が返ってきました。 「Inspect」をクリックすると、Discovery の検索結果が以下の通り watsonx.ai に渡されていることがわかります。 <s>[INST] <<SYS>> あなたは親切で、礼儀正しく、誠実なアシスタントです。常に安全を保ちながら、できるだけ役立つように答えてください。答えは簡潔に日本語で回答してください。回答には、有害、非倫理的、人種差別的、性差別的、有毒、危険、または違法なコンテンツを含めてはいけません。回答が社会的に偏見がなく、本質的に前向きであることを確認してください。 質問が意味をなさない場合、または事実に一貫性がない場合は、正しくないことに答えるのではなく、その理由を説明してください。質問の答えがわからない場合は、誤った情報を共有しないでください。 <</SYS>> 質問に答えることで、次のエージェントの応答を生成します。タイトルが付いたいくつかの文書が提供されます。答えが異なる文書から得られた場合は、あらゆる可能性について言及し、文書のタイトルを使用してトピックまたは領域を区切ってください。与えられた文書に基づいて回答できない場合は、回答がない旨を記載してください。[title]: IBM Power S1014 柔軟かつセキュアなハイブリッドクラウド・インフ ラストラクチャーで俊敏性を実現[document]: 1 コ ア 当 た り 4 つ の M a t r i x Math Acceleratorによる迅速 なAI推論のために洞察と自動 化を合理化 業界標準のDIMMより2倍優 れたメモリーの信頼性と可用 性を提供 IBM® Power® S1014 は、1ソケット、4U Power10プロセッサーをベースにしたサー バーで、IBM AIX®、IBM iまたは Linux®上のビジネス・クリティカルなワークロード 向けに設計されています。Power S1014を使用することで、ワークロードはより 少数のサーバーに統合され、ソフトウェア・ライセンスの数、電力と冷却のコスト を削減します。Power S1014サーバーは、プロセッサー上でのメモリー暗号化を 使用してエンドツーエンドからデータを安全に保護し、ラック型またはタワーフォー ム・ファクターで購入できます。 プロセッサー・レベルでのメモリー暗号化と、POWER9 と比較してすべてのコア で4倍の暗号化エンジンによりコアからクラウドまでのデータを保護 ますます高度に分散した環境に存在するデータには、もはや境界線を設定すること は不可能です。 [question]: S1014の特徴は?[/INST] Assistant と Discovery のみの連携で検索した結果は以下の通りです。watsonx.ai を使用した方がより簡潔で分かりやすい回答を得られることが分かります。 8. 言語モデルを変えて問い合わせの検証 言語モデルを "llama-2-70b" にして同様の問い合わせをしたところ、約24秒後に回答が返ってきました。箇条書きで丁寧な印象です。 言語モデルを "elyza-japanese" にした際は10秒ほどで回答がありました。主語として「S1014の特徴は」とあることで、問いに対する回答が分かりやすくなっています。 言語モデルを変えて試した結果、llama-2-70B は箇条書きで回答し丁寧な印象を受けましたが、回答が得られるまでに24秒かかりました。一方 Granite-japanese や elyza-japanese はシンプルな回答を生成し、Granite-japanese は18秒、elyza-japanese は10秒というより短い時間で回答を得られました。 Watson Discovery の検索結果に基づき watsonx.ai で回答を生成するので、ある程度時間がかかると予想していましたが、elyza-japanese は速い回答で主語を添えてわかりやすく回答してくれました。 また、llama-2-70B は汎用的で使いやすいモデルですが、プロントで「日本語で回答して」と指示をしても問い合わせ内容によっては英語で回答することがありました。日本語の回答精度を求める場合は、Granite-japanese や elyza-japanese を使用した方が精度の高い回答を得ることができます。 モデルを変えて問い合わせてみると、モデルごとに得意なタスクが異なることがわかりました。数百億のパラメータで訓練された大規模言語モデルを一概に選択するのではなく、言語やタスクの特性に合わせて最適なモデルを選定することが重要になりそうですね。 さいごに いかがでしたでしょうか。Github から提供されているスターターキットを使って Assistant、Discovery、watsonx.ai を繋げてみましたが、ほどんど躓くことなく UI から簡単に設定することができました。 接続自体に高度な難しさは感じませんでしたが、問い合わせに対して正確な情報を得るためには Assistant の検索設定を調整する必要があります。今回は1つの PDFファイルの検索を行いましたが、複数の PDFファイルから情報を引き出す際には Assistant で query を設定することで特定の PDFファイルからの検索が可能です。 このように PDF などの非構造化データを検索対象として精度の高い回答を得るには、Discovery において文書の構造を明確に定義し、Assistant の検索設定を調整することが必要です。 実際にヘルプデスクなどの Webチャットで利用する場合は、Assistant にあらかじめ用意した回答をルールベースで回答させ、それでも解決できない問い合わせについては Discovery を通じて検索を行い、watsonx.ai を用いて回答を生成するという流れが効果的です。 ただし、生成AI　によって生成される回答は常に”100%正確な回答”ではないので、より高い精度の回答を追求するためにはプロンプトの調整などチューニングを施すことが必要です。その結果、より使いやすい Webチャットの実現が期待できます。 お問い合わせ エヌアイシー・パートナーズ株式会社E-Mail：nicp_support@NIandC.co.jp   .highlighter { background: linear-gradient(transparent 50%, #ffff52 90% 90%, transparent 90%); } .anchor{ display: block; margin-top:-20px; padding-top:40px; } .btn_A{ height:30px; } .btn_A a{ display:block; width:100%; height:100%; text-decoration: none; background:#eb6100; text-align:center; border:1px solid #FFFFFF; color:#FFFFFF; font-size:16px; border-radius:50px; -webkit-border-radius:50px; -moz-border-radius:50px; box-shadow:0px 0px 0px 4px #eb6100; transition: all 0.5s ease; } .btn_A a:hover{ background:#f56500; color:#999999; margin-left:0px; margin-top:0px; box-shadow:0px 0px 0px 4px #f56500; } .bigger { font-size: larger; }

ブログ

2024年01月16日

特集一覧 (ブログ、コラム 他) [2023年度]

コーポレートサイトに掲載している2023年度のブログやコラムの一覧です。 (さらに…)

コラム

ブログ

2024年01月16日

【イベント開催レポート】IBM watsonx.ai ハンズオンセミナー

こんにちは。ソリューション推進部です。 2023年12月12日に、エヌアイシー・パートナーズ株式会社として初めてのハンズオンセミナー『「IBM watsonx.ai 」を利用したRAGのハンズオンセミナー』を開催しました。 今回のハンズオンセミナーは、以下の2つのことを目的として行いました。 パートナー様に製品の紹介とハンズオンを合わせて体験いただくことで、製品をより深く知っていただくこと 製品を活用したビジネスの新たな応用の可能性を見つけ出していただくこと 私たちのチームでは、パートナー様にご紹介・ご説明する製品を「実際に触ってみること」を大切にしています。これは私たち自身の技術力の向上という目的もありますが、パートナー様に私たちのリアルな経験を交えながら製品のご説明をすることが、お客様の具体的な課題発掘や案件創出に繋がっていると考えているためです。 今回のハンズオンを通して、パートナー様ご自身が製品の価値を体感しご理解いただくことで、新しいビジネス展開のイメージを創出するお役に立ちたいと考えました。 それでは、今回実施したセミナーの内容について簡単にご紹介いたします。 目次 レポート watsonx.ai紹介講義 ハンズオン実施 IBMさまによる最新情報紹介・講義 さいごに お問い合わせ レポート 1. watsonx.ai紹介講義 ハンズオンを実施する前に、watsonx.ai と RAG についての講義を行いました。 国内では生成AIビジネスが加速し、競争力やセキュリティなどの課題が増えています。これらの課題を解決する製品として、IBM watsonx をご紹介しました。 watsonx は「watsonx.ai」「watsonx.governance」「watsonx.data」という3つの製品から成り立っています。watsonx.ai は、基盤モデルをベースとした AI開発スタジオです。 ここでは、IBM が信頼できるデータを用いて事前に学習した基盤モデルや Hugging Face, Inc.* と連携したオープンソースの基盤モデルが利用可能で、ビジネスの状況や要件に応じて最適な基盤モデルを選択することが可能です。 また、RAG についての概念や利点、活用が期待されるシーンもご説明しました。RAG を用いた具体的なユースケースとしては、IBM Watson Speech to Text や Watson Discovery、watsonx.ai を活用したコールセンター業務の事例や、watsonx Assistant や Watson Discovery、watsonx.ai を活用した ECサイトの問い合わせの事例を取り上げました。 時間の制約からこれら2つの事例しかご紹介できませんでしたが、今後、watsonx.ai を活用した多様な事例を私たち自身も理解し、パートナーさまと共に議論を深めていきたいと思います。 *Hugging Face, Inc.：機械学習 アプリケーションを作成するためのツールを開発しているアメリカの企業。 2. ハンズオン実施 ハンズオンでは、受講者の方々に「RAG」を活用した watsonx.ai の Foundation Model（LLM）への問い合わせを体験していただきました。 RAG とは「Retrieval-Augmented Generation」の略で、LLM への問い合わせをする際に、事前に用意したベクターストアへデータ（今回はPDF）を取り込んでおき、問い合わせプロンプトをもとにベクターストアを検索し、その結果を付与して LLM へ問い合わせを行う、というテクノロジーです。 RAG を使うことで、一般公開されていない社内情報を活用して LLM を利用することが可能となるため、自社での利用やお客様の課題を解決するための方法として有効であると考えています。 ハンズオンの環境につきましては、準備に時間をかけずスムーズに始められるよう、事前に弊社にて PC や RAG を利用するための Jupyter Notebook を用意いたしました。 また、watsonx.ai では複数の Foundation Model を利用できるため、複数のモデルを使って挙動の違いを確認してみたり、取り込む PDFファイルを追加することで回答がどう変わるのか、など、ご自身で自由に検証をする時間を多く設けました。皆さまそれぞれに前提スキルは異なっていたかもしれませんが、「体験の時間が足りない…」ということはなかったかと思います。 今回ベクターストアへ取り込むのは PDF のみとしましたが、テキストファイルや PowerPoint なども取り込むことができるので、応用できる使い方が非常に広いということを理解いただけたのではないかと感じています。 3. IBMさまによる最新情報紹介・講義 日本アイ・ビー・エム データ・AI・オートメーション事業部 四元さまに「watsonx」に関して、最新事例と製品アップデート情報の2本立てで講義をしていただきました。 事例においては、IBM社内の watsonx活用事例（AskIT）は特筆すべきと言えるでしょう。 AskIT は、IBMの自然言語処理（NLP）能力を活かし、30万件を超えるサポートチケットから抽出された知見をもとに、重要なサポートトピックに迅速に対処する AIアシスタントとして開発されたそうです。このツールは4ヶ月で133,000人の IBM社員に利用され、問い合わせの75%以上が AI によるチャットで解決されるなど、非常に大きな成果を上げています。 製品アップデート情報のメインは、12月に発表された「watsonx.governance」でした。 AI を組織として採用するためには倫理感のある意思決定が必須であり、watsonx.governance は AIガバナンスとして以下の3つの機能を提供する製品である、というご説明をいただきました。 AIライフサイクルを通してAIモデルの実態を把握するための「モデル・インベントリ」 AIの性能や課題の管理などを行う「評価・モニタリング」 総合監視画面を提供しリスクを可視化する「モデル・リスクガバナンス」 モデル・インベントリでは、他社の AI商品である「Amazon SageMaker」「Azure Machine Learning」などの AIモデルも合わせて管理・監視できることが非常に興味深いです。 watsonx は、AIワークフローを一貫してサポートすることで倫理的かつ透明性の高い AI利用を可能にしています。これらの技術革新は私たちが直面している数多くの課題に対する解決策を見出し、先進的なビジネス環境を促進していく上での重要なステップと言えるでしょう。 日本アイ・ビー・エム株式会社 データ・AI・オートメーション事業部 四元 さま さいごに セミナー後には、参加いただいたパートナーさまとご支援いただいた IBMさまとの懇親会を開催いたしました。 当懇親会を通してパートナー様の生成AI に対する取り組みや課題を直に伺うことができ、大変有意義な場となりました。 2023年12月18日に弊社は10周年を迎えました。10年間で培った経験を糧にし、今後さらに新しい取り組みにチャレンジしていきたいと考えております。 本年も、ブログを通してパートナーの皆さまへ様々な情報をお届けさせていただきます！今後ともどうぞよろしくお願いいたします。 懇親会会場 お問い合わせ エヌアイシー・パートナーズ株式会社E-Mail：nicp_support@NIandC.co.jp   .highlighter { background: linear-gradient(transparent 50%, #ffff52 90% 90%, transparent 90%); } .anchor{ display: block; margin-top:-20px; padding-top:40px; } .btn_A{ height:30px; } .btn_A a{ display:block; width:100%; height:100%; text-decoration: none; background:#eb6100; text-align:center; border:1px solid #FFFFFF; color:#FFFFFF; font-size:16px; border-radius:50px; -webkit-border-radius:50px; -moz-border-radius:50px; box-shadow:0px 0px 0px 4px #eb6100; transition: all 0.5s ease; } .btn_A a:hover{ background:#f56500; color:#999999; margin-left:0px; margin-top:0px; box-shadow:0px 0px 0px 4px #f56500; } .bigger { font-size: larger; }

ブログ

Copyright © NIandC PARTNERS Inc

back to top