こんにちは、コーポレートエンジニアリング部IT企画ユニットで社内のAI活用推進を担当している @koipaiです。
SmartHRでは、社内の誰もがSlack上で手軽に利用できるAIチャットボット「Johsys AI」を運用しています。 今回は、昨年末に紹介したバージョンからの機能拡張として、Web検索を回答に反映する機能を追加した事例についてご紹介します。
「情シスのAI」としての価値向上に向けた取り組み
Johsys AIは、社内のAI活用のハードルを下げるため、調べ物や要約などの日常業務を支援する汎用的なLLMアプリとして開発されました。
内製を選ぶ意義
そのような中で、Gemini AdvancedやNotebookLM Plusが、2025年2月からGoogle Workspaceのサブスクリプションに統合されて利用可能になりました。 その結果、全社でGoogle Workspaceを利用しているSmartHRにおいて、誰もが手軽にAIを使えるというハードルは以前よりも相当に低いものとなりました。
Google Workspaceのような社内の誰もが使えるサービスでAIが利用できる中、あえて内製を選ぶ意義を考慮し、Johsys AIは「情シスのAI」としての価値を高める方針に舵を切りました。 具体的には、単なるQ&Aに留まらない、社内の業務システムやフローとの連携を強化した、より複雑な業務にも対応できるアプリとしての改善を実施することにしました。
社内ITのヘルプデスク業務への組み込み
情シス業務への対応強化を目指すにあたり、まず焦点を当てたのは社内ITのヘルプデスク対応です。 社内ITのヘルプデスクでは日々、さまざまな依頼や質問が寄せられ、情シス担当者が個別に対応しています。
Johsys AIは、社内ITのヘルプデスク業務の中で、「調べて回答すれば分かる」領域への対応を目指して開発を進めています。
Johsys AIに必要な機能とはなにか
社内ITのヘルプデスク業務では、担当者は依頼や質問の内容から社内のドキュメントや外部情報を参照しつつ対応を進めています。 したがって、情シス担当者が利用している情報と同等の情報にアクセスできることが、Johsys AIを社内ITのヘルプデスクに組み込むための必須要件となります。
検索拡張生成 (RAG)
その第一歩として社内ドキュメントを回答時に参照する検索拡張生成 (RAG)の実装を行いました。 社内ITのヘルプデスク対応で利用するドキュメントは特定できていたため、それを活用して回答することで、一般的な情報に加え、社内独自の手続き方法なども伝えられるようになりました。
Web検索への対応
社内ITのヘルプデスクでの活用において、回答の精度を更に高めるためには、Web検索への対応は重要な要素となりました。 SaaSなどのIT製品に関する情報はアップデートが多く、LLMや社内ドキュメントだけでは最新の情報が反映されにくい状況です。より正確な回答を行うためには、Webから一次情報を取得し、回答に反映する必要がありました。
Gemini APIでは、モデルの出力を検証可能な情報源に紐付ける仕組みである「グラウンディング」を、Google検索を情報ソースとして利用することが可能です（以下、「Web検索連携」と呼びます）。 Johsys AIのバックエンドとして採用しているDifyにはWeb検索系のツールがいくつか用意されていますが、今回はGeminiでのWeb検索連携を採用しました。 Johsys AIではもともと回答の生成にGemini APIを採用しているため、その環境を利用しつつ、Google検索という強力な検索エンジンを組み合わせることは大きなメリットであると判断しました。
Web検索対応までの道のり
Geminiのみの環境で見れば、実装は簡単にできるように思えました。しかし、Difyを利用している場合特有のハードルも存在していました。 そのハードルとは、DifyがGemini APIの全てのオプションに対応しているわけではなく、Web検索連携を直接利用できないという点でした。
DifyからGemini APIのWeb検索連携を使う方法
この問題を解決するため、Web検索連携を有効化したGemini APIの環境を別途用意し、DifyからHTTPリクエストで呼び出すことで実現することにしました。
Web検索による速度低下への対応
これによってなんとかJohsys AIでのWeb検索が実現はしたものの、リリースまでにはまだ課題がありました。それは回答速度の低下という問題です。 回答生成にWeb検索を組み込むと、LLM単体の場合と比べて処理時間が延びます。 数秒単位の遅延はユーザー体験に大きく影響するため、最新の情報が必要な場合などに限定してWeb検索を実施するフローに変更しました。これはWeb検索だけでなく社内ドキュメントを使う場合も同様です。
フローは従来より複雑になりましたが、フローの組み換えが容易なDifyの特性を活かし、様々なパターンを試行錯誤することで、ユーザー体験を維持しながらWeb検索機能を追加することができました。
Johsys AIの今後について
ヘルプデスクエージェントとして、AIが対応可能な問い合わせはAIで処理し、対応が難しい場合は必要事項をヒアリングして担当者へ引き継ぐ体制を目指しています。 先日公開された「作りたいものヒアリング太郎」のブログ記事は、同様のコンセプトを試行するプロトタイプとして位置付けられています。併せてご一読いただければ幸いです。
