最近は家の近くにおいしいスパイスカレーのお店を見つけて良い気分です。研究開発部の吉村です。今回は、2026年2月16日にSansan株式会社で開催された、株式会社サイバーエージェント、株式会社ビズリーチ、Sansan株式会社の三社合同共催による「渋谷 Biz × AI: ビジネスにおける AI 利活用 事例勉強会 第4回」のレポートをお届けします。
渋谷 Biz × AI: ビジネスにおける AI 利活用 事例勉強会 とは
本勉強会は、AIや機械学習技術がビジネスの現場でどのように活用されているかをテーマに、毎回多彩なゲストをお迎えして事例紹介や懇親会を行っています。
第1回は株式会社ビズリーチとSansan株式会社の2社共催でスタートしましたが、当時のゲストであった株式会社サイバーエージェントも加わり、第2回からは渋谷に本社を構える3社による共同開催となりました。
第4回となる今回は、新たな試みとして初めて「特定のテーマ」を設けることとし、その題材として「MLOps / LLMOps」を選定しました。また、ゲストにはIndeed Technologies Japan株式会社の長江さんをお迎えしています。
勉強会内容
今回の勉強会は私、Sansan株式会社の吉村の司会から始まり、5 名の登壇者からそれぞれ下記の発表がありました:
- 複数プロダクト利用を前提としたセルフホストLangfuse構築・運用設計 (Sansan株式会社・伊藤 俊太朗、小松 展久)
- 1人1アプリから標準化へ：Vertex AIを活用したMLOps推進 (株式会社ビズリーチ・内村優太さん)
- Langfuseで支えるAIエージェントの監視・評価 (株式会社AI Shift・長澤春希さん)
- LLMOpsのこれまでとこれからを学ぶ (Indeed Technologies Japan株式会社・長江五月さん)
ここからはそれぞれの発表について聴講した内容をまとめていきます。
複数プロダクト利用を前提としたセルフホストLangfuse構築・運用設計
一つ目の発表は、弊社の伊藤 俊太朗と小松 展久による「Langfuseの構築から運用」に関する内容でした。
社内のLLM評価が主観に依存しており、モデル更新が滞っていたという課題を解決すべく、Langfuseの導入を推進した経緯が語られました。特に印象的だったのは、「運用負荷の最小化」と「ガバナンス」の両立に対するこだわりです。
インフラ面では管理の簡略化を優先し、ClickHouseをk8s外のAWS Fargateでホストすることで、可用性以上に運用のシンプルさを追求したといいます。またセキュリティー面においても、SSOやJITアクセスの採用に加え、APIキーの認可不足を補完するために独自プロキシを介して生のキーを隠蔽するなど、細かい統制を敷いている点が強調されていました。
現在は、モデル更新時に継続して活用できる評価シナリオの設計に注力しており、特に検索性を高めるための「メタデータ付与」を重要視しているとのことです。社内の人間ながら、自社の実践的な知見として非常に参考になる発表でした。
1人1アプリから標準化へ：Vertex AIを活用したMLOps推進
続いて、株式会社ビズリーチの内村優太さんからは、同社のマッチング・スコアリング基盤を支えるAI運用プラットフォームの進化について発表いただきました。
内村さんが最も強調されていたのは、「改善サイクルを回し続けられる環境」こそが重要であるという点です。約10年前の「0→1フェーズ」ではスピード感のある実装を実現していましたが、その後の規模拡大（1→10フェーズ）に伴い、バッチコンテナのブラックボックス化や属人化といった「サイクルを阻害する要因」が顕在化したといいます。
現在は、さらなるスケールを目指す「10→100フェーズ」への土台構築として、Vertex AI Pipelinesを活用したMLOpsプラットフォームを展開されています。処理の標準化やモデルレジストリによる性能差分分析の容易化など、アプリ固有の実装を最小限に抑える設計思想は、すべて「改善の足を止めないこと」に直結しています。他社様の事例ながら、フェーズが変わっても一貫して改善サイクルを重視する姿勢は、我々にとっても非常に大きな学びとなりました。
Langfuseで支えるAIエージェントの監視・評価
三つ目は、株式会社AI Shiftの長澤春希さんより、AIエージェント構築プラットフォーム「AI Worker」における「Langfuse」を用いた監視・評価の実践について発表いただきました。
長澤さんが課題として挙げられていたのは、AIエージェント特有の「挙動の不安定さ」と、それを定量的に評価できていない現状です。開発初期は自律型への期待が高かったものの、実運用では確実性の高いワークフロー型が求められる場面も多く、アーキテクチャの適正を判断するための指標が必要になったといいます。
選定の決め手は、プロダクトのTypeScript環境との親和性に加え、セルフホストが可能でデータの所在をコントロールできる柔軟な設計にありました。導入後は、ペルソナ設定を用いた実験管理や、LLM-as-a-judgeによる「スコアと理由」の可視化、モデルごとの推論時間の記録などを実現されています。
「モデルを作ること」から「高性能な汎用モデルをいかに使いこなすか」へ主眼が移るなか、これからのOpsは「評価」が大事という強いメッセージが印象的でした。エージェントという複雑な構成要素を持つプロダクトにおいて、いかにして評価の解像度を上げるかという視点は、今後のAI開発において欠かせない知見であると感じました。
LLMOpsのこれまでとこれからを学ぶ
最後に、Indeed Technologies Japan株式会社の長江五月さんより、2023年から2026年に至るLLMOps（大規模言語モデル運用）の変遷と未来像について発表いただきました。
2023年から2025年頃までの初期段階では、モデルの指示追従能力を補うための「プロンプトエンジニアリング」が主流だったといいます。当時は「深呼吸を促す」といったユニークなテクニックが学術的にも真剣に議論されていましたが、現在はモデル性能の向上やコンテキスト長の拡大により、膨大な知識を直接プロンプトへ投入する手法も一般化しているとのことです。
2024年から2025年にかけては、基盤モデルの学習コストが増大する中で、システムがより自律的なエージェントへと進化した時期にあたると振り返ります。これに伴い、LLMOpsの形態も「フルスクラッチ開発」「ファインチューニング」「API活用」の3タイプへと最適化が進んだと語られました。
そして2026年を見据えたこれからのLLMOpsにおいて、長江さんが最も強調されていたのは「LLMシステムは確率的に必ず失敗する」という前提に立つことの重要性です。今後は単なるプロンプトの工夫を超え、従来のソフトウェアエンジニアリングの実践をLLM周辺に取り入れ、不確実性を管理しながらシステムの信頼性を構築する姿勢が不可欠になると締めくくられました。技術の流行を追うだけでなく、システムとしての堅牢性と向き合うことの大切さを再認識させられる、非常に示唆に富む発表でした。
さいごに
今回の勉強会では、「MLOps / LLMOps」という共通のテーマに対し、各社の実践的なアプローチが共有されました。
SansanとAI Shiftの発表からは、LLMの不確実性を管理するための「Langfuseによる可視化と評価」の重要性が示され、ビズリーチの発表では、組織フェーズの変化に対応する「改善サイクルを止めない標準化」の設計思想が語られました。また、ゲストの長江さんからは、2026年現在のAI活用において「システムの不確実性を前提とした設計」へのシフトが不可欠であるという、示唆に富む展望が示されました。
最新技術のキャッチアップに留まらず、「いかにしてビジネスの現場でAIを堅牢なシステムとして運用するか」という実運用に即した議論が交わされたことは、本コミュニティーにとっても大きな収穫であったと感じます。
「渋谷 Biz × AI」勉強会は、今後も継続して開催を予定しております。
次回は 2026年5月ごろ、株式会社ビズリーチ社のオフィスにて開催予定です。
渋谷を拠点にAI活用を推進する企業や担当者が、所属の垣根を越えて知見を交換できる場として、今後も内容をアップデートしてまいります。AI・機械学習の業務活用にご興味のある方は、ぜひ次回もご参加ください。
