「KGDC Tech Conference #8」に参加してきました

• 2024/11/27
• https://kgdc.connpass.com/event/334391/

自動プロンプトエンジニアリング（Automatic Prompt Engineering）のすゝめ

• KDDIテクノロジー：坂本章さん

プロンプトチューニング

• KTECのNLPチーム
  • 2017から活動している
• プロンプトチューニングが大変
  • 何ヶ月もかけてやったり
  • LLMのバージョンアップするとそれまでのノウハウが通じなくなる
• 自動プロンプトエンジニアリング
  • プロンプトを自動で生成して評価して最適化する手法
  • 代表的な手法
    • APE/OPRO/AutoPrompt
  • 英語だし環境構築が大変だったり
• meta-prompt
  • プロンプトのガイドラインが記述されているもの
  • これを通じてプロンプト作ると最適化できる
  • ガイドラインをそのまま貼り付けて簡単なプロンプトの内容も書くとそれだけで最適化したもの作れる

Azure OpenAIを活用した資料検索・作成支援プラットフォームの開発

• KDDIアジャイル開発センター：久古 幸汰さん

生成AIの活用

• KGA
  • KDDI Gen AI
  • KDDIの生成AI推進プロジェクト
• 資料作成の効率化支援
  • 資料検索を生成AIでクイックに
  • 大企業で社内の資料を検索するような場面がターゲット?
• アーキテクチャ
  • Azure OpenAI Service
  • SharePoint上にデータ
  • スライドをページ単位で画像と抽出テキストを解析できるように
  • ページごとの要約とドキュメント全体の要約を格納して検索することで検索のスピードを出す

GenAIを活用した社内オペレーションモデルの変革

• ARISE analytics：梁 臻煥さん

ARISEの生成AI活用

• Work/Workforce/Workerの観点
  • 組織内でも事業部によって多様
  • 生成AIを前提とした業務再設計
  • データ駆動のアーキテクチャ
  • 企業文化マインドチェンジ
• 生成AI活用
  • 全社横断/部門別/個人の優先順で
  • トップダウンとボトムアップの両輪で
• 分析サポート
  • 可視化や解釈の負荷が高い
  • 目的などをインプットして可視化の提案などを補助
    • スクリプトも生成してくれたり

パネルディスカッション～KDDIグループにおける生成AIの自社での活用状況と今後の展望～

• Supership：名畑真一さん（執行役員CTO / システム統括本部長）
• mediba：下地史紘さん（CTO/VPoE）
• KDDIアジャイル開発センター：岡澤克暢さん（VPoE／開発戦略本部長）
• KDDI：浅川善則さん（ビジネス事業本部 プロダクト本部 プロダクト戦略部 副部長）
• ARISE analytics 上山 卓真さん（ユニットリード）
• KDDIテクノロジー：嶋 是一さん（CTO）

生成AI導入で難しかったことと解決策

• 認識合わせが大変
  • 信頼してもらって意見が通るように
• 導入しても業務に定着しない
  • 関心の高い人がいろんなことを共有していって
• 生成AIの技術をどう開発メンバーにインプットしていくか
  • 横串のコミュニティでナレッジためていった
• 理解度や知識の格差
  • ワークショップとかたくさん使って底上げしていく

導入にあたって気をつけていたこと

• 社内から上がってきた声を無碍にしない
• 上の立場の人が主導にならないように
• 現場から動いてほしいからカルチャー作りから
• 楽しんでやってるメンバーをどう支援できるか
  • 導入の壁をどうやったらこえられるかという姿勢で
• コミュニケーションができる場作り
  • 関心がある人がどこで話ができてつながれるか
• トップダウンとボトムアップ両方進めてる