人工知能(AI)に話しかけると、ちぐはぐな回答が返ってくることがある。マツコ・デラックスさんを模した「マツコロイド」の開発に関わった東中竜一郎氏は、マツコさんとロボットが初めて雑談をしたとき、会話が成立せずショックを受けたという。なぜ、AIとの雑談はうまくいかないのか――。

※本稿は、東中竜一郎『AIの雑談力』(角川新書)の一部を再編集したものです。

写真=時事通信フォト
優秀なデジタルコンテンツの制作者を表彰する「デジタル・コンテンツ・オブ・ジ・イヤー’15/第21回AMDアワード」の先端科学技術賞を受賞した等身大アンドロイド「マツコロイド」(左)。右は高市早苗総務相=2016年03月14日、東京都港区 - 写真=時事通信フォト

■何度もダメ出しの末、ようやく対話が実現

マツコロイドとは、マツコ・デラックスさんを模したアンドロイド(人型ロボット)です。リアルな人型のアンドロイド研究で有名な大阪大学の石黒浩先生が監修したものです。マツコロイドは、「マツコとマツコ」という日本テレビの番組で、マツコ・デラックスさんと掛け合いをしながら番組を進行していました。

番組を見ていた人の中には、マツコロイドが完全自律で動いていると思っていた人もいるかもしれませんが、現状の技術は番組の進行ができるほどにはなっていません。マツコロイドはもともと遠隔操作のロボットです。後ろに人がいてモーションを操作していました。会話はモノマネ芸人のホリさんが担当です。

そんな中、縁があって、マツコロイドの対話部分を自動化できないかとの話を石黒先生からいただきました。面白そうなのでぜひやってみようということに。私が当時所属していたNTTの雑談AIの構成を用い、話し方やキャラクタデータベースをマツコ・デラックスさんのものに設定。テレビ局の方に、「テレビクオリティ」に満たないという理由で何度もダメ出しをされながら、チューニングを繰り返し、半年以上かけてやっとOKが出ました。「マツコとマツコ」のほぼ最終回のころです。

■「何を食べたの?」出だしは順調だったが…

スタジオに入って、マツコロイド本体をセットアップして、雑談AIとつなぎました。具体的には、マイクの音声がPCに入るようにし、PCから出力される合成音声がスタジオ内の大きなスピーカーから出るように設定しました。

しばらくして、番組収録が始まりました。マツコさんが登場。雑談AIの搭載されたマツコロイドと話すコーナーになりました。会場にはお客さんが何十人も入っていて、ぶっつけ本番ということもあり、かなり緊張したことを覚えています。その時のマツコさんとマツコロイドの対話は以下の通りです。

【マツコ】こんばんは
【マツコロイド】どうもですぅ
【マツコ】そればっかりね

【マツコロイド】早速だけど、今晩は何を食べたのかしら?
【マツコ】お弁当
【マツコロイド】お弁当は旦那が作るのです
【マツコ】うらやましいわ

【マツコロイド】夫婦は似てくるって本当なの?
【マツコ】本当だと思う
【マツコロイド】同じ趣味を持つと老後も夫婦円満でいられるだろうね

■「しつこい」と言われても話題を変えられず…

【マツコ】いい加減夫婦の話題から離れない?
【マツコロイド】記念日は忘れずお祝いしますぅ
【マツコ】あなたしつこいわよね

【マツコロイド】夫婦仲はいいのかしら?
【マツコ】独身です

【マツコロイド】11月のいい夫婦の日に家族で何かお祝い事をするのかしら?
【マツコ】だから独身です
【マツコロイド】独身は税金が高いです

マツコロイドが夫婦の話題を執拗に行い、最後に「独身は税金が高い」と言ってオチがつき、バラエティとしては面白いやり取りになっていると思います。しかし、このやり取りはかなり変なやり取りです。少なくとも人間同士の対話ではありえません。

マツコロイドは、マツコさんが話題を変えようとしているにもかかわらず話を続けてしまいました。当時のシステムは、対話の話題を理解し、それについて何かしら対話を続ける、という仕組みになっていたためです。このような状況だと、普通の人であれば「なんだこれ?」となってなかなか話せなくなってしまうでしょう。マツコさんのすごいところは、そのような発言でもうまく拾って会話を面白くしてしまうところだと思います。

私はこの対話を真横で見て、ショックを受けました。雑談AIはまだまだだと感じました。収録が終わった後、かなり落ち込みました。現状の雑談AIは、しばしば変な発言を行い、人間が対話を続けることが困難な状況を生み出してしまいます。

このような状況を「対話破綻」と呼びます。対話破綻に着目することで、雑談AIの現在の課題を浮き彫りにすることができます。

■人間でも対話が破綻することはある?

しかし、対話破綻が完全になくなればよいのか、というとそんなこともありません。そもそも対話破綻が完全になくなることはないと思います。なぜなら、対話破綻かどうかを予測するタスクにおいて、一方の人間の判断をもう一方の人間が当てる「人間の精度」は100%ではありませんでした。つまり、どのように話しても変な対話だと思われる可能性があるということです。

ルーマニアで行われた対話システムのエラー分析に関するワークショップに参加した時のこと。その時に、対話破綻検出について説明し、この精度を高めていきたいという内容を発表したのですが、参加者からは意外な質問をされました。

「人間は対話破綻しないのか?」

私はそんなことを考えたことがありませんでした。しかし考えてみれば人間も変なことを言ってしまって対話が継続しにくい状況になったりすることがあります。しかし、だからと言って対話を打ち切ってしまうかというとそんなことはありません。対話がつながらなくなっただけで「もう帰る」と言われてしまったのではたまったものではありません。

■どうすれば話し合えるようになるのか

人文系の研究者と対話システムの現在について言語処理学会でパネルディスカッションを行う機会がありました。その時のテーマは対話破綻だったのですが、1人の研究者に「人間は対話破綻はしない。対話が破綻するのは人間関係が破綻したときだ」と言われました。人間は対話に問題があっても、理解し合いたい意図がある限り、対話を止めないだろうというのです。確かにそう思います。

対話破綻がゼロにならなくてもよいのです。そこから話し合えればよいのだと思っています。どうすれば話し合えるようになるのでしょうか。私はシステムが意図を持つことがその解決につながるのではないかと思っています。

写真=iStock.com/ABIDAL
※写真はイメージです - 写真=iStock.com/ABIDAL

システムの意図については、私が主導した対話システムライブコンペティションでも問題として挙がっていました。私が収集した雑談対話データの中で、エラー類型として頻出していたものの一つが「発話意図不明確」だったのです。また、対話システムライブコンペティションのアンケートでも「システムの意図が不明確」であることが指摘されていました。

■現在のシステムが抱える欠陥とは

現在のシステムは一般に意図を持ちません。ほとんどシステムは対話を続けることが目的になっていて、何がしたいというものを持っていない。だから対話が破綻することは失敗なのです。しかし、意図を持っていたら対話破綻は終わりではなくなります。

外国語で相手にうまく伝わらない場合、他の言い方で伝えようとするでしょう。特にトイレを探しているようなときであればなおさらどのような手段を使っても相手に伝わるように頑張るでしょう。意図があることで、少々対話が破綻していようが、問題ではなくなるのです。

平田オリザさんの著書に『わかりあえないことから』があります。その中でも人間の相互理解は分かり合えないことから始まると書かれています。まさにその通りだと思います。

私が作ったシステムにクイズ型対話システムがあります。これは人物当てクイズを出してくるシステムでした。ウィキペディアの任意の人物を取り上げて、その人物に関わるヒントを一つずつ出してきます。ヒントはウィキペディアの文章から自動的に生成され、答えが思いつかないだろうと思われる順にユーザに提示されます。インターネット上のサービスで、ユーザが考えている人物を当てるアキネーターというサービスがありますが、この逆を行く対話です。

■なぜ、AIとの雑談は飽きてしまうのか

ここで具体的な事例を一つ挙げます。システムは「東京生まれだよ」「牛込で生まれたよ」「英文学者だよ」「俳句、漢詩、書道をたしなんでいたよ」「朝日新聞で小説を発表したよ」というヒントを順に出します。これが誰のことか分かるでしょうか?

答えは夏目漱石です。このシステムは単純なロジックで動いていましたが、当時人気がありました。クイズが面白いこともありましたが、システムが徐々に簡単なヒントを出していく様子に何らかの意図が感じられたのです。

東中竜一郎『AIの雑談力』(角川新書)

お掃除ロボットのルンバにしてもそうです。ルンバの目的は部屋をきれいにすることです。その目的のために部屋をぶつかりながら進んでいきます。多くの人がルンバに対して意思を持っているように感じるでしょう。だからこそ、愛着がわき、多少問題があっても使っていくのだと思います。

現状の雑談AIとの対話は正直飽きます。何時間も話し続けられるものではありません。その原因として基本的な対話能力の低さもありますが、意図の問題が大きいのではないかと思います。「意識」まで踏み込まないにしても、何かしらの目的をもって対話をする、対話を目的とするのではなく対話をツールにする、そのようなパラダイムシフトが必要だと思います。

意図のないシステムと話すことはテニスの「壁打ち」のようなものです。「壁打ち」を「相手のいる競技」にしていくことで飽きの来ない雑談AIにつながるのだと思います。

----------
東中 竜一郎(ひがしなか・りゅういちろう)
名古屋大学大学院情報学研究科教授
慶応義塾大学環境情報学部卒。同大学大学院政策・メディア研究科博士課程を修了し、博士(学術)を取得。NTTコミュニケーション科学基礎研究所・NTTメディアインテリジェンス研究所上席特別研究員を経て、現職。NTT客員上席特別研究員、慶応義塾大学環境情報学部特別招聘教授。専門は対話システム。著書に『おうちで学べる 人工知能のきほん』(翔泳社)、共著・共編著に『人工知能プロジェクト「ロボットは東大に入れるか」 第三次AIブームの到達点と限界』(東京大学出版会)、『Pythonでつくる対話システム』(オーム社)などがある。
----------

(名古屋大学大学院情報学研究科教授 東中 竜一郎)