「人間がAIに抜かれそうな怖さを感じて、ゾクッとしました」 ［対談］「怪盗クイーン」著者・はやみねかおる×AI研究者・赤間怜奈

はやみね　「倉木博士についてどう思う？」ときいたら、RDは倉木博士のことを「彼」と表現したので、「コイツもまだまだやな」と思いました（笑）。これからいっぱい勉強せなあかんですね。

──倉木博士を「彼」と表現する原因はなんでしょうか？

赤間　きちんと検証していないので、実際のところはわかりません。考えられる原因のひとつは、学習データに含まれる事例の中で、「博士」と呼ばれる人物が「女性」よりも「男性」が多かったということがあり得そうです。「博士」を「彼女」ではなく「彼」と呼ぶ事例をより頻繁に見ていたのなら、倉木博士を「彼」と表現するほうがより自然だと判断したのでしょう。

※文部科学省　科学技術・学術政策研究所による「博士人材追跡調査―第４次報告書―」2022年１月発表によると、博士課程入学者の女性の割合は、2018年で約17％となっている。（赤い夢学園調べ）

──では倉木博士を「彼女」と表現させるには、具体的にどうすればよいのでしょうか？

赤間　方法はいくつかありますが、前述の開発ステップの③で設定情報を与えるときに、「倉木伶博士の名前は伶で、性別は女性、年齢は50歳くらい」であることとあわせて、「RDは倉木博士のことをなんと呼称するか」も明確に教えておく、ということはできそうです。

とはいえ、あらかじめ整理して与えておく情報にも限度があるので、やはりこのプロジェクトの鍵を握るのは、⑤の「調整」の部分になってくると予想しています。フィードバックを通して細やかな修正を繰り返すことで、どんどん「RDらしい」振る舞いに近づけていければと思っています。

はやみね　自分はさっき「RDはまだまだやな」って思っていましたが、「博士」と聞いて「男性」と頭の中に入ってくるっていうのは、自分らみたいな昭和のジイさんといっしょやなって（笑）。そう考えると「すごいやん」と考え直しました。

こんなレベルまで来てるのかって思うと、人間がAIに抜かれそうな怖さを感じて、今ゾクッとしましたね。ただ単に「知らない」というわけではなく、たくさんの知識を獲得した上で自分の人格を持つという怖さにゾワッとしました。AIはすごいですね。

赤間　普段研究しているときは、単純に「モデル」と「データ」という認識しかないのですが、“たくさん見ている・知っている”のは、確かにそうだなと思いました。

最近の言語モデルの学習には、何百億、何千億という規模の言語データが用いられます。これは人間が生涯で目にするものと比べて、どの程度の量といえるのでしょうね。もしかしたら、クイーンのお師匠さまくらいでようやく到達できるレベルの量だったりするのかもしれませんね。

──ありがとうございます。今回のRDが倉木博士のことを「彼」と呼んでしまうのは、学習が進んでいないわけではなく、むしろ多くの情報を取りこんでいて、その中で一番多い情報を答えてしまうということがよくわかりました。AIの学習や会話が生成される仕組みは、人間とはまったく違うのですね。

第３回目は、AIが今後どのように進化していくのか。「RD育成プロジェクト」が目指す未来について語っていただきます。