宝島社より 「ふたりの余命 余命一年の君と余命二年の僕」 が発売になりました。私にとっては初の商業出版になります。
自分の小説が本屋に並ぶという中学生からの夢がようやく実現します! 興味がある方は書店で予約してみてくださいませ。

MENU

対話型AIの課題は1次ソースの維持と信頼の構築

進化する対話型AI

ChatGPTが登場して以来、対話型AIが脚光を浴びている。Microsoftが自社検索サイト「Bing」にも対話型AIを試験的に導入し、Googleも参加を表明している。

質問への回答だけではなく、翻訳や論文作成など様々なことに利用されている。今後、さらに進化していき、ネットのあちこちからソースを収集してブログを書くような作業は対話型AIが担うようになる未来も想像できる。

対話型AIの課題を考えます。

一次ソースは誰が作る

対話型AIの回答は、ネットに散らばるソースを集めて要約している。当たり前だけど、対話型AIがリアル世界を調査しているわけではない(将来的には街の防犯カメラの映像を分析してAIが一次ソースを生成する可能性もあるが、そこまでいくとディストピア感が強い)。

現状は誰か人間が調査・取材して、記事を書きネットにあげている。対話型AIはその一次ソースを元に回答を生成している。

対話型AIが一般化して、AIに頼るようになると、一次ソースにアクセスする必要がなくなる。アクセスがなければ記事サイトを書いた人に収入が入らなくなる。収入がなければ、サイトの運営も取材もできなくなる。

対話型AIは引用しているサイトを表示しているが、システム的には有料サイトの情報も要約して表示させることもできてしまう。有料サイトの記事を貼ってはいけないのはネットのルールになっているが、要約して他のサイトの情報とまとめられてしまうと、剽窃かどうか判別がつきにくくなる。そうなれば、有料サイトも運営できなくなる。

対話型AIが一般化したら、どうやって一次ソースを確保するかが大きな課題となる。

信頼性の構築

質問して得た回答に必要のは信頼性だ。回答が「間違っていない」と思えることが重要になる。人間関係でもそうだ。回答が同じでも、誰が言ったかどうかで受け止め方が異なる。現在の検索サイトが表示する記事は単体のサイトの情報なので、責任が明確だ。ソースがWikipediaなら、完璧ではないがある程度は信頼できる。

対話型AIの場合、要約しているのでソースが曖昧だ。ソース元は明示しているが、どの情報がどのソースから入手したものかすぐにはわからない。

質問にもよるが、現状の対話型AIの回答は、不正確なものもある。明らかな間違いならわかるが、そもそもわからないから質問しているわけなので、正誤の判断がつかない。

今後、対話型AIの情報の信頼性をどのように高めるか、情報のソースを明示する方法が大事になると思われる。

一般化するのは確定?

おそらく対話型AIは一般化していくだろう。絵画生成AIよりも一般的になるのは早いと思う。絵を描く需要よりも検索して情報を入手する需要の方が大きいし、現在の「ググる」の代替として利用できる対話型AIは、数年内に当たり前のサービスになると思われる。

そのためには、一次ソースの確保と信頼の構築という課題を解消する必要がある。

IT関連のブログをほぼ毎日更新していますが、本業は高山環(たかやま かん)というペンネームで小説を書いています。
ブロックチェーンなどITを題材とした小説の他に、ミステリー、恋愛物、児童文学など様々なジャンルの作品を取りそろえています。
Kindle Unlimited会員ならすべて無料、非会員の人にも0円からご用意していますので、お読みいただけると幸いです。感想もいただけたら感涙でございます。