生成AIに投資家注目（23/02/28）

　生成AIに関わる企業が投資家の注目を集めている。生成AIとは、入力されたトリガーに応じてさまざまな画像や文章をアウトプットする人工知能のことで、チャットボットの一種である言語系生成AI・チャットGPTが試験的にサービスを公開してから、急激に人気が高まった。現在では、自動案内やネット検索への応用が期待されており、関連企業への投資が急拡大中。チャットGPTを開発したオープンAI社には、マイクロソフトなどから多額の資金が投入されており、企業価値は推定290億ドルに達するという（23/02/26付日本経済新聞より）。

【補記】筆者（吉田）は、今回の生成AIブームをかなり冷ややかに見ている。革新的な技術が開発されたわけではなく、従来の深層学習マシンに（実践的言語モデルの導入など）部分的な改良を加え、高性能チップを使って学習量を大幅に増やしただけである。言語系の生成AIにレポートを書かせたら教授に「優秀」と評価されたとか、作者を隠して応募した画像系生成AIの絵画がコンクールで優勝したといった話も耳にする。しかし、こうした事例は、数多くのデータを模倣しながら表現を整えていった結果に過ぎない。人間が優れたデータを用意したからこそ実現できたのであって、AIだけで価値のある何かを創造するのは無理である。
　画像についても著作権侵害などの懸念があるが、ここでは、より重大なトラブルを招きかねない言語系生成AIの問題を指摘しておく。
　忘れてならないのは、AIは「何も考えていない」という点。チャットGPTが質問に回答するとき、質問の意味を考えて答えるのではなく、質問文と同じ（あるいは類縁関係にある）語を含む文を探索し、その周辺の表現を適宜（何らかの確率モデルを使って）組み合わせ表面的に整った文章を作り出す。したがって、回答が正しいという保証はどこにもない。
　深層学習の手法では、文の形式と内容を分離して学習させることは難しい。新製品の取扱説明書をチャットボットで作ろうとしても、「一般的な取扱説明書のフォーマットに新製品の機能を当てはめて作文する」といった器用な真似はできない。このため、新製品には実装されていない機能を、多くの取扱説明書に記載されているのでしれっと付け加えることもあり得る。
　取扱説明書に限定すれば何とかなるかもしれないが、一般的な文章は際限なく多様なので、正当性が担保されるような検証システムを開発することは、絶望的なまでに難しい。
　言語系生成AIは、「膨大な情報を丸暗記しているが、知ったかぶりばかりで何も考えておらず、表面を取り繕うのがきわめてうまい」と見なすべきである。そんな人に頼める仕事を生成AIにまかせるのはかまわないが、それ以上を期待すると痛い目に遭いかねない。
　AIとチャットを続けると、ある種のエコーチャンバー現象が引き起こされるという報告もある（2023/02/21付東洋経済オンラインに掲載されたKevin Rooseのコラムなど）。詳細なメカニズムはわからないが、チャットボットに対して特定のの嗜好や偏見を含む文章を入力した場合、そこで用いられた語を含むデータを優先的に検索するため、嗜好や偏見を増幅させた応答が返されることになり、人間の側もそれに反応してチャットが偏った方向に進んでいくのだろう。
　AIがまったく役に立たないわけではない。例えば、新製品のキャッチコピーを考える際に、その製品が持つ特徴をさまざまな言葉で表してチャットボットに語りかけると、それらの言葉を含む膨大なデータを検索し文章を生成してくれるので、そこから新たなアイデアを思いつくこともある。また、ホテルのすべての客室に心安らぐ絵を掛けたいとき、コピーやレンタルばかりではつまらないので、画像系の生成AIで適当な観光写真を組み合わせて水彩の風景画を作り出せば、お手軽だ（ただし、著作権侵害には気をつけて）。
　生成AIには多くの問題がある。この点にうまく対応していかないと、あと10年も経つ頃には、メタバースやWeb3とともに、生成AIが「３大ガッカリIT」に数えられているかもしれない。

////////////////////////////////////////////////////////////////////////////////////////////////////

姉妹ページに「科学と技術の諸相　－Q&A－」があります。