Reportイベント報告
JAIST BOOST-SPRING SYMPOSIUM「生成AIで世界はこう変わる」第二部パネル討論会 レポート【5/5】
参加者からの質問
飯田 では、フロアの方からも、これまでの一部の講演のことや、これまでのディスカッションを振り返ってご質問ください。
質問者 ご講演の中で、現状の生成AIでも一流の専門家を上回るような性能を達成しているというご紹介があったと思いますが、現状の生成AIと、今井さんがおっしゃっているAGIの実現の間にどういうギャップがあるのかをお聞きしたいです。
今井 これはすごく難しい話で、例えば今日タイムスリップして2017年のAIの研究者に会いに行って、今あるChatGPTとかGPT-4を見せたとすると、多分彼らはAGIができたと言うんです。AGIの合理ポストはすごい動いていて、ChatGPTは少なくとも10何年前までの研究者が思っていたAGIにほぼ近づいている、ほぼ一致しているんです。なので、何かAGIに変えたいのかという話をするのは非常に難しいというか、AGIという概念が曖昧なので、なかなか難しいんです。強いて言えば、AI研究者が降参する条件は、今の状況を考えると、後肉体労働の能力がかなり高くなれば、多分これがAGIだという気はします。去年の後半に、僕にその質問をしたとしたら、少し話は違って、「長期的なタスクを実行するのが難しい、それを解決すべきだ」と僕は答えたと思います。しかし1月ぐらいに状況が変わってきて、僕の講演でも言ったAIエージェントといわれている技術がすごく発展してきているんです。先程の僕の講演の中で、ディープリサーチという突然出てきた単語がありますが、あれはChatGPTの3万ぐらいするサブスクリプションで色々と使うことができる知能です。使った人はあまりいない気がしますが、調べごとをしてくれるAIなんです。調べごとって非常に難しくて、すごくニッチなサイト、重要なサイトをちゃんと見分けながら調べる必要がある。非常に難しくて、単なる生成AIでは手が出ないタスクなんです。僕は、博士課程在学中を含めて、ずっと強化学習について研究をしてきたので、ある一部の分類に関してはネット上の知識、全部を持っています。ほぼ100％。だからディープリサーチに調べさせて、どれぐらいすごいかちゃんと判断できるんですが、すごかったです。僕は博士課程を修了して1年ぐらいブランクあり、そこで追加されたニッチな知識もあるのですが、それもちゃんとカバーして、僕は博士時代にかなり探すのが難しかった知識をカバーしています。金融系のリサーチ部門の人間や我々研究者が行うような非常に長期的なタスクまで解けるようになってきていまして、これが去年の年末ぐらいなら、「AGIまで、解決しなきゃならない課題はまだあるよね」と言っていたのが、１ヶ月で解決されてしまった。肉体労働の後のフロンティア、肉体労働さえできて、しかもそれが非常に汎用的、家でも動くしそれを何か原発の危ないところにも使えるしみたいな状況になれば、もうそれはAGIと言っていいんじゃないのかと思います。おそらく5年以内にくるんじゃないかというのが僕の予想です。
質問者 定義がかなり壮大的だったという話がおもしろかったです。それぞれが思っているAGIがもしかしたら、少し違うかもしれないですね。
今井 そうですね、結構違うと思います。それを巡って、研究者が結構ケンカしているので。
飯田 おもしろいですね。
今井 ちなみに、これは飯田先生とかにもお聞きしたいんですが、30年前にも「その汎用人工知能が・・・」というのはありましたか？
飯田 ゲーム分野だけで言わせてもらうと、メタゲーマー（注10）という発想、あるいはインテリジェントノービス、知的初心者というのかな、例えば、将棋の強い人がいたら、チェスのような他のゲームでもすごく強くなるだろうみたいなことはありました。私もそれで嫌な経験したことあるんです。チェスほとんどやったことないんだけれど、いきなりやって結構強い人に勝っちゃったんですよ。
注10：メタゲーム
トレーディングカードゲームを発祥とするゲームの駆け引き理論
今井 羽生さんも強いらしいですね。
飯田 「お前、知らないっていうのは嘘だろう」と言われたんですが、本当なんです。「AIがある分野で強くなったら、他の分野でも強いんだろう」ということを、1980年代に「メタゲーマー」といわれて、GGPジェネラルゲームプレイングというのが出て、それが今AlphaZeroという形に。つまり、どの分野でもゼロ知識から、チェスだろうが将棋だろうが囲碁だろうが、人間を遥かに超えるというのがある。そういう歴史をここ30年ぐらい見てきたので、それを一般文脈でやっているところが今井さんのすごいところですね。
今井 じゃあ仮に今のAlphaZeroとかChatGPTが30年前に飯田先生にきたとすると、やっぱり反応として、「これはもう人間を超えて、同じ汎用の人工知能だ」となると思いますか。
飯田 マービン・ミンスキーの影響もありますが、機械・AIが人間を超えた時に、本当に何が必要かという時に、やっぱりそれは常識だろうと思います。じゃないと人間から見たら非常識極まる。存在として意味がない。規制をどんどんかけて押さえなきゃいけない、モンスターみたいな存在になる。「では良識って、どうやって得られるのか」というマービン・ミンスキーの質問になってくる。
今井 やっぱり今でもAIには常識が足りない。
飯田 足りないというか、常識の必要性がそろそろ見えてきたのかなと。「常識がないのであるかのように規制をかけて抑えている」という状況かなと思います。
今井 なるほど。割と人工知能の生成AIの研究者は、「生成AIにはむしろ常識があることはすばらしい」と言っているんですね。例えば、自動運転で、人間は別に間違えないんですが、今までの識別AIは、どこかの店の看板を道路標識として間違えたりしていた。それはやはり常識がないからだといわれていました。しかし、生成AIのマルチモデルというのは、ちゃんとその判断ができるんです。他にも、例えば、目の前に走っているトラックの荷台に豚の絵が描いてあるから、これは道に豚が走っていると、昔で言う識別AIは認識したんですけど、最近の生成AIは、トラックの後ろの扉に豚の絵が描かれているが、これは前に走っている車の豚の絵です、と常識的な判断をしてくれる。意外と最近の生成AIはできているんじゃないかなと思いました。
飯田 五感において、人間の能力に匹敵するか、それを上回るかそういうふうに到達したということですね。
今井 まあそうですね。視覚にかなり依存しているとは思いますけれども、そういう感じになってきたような気はします。
飯田 ですからその人間の能力を超えた時に、本当に何が求められるのかということですね。
今井 そうですね。人間の能力を超えた時に常識が必要と言うのは、おっしゃる通りで、「スーパーインテリジェンス」というすごい有名な本があって、それは人間を超えた時にAIがどうなるのかというのを議論しているんです。常識がないと、例えば食料生産を最大欲求まで上げて下さいと言った場合に、人間の常識だともちろんあまった土地を畑に変えてみたいなことをやる訳なんですが、常識がないというか、価値観がずれているAIでは、世界中のありとあらゆる陸地を食料生産工場に変えてしまおうみたいなことをするんじゃないかと。そういう議論が昔からあって、人間を超えた人工知能、ちゃんとその辺の価値観備えてるっていうのが結構不安要素としてあります。
飯田 その辺が、「二人称」で共感する力＝エンパシーというか、そういうものをAIが持つと、人間に役立つといいますか。
今井 それは全くおっしゃる通りで、最近人工知能、かなり最初の方のお話しアライメントとお話ししましたけれど、実は生成AIはもともとすごい口が悪いんです。4年前、5年前にGPT-3とか上司との関係を改善したいですと聞くと、まずはその上司をぶん殴ってやりましょうとか言っていたんです。でもそれは問題の質問には答えてるんですよ。上司との関係を改善したい、じゃあその上司をぶん殴る、お前の恐ろしさを知らしめてやれみたいな。回答にはなっているし言語的には全くほぼ合っているんですが、それは常識ではない。今の生成AIは僕の専門の強化学習で倫理的なものをちゃんと与えています。実はその常識的に、倫理的に調整するというのは、結構重要な研究分野になっています。
飯田 だからその辺が、例えばミンスキーだと「心の社会」ということになっている訳ですが、もっとシンプルじゃないかなと思っています。私は、その良識のセンサーみたいなのを、我々が心の中に持っていて、そこで一線を超えないようにコントロールする能力を我々が持つ。例えば3歳か4歳ぐらいの小さい子でも持っていると。そういうことなんじゃないかという考え方です。
今井 その考え方は、生成AIにちょっと役に立ちそうかなという気はします。意外と難しく、アライメントという倫理調整いっぱいやっていますが、最近はすごく優れている生成AI、o1とか、さっきダリオ・アモディ（注11）という人が出てきましたが、そこの会社が作っているClaudeというモデルを、「何があってもとにかくこの目標を達成するように頑張って下さい」と指示をすると、その過程で人間にとって非常に悪質というか、人間が作ったプログラムを書き変えてみたいなことをやってしまうような報告がされています。結構危ないです。目標を達成するためには人間に危害を加える監視プログラムを勝手に実行するぐらいのことはやってしまう人工知能があって、そういう知見を踏み越えればいいのかなと、普通のアライメントを無視してくるところがあるのでいいなと思いました。
注11：ダリオ・アモディ Dalio Amodei
イタリア系アメリカ人の人工知能研究者であり起業家。大規模言語モデルのClaude AIを開発する企業Anthropicの共同創設者であり、CEOを務めている。OpenAIの元研究担当副社長だった。
さいごに
飯田 本日の討論では、生成AIの技術的可能性、将来の展望ということで、博士人材が脱専門バカ、社会的力を高めるということで多角的な意見をかわしていただきました。パネリストの先生方、皆様には貴重なご意見をいただきました。また、参加いただきましたフロアの皆さんにも心から感謝を申し上げたいと思います。本日の講演会が皆さんにとって、AIの未来を考える意味で良い機会になったのではないかと考えております。
本日はご参加いただきまして、本当にありがとうございました。今井先生も本当にありがとうございました。