【VOICY 中島聡】LLMと世界モデル

このテキストは、AIにおける「世界モデル」の限界についての話です。特に、AIが言葉だけで学習しているため、人間のように物理的な世界の常識を理解できないという問題が指摘されています。具体例として、引くドアを押しても開かないと答えるAIや、綿菓子の上にレンガを置いたらどうなるかという問題で、物理的な現象を正しく予測できないAIの限界が挙げられています。要するに、AIはテキストベースで学んでいるため、実際の物理的な世界のルールや常識を理解するのが難しいという課題があるという内容です。【全文】今日はですねチャットGPTに使われているLHL LHL大規模現行のLHL 何が得意か何が得意じゃないかというのをお伝えします基本的にLHLというのはある日に書くときにその文章の続きに次に来る単語は何かというのを共通に予測するというのをインターネットとかにある宇宙情報をベースに学んだりもして言葉の生成に関してはどうするかを求めることを言うインターネットに書いてある情報が多くが正しいものなので結果として正しいことを言うようになっているというのがLHLなんですけど一つ研究者の間で言われているのは言葉だけで学んでいるから僕らが赤ちゃんの時から大人になりにくれてこの世界に住んで手足を持って目を持って耳を持って五感全部を使ってボールを投げるとかスクエアに伸びないものを落とすとかということから学ぶ物理の恐れだったり重力とか感性とかいろんなものがあるじゃないですかそういう熱いものがあると熱いとかそういう世界はどうなっているんだという概念が頭の中に人間に出てきてそういう世界モデルというのはいろいろなものを説明するときに分かりやすくするためにある程度のシンクルにしてこういうルールがあるんだと理解することが頭の中にある世界モデルを人間は持っている人間だけじゃなくて犬も猫も持っているに対して体を持たないAIはそういうのがないから人間だったら簡単に答えられるようなことに答えられないよこれを答えてかけさないんだという研究がそれを問題を分かりやすくするためにどんな問題が不可欠なんだというのを示すという実験をしたので画像一覧にしているんですけどそこには何としてもしたかというと引くと書いてあるとは左側に行ってそのドアを押すとどうなるかというものですけどこれって普通に僕らだったら分かるわけじゃないですか小学生でも分かりますよね引くドアを外から押せたら押せるに決まっているじゃないですかだけど文字面だけから勉強したいルールも正しい答えを出せなくてそのドアは引くドアなんて引かないとあきませんという答えが書いてあるんですこれが一体の世界モデルドアって両側が上がって片方から引く場合は反対側が押すんだとかという常識がないので文字面からだろうとだけだと引くドアだから引かないとあきませんと言っちゃうもう一つの例はこれは張り付けてないんですけどお目と亀したのは 8センチの高さがある渡がし輪の渡がしの上に7センチの高さがあるレンガを乗せたら合わせて何センチになりますかという問題でこれも明らかじゃないですか小学生でも分かるけど渡がしの上にレンガを乗せたら渡がし潰れるので 7センチと8センチの15センチにならないわけですよ多分7.5センチとかもう本当に渡がしがピシャッと潰れてしまうのでにもかかわらずエレルマン兵器で15センチと答えていきたいこの辺が面白いと思うんですよね世界モデルがないからこそこういう失敗をするんだけどじゃあどうやって世界モデルを理解するかというのが今は一つのピッチになるのでシミュレーションとかでできるかもしれないけどやっぱり実際に手足を持っていかなきゃいけないリアルな世界と関わらなきゃいけないから結局ロボットを作ってやるまでダメなんじゃないのっていう人にいやいやそうじゃないよ言葉だけでも世界モデルは得られるはずだっていう人に言うけどただ言葉だけだとやっぱり引くドアの反対側から押すと開きますなんてことはわざと書いてないわけですよあまりにも違いないそういう文章を一回書いたら多分ダメなのだけど気がかすぎて書いてないものは書いてないけどまたはその綿菓子の上にレンガを置くケースなんていうのはないのでサンプルデータがないから教育できてないもちろんだけど綿菓子を上から押したらどうなりますかってことで綿菓子は柔らかいですとかレンガは重いですとかっていう知識が持ってるんですけどそれがクイズとして出た時にちゃんと結びついて小学生でも答えられることは見つけられないというのが今のエベレンの限界ですよというのが今日のお話でした

AIの世界モデルは改善できるの？

AIの世界モデルは、いくつかの方法で改善が可能です。以下に主要なアプローチを紹介します。 1. マルチモーダル学習 AIにテキストだけでなく、画像や音声、動画などの異なる種類のデータを組み合わせて学習させることによって、物理的な世界に対する理解を深めることができます。たとえば、視覚情報を使って物理的な現象を理解することが可能です。 2. 強化学習とシミュレーション仮想環境やシミュレーション内でAIに試行錯誤をさせ、物理的なルールや因果関係を学習させる方法です。例えば、ロボットを仮想空間で動かし、重力や摩擦といった物理法則を理解させることができます。 3. ロボティクスの導入実際のロボットを使って、AIに物理的な操作や環境とのインタラクションを学ばせる方法です。これにより、AIは実世界の物理現象を直接体験し、それをもとに世界モデルを構築できます。 4. 物理エンジンの利用物理シミュレーションを行うためのエンジンを活用し、AIに実世界に近い環境で学習させることができます。これにより、AIは物理的な動作や反応を予測する能力を高めることができます。 5. データの多様性と量の拡大より多くの多様なデータを使用することで、AIが世界について学習する際のバイアスを減らし、一般化された知識を得ることが可能になります。これらのアプローチにより、AIの世界モデルは徐々に改善されており、将来的には人間の常識により近い理解を持つAIが開発されることが期待されています。ただし、完全に人間と同じレベルの理解に到達するには、さらに多くの研究と技術的進歩が必要です。