「脳は世界をどう見ているのか」という本を読む。
この本では、人間の脳の仕組みを解き明かし、タイトルにもある通り「脳は世界をどう見ているのか」に対するジェフ・ホーキンスの仮説を展開している。
脳には、古い脳と新しい脳がある。古い脳は欲求を持っている。一方で、新しい脳は知能を生み出している。脳は感覚器官の入力を受け取ることができるが、物体に触れ、指を動かすことで、新しい脳は、物体の構造をとらえることができる。構造を記憶するために新しい脳が作り出すのが座標系である。この座標系を用いて、世界はこういうものだというモデルを構築する。これは物理的な世界の物体だけでなく、概念についても例外なく座標系に保存される。方程式という概念を座標系に保存していれば、似たような方程式に遭遇したときに座標系内を動き回り、答えを導き出すことができる。そして、新しい脳は、入力に対して何かを絶えず予測をする。予測が間違っていたら、誤りに注意を向けて、モデルを更新する。こうして人間は、常に変化し続ける世界を学習し続けることができる。
そして、現行のAIは、人間の知能には及ばないことを主張している。ただ膨大な数の単語の統計を記憶することによって、人間を真似していることに過ぎない。知識は言葉やルールに保存されているわけでない。知識とはモデルである。AIが知的だとされるために満たすべき基準としては、「絶えず学習をする・動きによって学習する・たくさんのモデルを持つ・知識を保存するのに座標系を使う」ことが必要最小限であると述べている。また、現行のAIは、古い脳に相当する機構を持たない。人間は、古い脳が作り出す欲によって行動や学習の目的を持つ。
この本が書かれたのが2022年であるが、AIは特定のタスクに特化しており、汎用的なタスクを実行するAGIにはほど遠いことを主張していた。しかし、今現在、ChatGPTをはじめとして、汎用的にタスクをこなすAIが当たり前の世界になっている。絶えず学習をし、フィードバックループを繰り返しながら目的達成のため行動をするAIエージェントまでもが登場し、AIは人間の脳を完全に上回っていると思っていた。しかし、この本で脳の仕組みを学び、人間の脳とAIは根本的に異なることを学んだ。今現在のAIも、言葉や情報のパターンを模倣しているに過ぎず、世界を理解しているわけではない。
試しに今のAIに目で得られた世界(写真)を、どう解釈するのか試してみた。ちゃんと世界を理解しているように見えるが、映ったモノを検出し、そこからそれっぽい言葉を生成しているだけに過ぎない気もしなくもない。
タイトルのインパクトだけで読むことを決めたが、専門用語が多く、後半は哲学的な論調だったので、読み進めるのに非常に体力を使った。正直、正しく内容や主張を理解している自信はないが、人間の脳がどのように世界を形作っているのか、片鱗に触れることができたのはよかった。また数年後読んでみて、改めてどういう捉え方をするのかは試してみたい。