GPT-4出た時にイリヤサツケバーがPodcastで
次のトークンをうまく予測するということは、そのトークンが生まれるに至った背後の現実を理解しているということを意味します。
的なことを言ってたんだけど、この時点でいわゆる右脳的な思考が出来てた感じと思うと、リーズニングの様な論理的思考的より先にそれが実現していたって事なのか。
o1などのモデルで実行時に時間かけて推論をさせることで左脳的な思考もできる様になってきて、じゃあその2つのシステムが実現し始めてるとすると、いわゆる脳の様なモデルはもう出来ている説あるな。