GPT-4出た時にイリヤサツケバーがPodcastで
次のトークンをうまく予測するということは、そのトークンが生まれるに至った背後の現実を理解しているということを意味します。
的なことを言ってたんだけど、この時点でいわゆる右脳的な思考が出来てた感じと思うとしっくりくるな
ほんで、o1などのモデルで時間かけて推論をさせることで左脳的な思考もできる様になってきて、じゃあその2つのシステムをうまく協調させればいいんじゃね的な感じか
GPT-4出た時にイリヤサツケバーがPodcastで
次のトークンをうまく予測するということは、そのトークンが生まれるに至った背後の現実を理解しているということを意味します。
的なことを言ってたんだけど、この時点でいわゆる右脳的な思考が出来てた感じと思うとしっくりくるな
ほんで、o1などのモデルで時間かけて推論をさせることで左脳的な思考もできる様になってきて、じゃあその2つのシステムをうまく協調させればいいんじゃね的な感じか