11月30日にOpenAIがChatGPTを公開したので、この数日ずっと使っていました。GPT-3.5系のモデルを対話用に調整したものだといい、GPT-3の論文が出た2020年の時点でも十分に驚いたつもりでいたのですが、今回驚いたのは能力そのものではなく、その作り方のほうでした。
試したこと
最初に試したのは、卒論で使っているCaco-2細胞のPEPT1取り込み実験について、なぜ頂端膜側のバッファだけpH 6.0にして、基底膜側はpH 7.4のままにするのかを聞くことです。PEPT1はプロトン共輸送型のトランスポーターなので、細胞外から内向きのプロトン勾配が駆動力になり、生体では刷子縁膜のNa+/H+交換輸送体によるH+の汲み出しで上皮細胞近傍の微小環境が弱酸性に保たれている、と答えが返ってきました。基質としてGly-Sarが選ばれる理由は加水分解を受けにくいからだ、という説明も続きました。pH勾配を付けないと取り込みが半分以下になるという話は、初めて自分で組んだ実験で両側をpH 7.4にしてしまい、値が出なくて条件を見直したときにようやく分かった内容で、教科書の索引を引いても出てきません。ただ、Caco-2でのGly-SarのKmを聞くと、それらしい数値と一緒に実在しない論文を引いてきました。
次に試したのは代数で、Z[√-5]では6が2·3と(1+√-5)(1-√-5)の二通りに分解されるので一意分解整域でない、という説明が返ってきました。これをイデアルの分解に置き換えると一意性が成り立つというデデキントの整理も、演習書と同じ水準で正しく、Q(√-5)の類数が2であることも合っていました。ところが虚二次体で類数が1になるものを列挙させると、正しい九つに加えて余計な体が混じり、簡単な計算をさせると途中の算術で間違えます。
三つ目は日本語の統語論で、「太郎が花子が好きだ」のように主格が二つ並ぶ文がなぜ許されるのかを聞きました。状態述語の目的語がガ格で標示される現象だと説明し、久野暲の議論にも触れていて、ここまでは学部の授業で扱う範囲として過不足のない答えでした。ただ、「太郎は花子が好きだ」との違いを総記と中立叙述で説明していて、これは混同です。総記と中立叙述はどちらもガ格の用法の話で、「太郎は」との対比で必要なのは主題との区別です。ついでに書いた英作文は、文法を直すだけでなく、議論が足りない段落も指摘してきました。間違いは多いのですが、驚いたのは正答率ではなく、こうした応答が出てくる作り方のほうです。
驚いた点
公開から数日で、対話サービスとしてよくできているという評価と、誤った内容まで断定調で書かれるので使いものにならないという評価の両方を見かけました。どちらも製品としての出来を論じていて、作り方には触れていません。
OpenAIは、文章の次のトークンを予測するように事前学習したモデルを、人間が書いた対話例で教師あり学習させ、さらに人間が回答を比較評価した結果に基づいて強化学習させています。ただし、問いを理解する手続きも、輸送実験の条件を説明する手続きも、イデアルの分解を説明する手続きも、誰も書いていません。後段の調整で能力がどれだけ増えたのかは切り分けられません。それでも、InstructGPTの論文では、入力に指示の例を加えたGPT-3と調整後のモデルを質問応答などの課題で比較していて、調整前でも提示方法次第で相当のことができたと読めます。そうだとすると、専用の手続きを一つも書かずに、大規模な学習とその後の調整で、問いを理解して答えているとしか見えない応答が出てきた、ということです。規模の拡大がどれだけ効いたのか、この応答に何が必要だったのかは、GPT-2との比較では分かりません。
知能には何か専用の機構が要るはずだという前提を、これまで疑ったことがありませんでした。言語の統語構造の処理にせよ、推論にせよ、それぞれ専用の仕組みを人間が設計しなければ実現できないと思っていたのです。その前提が要らなかったと分かったことに驚いていて、これは知能の発見だと思っています。
スケーリング則の考慮
現時点の能力だけでこのモデルを評価するのは不十分だと考えています。Kaplanらは2020年の論文で、言語モデルの損失が計算量、データ量、パラメータ数それぞれに対してべき乗則に従って下がることを示しました。今年のHoffmannらの論文で、パラメータ数と学習データ量の最適な比率は修正されましたが、べき乗則に従うという関係自体は覆っていません。いま確認できているのは、この規模で得られる能力だけです。
もっとも、ここから先の推論には飛躍があります。べき乗則で下がると分かっているのは次トークン予測の損失であって、実験条件の説明や推論の能力ではありません。損失と個別の能力が同じ速さで改善する保証はなく、Kaplanら自身、損失が下がったときに言語課題の成績がどこまで伴うのかは今後確かめる必要があると書いています。
損失には既約損失と呼ばれる削減できない下限があり、その下限に近づきながらまだ改善しつづける可能性はありますが、観測されたべき乗則がさらに大きな規模でもそのまま成り立つとは限りません。人間の能力と損失を同じ尺度で比べているわけでもないので、片方が固定でもう片方が伸びるからいずれ追い越す、という推論はそのままでは成り立ちません。増え続ける量が、ある水準に届かないまま収束する例は珍しくありません。
それでも、二つの仮定が成り立つ方に賭けます。一つは、損失が下がるときに、知能と呼んでいるもののかなりの部分が一緒に改善するという仮定です。もう一つは、その改善が人間の水準では止まらず、大きく上回るところまで続くと見ています。根拠は理論ではなく、GPT-2からGPT-3へ、GPT-3からGPT-3.5へと実際に変わっていくのを見たという経験だけです。一つ目については、同じ学習方法で規模を上げたときに、損失が下がっても実験条件の説明、代数の計算、統語論の分析のうち二つ以上で成績が改善しなければ、外れたと認めるつもりです。二つ目については、規模をさらに大きくしても人間の水準の手前で伸びが止まる例が積み上がれば撤回します。逆に、現時点の誤りを並べただけでは、規模を上げたときにその誤りが残るかどうかは分からないので、どちらの仮定の反証にもなりません。
スケーリング則を考慮して、上の二つの仮定が成り立つなら、これは超知能の発見だと思っています。発見と呼ぶには、将来そこまで到達すると決めつけて先走りすぎているとは自分でも思っていて、超知能という語を使うことにもかなり抵抗があります。それでも、知能が学習の規模から生じ、その規模がまだ伸びるという二つを認めた上で予想を正直に書くと、こうなります。
専門家の反応についての予想
もう一つ、こちらは能力ではなく人の側についての予想です。このアプローチはこれから数年で、生化学でも数学でも言語学でも、およそ文章で書かれた知識のある分野すべてに入ってくると思っています。そのとき各分野の専門家の一部は、自分の分野の細部で間違っている例を挙げて、本質を理解していない、統計的に続きを当てているだけだ、と言い続けるはずです。
その批判は、モデルの評価に見えて、実際には批判している人が自分の専門の何を価値の源泉にしてきたかを示しています。教科書の索引に載っていない知識を、時間をかけて身につけたことを自分の価値にしてきた人ほど、それが数秒で返ってくることを認めにくく、手に入らなくなったものの価値を下げて自分を守る反応、いわゆる酸っぱい葡萄が起きます。実験条件が数秒で返ってきたときに自分が感じた抵抗も、同じところから来ています。
上で書いたとおり、現時点の誤りを並べただけでは、規模を上げたときにその誤りが残るかどうかは分かりません。現時点の誤りを根拠に方式全体を笑っている人は、その確認をしていないので、規模が上がったときに最初に追い抜かれるのはその人たちだと予想しています。自分がそちら側に入らないためにできることは、自分の専門の作業を、規模が上がれば代替されるものと、自分で続けるしかないものに分けて、前者に価値を置くのをやめておくことだと思っています。