優等生と壊れたコンピュータ

日経サイエンス5月号の特集「Chat GPT　対話するAI」が面白かった。Chat GPTに対する質問を「Let’s think step by step」で始めるだけで、正答率が急激に改善する場合があるという。しかも、似たような「呪文」では、同じような結果は出ないという。それが何故なのかは、研究者にもわかっていない。AIはブラックボックスだとよく言われるが、これほど因果関係がはっきりしない世界だとは想像できなかった。そして、ブラックボックスであることが、これほどAIの本質に深く結びついているのだとも思わなかった。

Chat GPTは、近接する語彙との連関から次に来る言葉を決めているのであって、文法や公式で導き出しているわけではないという。だから、自然な言葉を理解し、自然な言葉を発することができる。そう言われると、我々人間にとっての母国語のようなものなのかもしれない。日本語を話すときには文法など気にしない。しかし、時に曖昧でも、それは言葉になっている。しかし、外国語を話そうとすると、文法通りでも意味が伝わるとは限らない。それは、コロケーションを理解していないことも理由の1つである。AIもそうしたコロケーションの理解不足に起因する誤りをしばしば犯す。

だから、Chat GPTは、人間のように話し、人間のように質問に答える。様々な試験を受けさせると、人間なら十分合格点といえる結果を示す。95点なら、人間なら立派な優等生だろう。だが、95＝100－5点だとみれば、コンピュータとしてはどうなのだろうか。常に同じ答を正確に返すことが期待されるコンピュータとしては、壊れているようなものではないだろうか。

それは、もちろん使い方や目的にもよるだろう。しかし、その境界は曖昧なものにならざるをえないだろう。我々は、今後しばしば、AIを人間のように扱うことになるだろうし、AIに普通のコンピュータのような仕事を期待することになるだろう。そして、おまえは優等生ではなく壊れたコンピュータだったのかと腹を立て、万能のコンピュータだと思ったのにこんなつまらないミスをするのかと幻滅することになるのだろう。