人にとっての「言語」とAIの「大規模言語モデル」について

最近、ChatGPTを開発したOpenAIをはじめ、GoogleやMetaや、日本国内でも大規模言語モデルへの取組が活発になっています。
大量のデータを使い学習し、チューニングを行い大規模言語モデルが作られた結果、ChatGPTのように、まるで人と対話しているかのような会話を行うことができるようになりました。

人は生まれてから成長するに従い、単語を覚え、片言のことばを覚え、小学校から中学、高校、大学と言葉を通して様々な知識を習得していきますが、これと、AIの学習はどこが違い、どこは同じなのでしょうか?

脳科学を学んだわけでもなく、AIの勉強をしたわけでもない私にとっては、不思議なことばかりです。
しかし最近、面白そうな本に出合いました。

  • 「大規模言語モデルは新たな知能化」(岡野原大輔 著)
  • 「言語の本質」(今井むつみ/秋田喜美 著)

最初の本は、最近の大規模言語モデルに至るまで技術的な変遷を、素人にもわかるように書かれています。
読んだときは、なんとなくわかった気になりましたが、友人と話をしながら、内容を説明しようとすると、理解できていないことに気づき、もう一度読み直さなければなりませんが、最近のこの類の話についていくには、丁度いい感じの本です。

2つめは、まだ読み切っていませんが、「オノマトペ」をとっかかり、感覚として言葉や母国語に立脚した言葉を感覚として理解するというあたりの話は、興味深いです。このあと、言語に関する部分へと話はつながっていくようですが、楽しみです。

なぜ言葉に興味を持つようになったのか…

言葉に興味を持ったきっかけは、メタバースに出合ってのことです。
メタバース空間に、自分のアバターで参加したときの衝撃は、例えようがありません。
元々、TV会議製品の開発を20年近く行っていたこともあり、TV会議でのリモートコミュニケーションには十分なれていました。
メタバースでのコミュニケーションを行うまでは、映像が、アバターにかわるだけで、わざわざHMDをかぶってまでやる価値があるのか?と結構、懐疑的に思っていました。
しかし、実際、体験してみると、その没入感からか、ほんとうに同じ空間にいて、話をする感覚になりました。
やるまでは、HMDが重いだろうとか、アバターだと、人と感じないだろうだとか想像していましたが、そんなことはありません。

この経験をするなかで、テキストを発話させる技術(Text to Speach)+アバターがあれば、自分の分身ができるだろう。そして、自分の思考に近い応答するテキスト生成や、音声認識を組合わせれば、ほんとうに自分の分身が作れるだろうけど、自由対話のできる思考回路が最大のネックで、それ以上考えることはありませんでした。

そんなとき、GTP2の存在を知り、GPT3がリリースされても、それを使うこともできませんでしたが、ChatGPTがリリースされ、それに触れた時、メタバースを経験したときのような衝撃を受けました。

これで、自由対話が可能になり、あとは自分の思考パターンを学習させることということになります。
さて、自分の思考パターンを学習させるには、何が必要なのでしょうか?

このあたりから、思考回路に興味がわき、思考は「言語」で行っているのだから、「言語」に興味があり、そのあたりの学びを少しずつ始めることとなりました。

少し脱線しますが…

ちょっと面白い本を紹介します。

  • 普通に会話ができるドラえもんの心のつくり方①(コンピュータに意識が発生するまで)
  • 普通に会話ができるドラえもんの心のつくり方②(自由意志をもったコンピュータ)

結構、興味をそそられるタイトルで、つい読んでしまいました。
いろいろ研究されているので、本当に作れそうと思ったりしましたが、現実に触れるものがないためが、論理上のことなのか?と思ったりしました。

そんな時に、ChatGPTに触れると、色々な理屈はどうであれ、ChatGPTと対話している時が、私にとって最も人と対話しているように感じられました。

この人と対話をしている感覚とは、相手が人ではないかと思えるということです。
この「思える」ということが重要で、ChatGPTに意識があるかどうかが問題ではなく、対話している私自身が、人だと感じられることこそが、重要だということです。

つまり、コンピュータに意識が芽生えるのではなく、自分の中に、相手には意識がある(人のよう)ような感覚を持つということが、「ドラえもんの心」だと、私は思っています。

今後…

自分の分身を作るために、自分の思考パターンを作ることが必要です。

そのために、多くの自分の意見を文字化あるは動画にしておくことが、今後の学習データとして重要だろうと考えるようになりました。

そのことも念頭におき、TanaKafeWorksサイトやSNSへ情報発信をつづけていきたいと思っています。