カワリモノ息子の技術メモ的な~

カワリモノ息子とその母の技術メモ的な〜

学校が苦手な息子くんの作品とその母の作品、はたまた日常などいろいろを在宅エンジニア母が綴る

息子さん自宅にChatGPTライクな『NotGPT』を作っていました

ChatGPT

 今流行っていますね、ChatGPT。
 ChatGPTとはOpenAIというところが開発したチャットAIです。

 TwitterでもChatGPTのやりとりのスクショを見ない日はないですし、息子さんはAI好きなのでちょいちょい面白いと言って見せてきます。
 なかなか賢いAIで調べ物をする時などとても便利です。
 

グラフィックボード

 ChatGPTのようなサービスを利用せずに自分のマシンでAI処理(学習・推論)させることも可能なのですが、その場合ある程度高性能なGPU(グラボ)が必要になります。

 息子さんは自宅PCのグラボを使ってAIを動かして遊んでおり、現在のグラフィックボードは

 Palit NE63060T19K9-190AD (GeForce RTX 3060 Dual OC 12GB) LHR版

 というものです。
 実は去年購入したグラボ、事情あって先日こちらに買い替えました。

NotGPTというのを作った

 息子さん、上記のGPUを自宅に環境を作ってChatGPTならぬNotGPTというのを作っていました。名前を見て吹いてしまいました。

 こちらTweetしましたらたくさんの反応をいただきました。有難うございます。

中身の説明

 息子さんからいろいろな説明をうけましたが、あんまり理解できない部分あり・・・でも聞いたことをまとめてみたいと思います。
 息子さんの説明ももしかしたら違っている部分もあるかもな上、私の伝え聞きでおかしなことになっている可能性あるので変なところあったらすみません。

利用したAIモデルはPtyhia

 PythiaというAIモデルでバージョンは6.9Bを使用しているそうです。
 
 PythiaというAIモデルについて書いて教えてくれたのが下記の図です。

 青いカッコの部分がOpenAI。ChatGPTで使用されているものです。
 今はOpenAIは以前はオープンソースだったのが現在はそうではなくなったそうで、そういう意味で息子さんがClosedとか書いてます…。

 OpenAIであるGPT-3とはAIモデルであり手法のことを指すそうです。その下に書いているGPT-NeoXというのはGPT-3の派生でありこれはオープンソースで公開されています。
 息子さんの作ったNotGPTはこのGPT-NeoXの手法が使われているPythiaというAIを使用しているということでした。

 Hugging Face というAIに特化したGitHubみたいなのがあり、今回利用したPythiaはこちらのリンクだそうです。「dedupedのほう」と言ってました。

huggingface.co

本当は日本語に特化したAIを使用したかった

 公開されている日本語対応のAIモデルもいくつかあったらしいのですが、どれもパラメータ数が少なく精度が高くないためうまく機能しなかった?そうです。

 それで日本語でないAIも使っていくうちに、Pythiaに行き着いたそうです。

 また、チャット型AIは質問がありそれに答えるという形式であり、最初にAIに「質問が来たら、こうきたらこんなふうに返すんだよ」ということを教えてあげる必要があるそうです。(※これは息子さんより表現が間違っていると指摘がありました。でも何度聞いても私の脳にはこうしか理解できず、最終的には「ChatGPTに聞いて」と突き放されてChatGPT先生に聞いてみたのですがそれでもよくわかりませんでした。とほほ)

 とにかくチャット形式にするための特別な処理が必要であり、この調整が大変なのだそうです。

 初期の制作物は下記のようになぜかただのオウム返しになってしまったとのことでしたw
 

NotGPTの処理の流れ

 前述のことから翻訳もいけるんだとわかり、下記のフローにして処理を行うことで会話を実現させたとのことでした。


サーバー構成

 自宅PCのサーバー構成についても教えてもらいました。S1、S2と物理サーバー2台で動かしているそうです。S1のほうがグラボが搭載マシンです。

 現在DiscordのBOTでも動かしてるそうでS1はNotGPTのWeb画面からとの共用で利用できるとのことでした。


さいごに

 これ書くの大変でした。息子さんが教えてくれるけど私がなかなか理解できず…。

 要所要所で出てくる単語の意味もわからず、ため息をつかれて「ChatGPTに聞いて」と言われ何度か入力して聞いてみました(苦笑)

 「ぐぐれカス」は今後「ChatGPTに聞け」になるのでしょうか。
 と息子さんに言うと、「ChatGPTじゃなくてBingかもね」て言ってました。まだ利用許可がおりてなくてBingは使ったことがないのですが、引用元が表示されるため間違った情報でないか確認することができるらしいです。なんでも鵜呑みにせず確認が大事ですね。

 このブログを書くときも間違ってないか信頼性の高そうなネット記事など確認しながらすすめましたが、知識が浅いため詳しい方がご覧になるとそれでも間違ってるところあるかもしれないのでそのときはご指摘ください。