Open Interpreter+llama2(7B/Small)は役に立たないなぁ
公開 2023/09/14 16:10
最終更新
2023/09/15 14:21
Open Interpreterが使えるようになったとはいえ、使えるGPUがVRAM8GBのものなので、知れているというか。
でも、一番下のモデルは初期段階でつまづくことが多くて、役に立たない感じ。
13B/Smallは手持ちの環境でなんとか動くし、日本語で回答してくれないけれども、一応日本語は解釈してくれているので、それなりのプログラムは作れるみたい。
Code Interpreterで見るような賢さには至っていないように見えるのは、GPT-4にはかなわないということでしょうかね。お金を払えば、Open InterpreterでもGPT-4が使えるわけだし、この点は互角か。
とりあえず、8GBのVRAMで使えるのは、7B/Small&Medium、13B/Smallまで。
試してみて、なんとなく役に立ちそうなのは13B/Smallだけかなぁ。
12GBの3060を買ってもらうか。中古でもいいし。
でも、一番下のモデルは初期段階でつまづくことが多くて、役に立たない感じ。
13B/Smallは手持ちの環境でなんとか動くし、日本語で回答してくれないけれども、一応日本語は解釈してくれているので、それなりのプログラムは作れるみたい。
Code Interpreterで見るような賢さには至っていないように見えるのは、GPT-4にはかなわないということでしょうかね。お金を払えば、Open InterpreterでもGPT-4が使えるわけだし、この点は互角か。
とりあえず、8GBのVRAMで使えるのは、7B/Small&Medium、13B/Smallまで。
試してみて、なんとなく役に立ちそうなのは13B/Smallだけかなぁ。
12GBの3060を買ってもらうか。中古でもいいし。
