llama-cpp-pythonが必要になった場合の話
公開 2024/05/28 15:33
最終更新
2024/06/07 15:59
ずっとllama-cpp-pythonがインストールできていなかったんですけど、結局Windows上でコンパイルさせる流れはうまくいかないってことでしょうかねぇ。
それとも、githubからソースコードをもらってくれば、それなりにうまくいったんでしょうか。
とりあえず、以下のところでメイク済みのllama-cpp-pythonをインストールする方法を知ることができました。この方法でも、CMAKE_ARGSなどがCUDAコンパイル用の設定をしているとエラーが出ますから、環境変数を削除するなりして対応します。
https://note.com/rxob84/n/n63fd50b71959
pip install llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/12.1
2024年5月28日時点では0.2.76がインストールされたみたいです。
それとも、githubからソースコードをもらってくれば、それなりにうまくいったんでしょうか。
とりあえず、以下のところでメイク済みのllama-cpp-pythonをインストールする方法を知ることができました。この方法でも、CMAKE_ARGSなどがCUDAコンパイル用の設定をしているとエラーが出ますから、環境変数を削除するなりして対応します。
https://note.com/rxob84/n/n63fd50b71959
pip install llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/12.1
2024年5月28日時点では0.2.76がインストールされたみたいです。
