StableLMとは？使うには？ - ChatGPTの教科書

「StableLM」はStability AIのオープンソースの大規模言語モデルです。

「StableLM」は、「Stability AI Language Models」です。

Stable Diffusionなどを提供しているStability AIが新たに公開したオープンソースの大規模言語モデルです。

アルファ版は30億パラメータと70億パラメータのモデルが用意されており、今後150億パラメータから650億パラメータのモデルも用意される予定。

開発者は、CC BY-SA-4.0ライセンスの条件に従って、商用または研究目的で自由に検査、使用、適応することができます。

OpenAIの提供するChatGPTはクローズドですが、このようにオープンソース型のものであれば何か問題があった場合にわかる人はいろいろと対処策を講じやすくなります。

今のところ英語のみ対応ということで今後、日本語など多言語への拡張が期待されます。

コードはGithubで公開中。

オンラインで実際にチャットを試すには、AIモデルの共有サイトである「ハギングフェイス」が利用できます。

ただし現時点では応答なしです。混んでるんですかね。

後日試したところ、無事会話ができました。

Redditによれば llama.cppを使う場合は以下の手順でインストール可能。

llama.cpp

modelsフォルダを作り、以下モデルを入手して入れます。

パスを移動し

run: path\to\main.exe -m models\7B\ggml-model-stablelm-tuned-alpha-7b-q4_0.bin -n 128

を実行。