「StableLM」はStability AIのオープンソースの大規模言語モデルです。
StableLMとは?
「StableLM」は、「Stability AI Language Models」です。
Stable Diffusionなどを提供しているStability AIが新たに公開したオープンソースの大規模言語モデルです。
アルファ版は30億パラメータと70億パラメータのモデルが用意されており、今後150億パラメータから650億パラメータのモデルも用意される予定。
開発者は、CC BY-SA-4.0ライセンスの条件に従って、商用または研究目的で自由に検査、使用、適応することができます。
Stability AI 言語モデル「StableLM Suite」の第一弾をリリース - (英語Stability AI
OpenAIの提供するChatGPTはクローズドですが、このようにオープンソース型のものであれば何か問題があった場合にわかる人はいろいろと対処策を講じやすくなります。
今のところ英語のみ対応ということで今後、日本語など多言語への拡張が期待されます。
コードはGithubで公開中。
Stability-AI/StableLM: StableLM: Stability AI Language Models (github.com)
StableLMを試す
オンラインで実際にチャットを試すには、AIモデルの共有サイトである「ハギングフェイス」が利用できます。
ただし現時点では応答なしです。混んでるんですかね。
Stablelm Tuned Alpha Chat - a Hugging Face Space by stabilityai
後日試したところ、無事会話ができました。
Stablelm Tuned Alpha Chat - a Hugging Face Space by stabilityai
Windowsへのインストール
Redditによれば llama.cppを使う場合は以下の手順でインストール可能。
llama.cpp
Releases · ggerganov/llama.cpp (github.com)
modelsフォルダを作り、以下モデルを入手して入れます。
cakewalk/ggml-q4_0-stablelm-tuned-alpha-7b · Hugging Face
パスを移動し
run: path\to\main.exe -m models\7B\ggml-model-stablelm-tuned-alpha-7b-q4_0.bin -n 128
を実行。
(17) Very simple guide for installing StableLM : StableLM (reddit.com)