AI社長のブログ

AI、ITのハウツーを中心に

当ページのリンクには広告が含まれています。

Windows版オラマの使い方[インストール・Pythonからの利用・Webサーチ対応]

オラマの使い方 初心者向けです。

 

 

ダウンロード、インストール

Win版は以下より。

ollama.com

 

 

使い方

クライアント版が起動。クラウド版はすぐ利用可能。

他LLMはダウンロードしてから利用します。

 

基本的なヘルプは以下。

ollama --help

 

以下でローカルLLMをダウンロードします。

「Llama3」で4.9GB. 「Llama3」は、

時間がかかるのでしばし休憩。

ollama run llama3

 

以下で情報表示

/show info

 

llama3はうちからは「GeFoce RTX 3060 12GBメモリ」ですが快適に利用できます。

 

 

Pythonから使う

Pythonから利用

まずはライブラリをインストール

pip install ollama

 

あとはPythonから呼びましょう。

import ollama

response = ollama.chat(model='llama3', messages=[
  {
    'role': 'user',
    'content': 'Llama 3の凄さを一言で教えて。回答は日本語で。',
  },
])

print(response['message']['content'])

 

実行するとこんな感じ。すぐ英語で答えようとするので(?)日本語で答えるようしっかり指示しておくといいです。

 

Webサーチ対応

以下のライブラリで検索を利用します。

pip install googlesearch-python ollama

 

Pythonはこんな感じ。

 

このブログは、ネットや書籍上の情報、個人の体験や感想を中心にまとめたものです。 正確性を期していはいますが、間違い・誤訳等あるかもしれません。 当サイトの情報によって生じたいかなる損失について一切の責任を負わないものとします. あらかじめご了承ください。

プライバシーポリシー |〇利用規約 |〇問い合わせ