Ollamaのインストール

Ollama の Linux へのインストールと基本使用法

Ollamaとは

Ollamaは、クラウドに依存せずに自分のPC上で大規模言語モデル（LLM）を動かすことを可能にする仕組みです。従来、LLMを利用するにはクラウドサービスを経由するケースが一般的で、そのためにセキュリティやプライバシーに関する懸念がつきまとっていました。Ollamaはその課題に応える形で開発されており、ユーザーはネットワークに依存することなく、機密性の高いデータを外部に出さずに利用することができます。

操作はシンプルで、コマンド一つでモデルを呼び出して対話を始められるため、難しい設定や環境構築を意識する必要はありません。また、MistralやLLaMA、Gemmaといったオープンソースのモデルを選んで試すことができ、用途に応じてモデルを切り替える柔軟性も備えています。さらに、APIを通じて他のアプリケーションやサービスと連携できるため、実験から実務まで幅広い場面で活用可能です。

インストール手順

以下のコマンドで、Ollama を Linux にインストールできます。

# 公式サイト: https://ollama.com
curl -fsSL https://ollama.com/install.sh | sh

バージョンを指定したインストール

バージョン指定してインストールする場合は、リリースページを確認して、変数OLLAMA_VERSIONを指定することで、インストール可能となる。プリリリースもインストールできる。

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.13.3 sh

インストール後、以下のようにしてモデルを実行可能です。 ollama run gemma3 "hello" このコマンドで gemma3 モデルを使って “hello” を送信します。

使用前に知っておくべきTips（前提事項）

APIはバックグラウンドでserveが動いていれば利用可能 ollama runを実行すると、自動的にバックグラウンドで serve が起動します。プロンプトを抜けても serve は動き続け、API経由でモデルを呼び出せる状態が維持されます。
systemctl でサーバー状態の操作が可能 Ollama サーバーの状態を制御するには以下のコマンドを使用します。
- sudo systemctl status ollama # 状態の確認
- sudo systemctl start ollama # サーバーの起動
- sudo systemctl stop ollama # サーバーの停止
モデルは事前に pull しておく必要がある使用したいモデルは、事前にローカルにダウンロード（pull）しておきます。 ollama pull gemma3 pull 済みのモデルであれば、APIやCLIからすぐに利用可能です。
モデルはハードウェアと用途に応じて選択する大規模モデル（例: llama3）は、メモリやGPU性能を多く消費します。小規模モデル（例: gemma、mistral）は、比較的軽量でローカル実行しやすいです。使用用途（チャット、コード補完など）や、PCスペックに応じてモデルを選びましょう。
APIレスポンスはデフォルトで stream モードデフォルトではストリーミング（逐次出力）形式で応答します。一括出力が欲しい場合は、APIリクエストの body に以下のように設定します。
```
{
  "prompt": "こんにちは",
  "stream": false
}
```

APIの基本的な使い方 APIは HTTP POST でアクセスし、JSON 形式の body を送信します。例：

curl http://localhost:11434/api/generate -d '{
  "model": "gemma3",
  "prompt": "こんにちは",
  "stream": false
}'

Reference

◀︎ 概要 | OllamaのAPI ▶︎