はじめに：なぜ今、ローカルLLMなのか？

近年、ChatGPTをはじめとする大規模言語モデル（LLM）が注目を集めていますが、その多くはクラウドベースのAPI経由で提供されています。これには手軽さという利点がある一方、利用コスト、データプライバシー、オフラインでの利用不可といった課題も存在します。

そこで登場するのが「ローカルLLM」です。手元のPC上でLLMを直接実行することで、これらの課題を解決できます。Ollamaは、このローカルLLM環境の構築を劇的に簡単にしてくれるツールです。複雑な設定は不要で、数個のコマンドを実行するだけで、誰でも自分のPC上で高性能なLLMを動かすことができます。

本記事では、Ollamaのインストールから基本的な使い方、さらにはAPIとしての活用方法まで、初中級者の方にも分かりやすく解説していきます。

Ollamaのインストールとセットアップ

Ollamaの導入は非常にシンプルです。macOS, Windows, Linuxに対応しており、公式サイトからインストーラーをダウンロードして実行するだけで完了します。

まずは公式サイト（ollama.com）にアクセスし、お使いのOSに合ったインストーラーをダウンロードしてください。ダウンロードしたファイルを実行し、画面の指示に従ってインストールを進めます。特別な設定は必要ありません。

インストールが完了したら、ターミナル（Windowsの場合はコマンドプロンプトまたはPowerShell）を開き、以下のコマンドを実行してバージョン情報を確認してみましょう。バージョン番号が表示されれば、セットアップは成功です。

ollama --version

これだけで、あなたのPCはLLMを実行する準備が整いました。バックグラウンドでOllamaのサーバーが自動的に起動している状態になります。

LLMモデルのダウンロードと対話実行

Ollamaの準備ができたので、早速LLMモデルを動かしてみましょう。モデルのダウンロードと実行はollama runコマンドで行います。ここでは、比較的小さく高速に動作するMeta社のllama3:8bモデルを例に試します。

ターミナルで以下のコマンドを実行してください。初回実行時は、モデルファイルのダウンロードが自動的に開始されます。ダウンロードが完了すると、プロンプトが表示され、対話形式でLLMとチャットできるようになります。

ollama run llama3:8b

プロンプトに「日本の首都は？」などと入力して、Enterキーを押してみてください。AIからの応答が生成されるはずです。チャットを終了するには/byeと入力します。

Ollamaでは多種多様なモデルが利用可能です。例えば、日本語性能が高いとされるcommand-rやGoogleのgemma:7bなども同様に実行できます。インストール済みのモデル一覧はollama listコマンドで確認できます。

OllamaをAPIサーバーとして利用する

Ollamaの強力な機能の一つが、ローカルLLMを簡単にAPIとして公開できる点です。Ollamaアプリケーションを起動すると、自動的にローカルホスト（http://localhost:11434）でAPIサーバーが起動します。これにより、自作のアプリケーションからLLMの機能を呼び出すことが可能になります。

ここでは、curlコマンドを使ってAPIにリクエストを送信してみましょう。以下のコマンドは、llama3:8bモデルに対して「なぜ空は青いの？」というプロンプトを送信する例です。

curl http://localhost:11434/api/generate -d '{
  "model": "llama3:8b",
  "prompt": "なぜ空は青いの？",
  "stream": false
}'

リクエストボディのJSONで、使用するmodel、入力するpromptを指定します。"stream": falseと設定すると、生成が完了した後に全ての応答が一度に返されます。これをtrueにすると、ChatGPTのように単語が次々と生成されるストリーミング形式で応答を受け取ることができます。

このAPIを使えば、PythonやJavaScriptなど、好きなプログラミング言語からローカルLLMを制御するアプリケーションを開発できます。

まとめ：ローカルLLM開発の第一歩を踏み出そう

本記事では、Ollamaを使ってローカル環境にLLMを構築する方法を解説しました。公式サイトからインストーラーを実行し、いくつかの簡単なコマンドを叩くだけで、自分のPC上でAIと対話できる環境が手に入ります。

今回学んだ内容は以下の通りです。

  • Ollamaのインストールとセットアップ方法
  • ollama runによるモデルのダウンロードと対話実行
  • ollama listによるインストール済みモデルの確認
  • curlを使ったAPI経由でのLLMの利用

Ollamaは、プライバシーを確保しながらオフラインでも利用できるローカルLLMの可能性を大きく広げてくれました。ここからさらに、LangChainやLlamaIndexといったフレームワークと連携させてRAG（Retrieval-Augmented Generation）アプリケーションを構築するなど、応用の幅は無限大です。ぜひこの記事をきっかけに、あなただけのAIアプリケーション開発に挑戦してみてください。

記事一覧に戻る