目次
ローカルLLMを導入するのに必要なもの
まずラップトップ(ノートPC)かRTX50シリーズのVRAMが16GBぐらいあるデスクトップPCが
必要です。
MacならMacBookProやMac miniがおすすめです。
Macの場合はCPUはM5 MaxとかM5 Proとかも大事ですが
VRAMの代わりにメモリ(ユニファイドメモリ)の大きさが大事です。
もし予算が合うなら大きいサイズなら大きいほどいいです。
例えば選択肢が128GBまであるなら128GBを選択した方が長く使える可能性があります。
WindowsならCPUも大事ですがGPUがもっと大事です。
RTX5080かRTX5070Tiぐらいがおすすめです。
もちろん石油王ならRTX5090一択ですが
あまりにも値上がりしすぎたのでRTX60シリーズまで待ってから買うのも
2026/08/19時点ではおすすめです。
ローカルLLMってなに?
これは簡単に書くと
ChatGPTやClaudeが自分のパソコンで動かすことができることです。
全く同じものではないですし設定方法によって多少違ったりします。
ローカルLLMを使うのに必要なお金
導入さえしてしまえば
電気代ぐらいしかかからないと思います。
導入手順
Step 1
まずは今回は初級編なのでOllamaを使った手順を紹介します。
最初にOllamaをダウンロードしてください。
https://ollama.com
上記のリンクからdownloadを選択して
WindowsかMacを選択してください。
Macの場合ドラッグ&ドロップでアプリケーションリストに
出てきますが
一度起動しないと
インストールできていません。
Step 2
まずインストールができたことを確認するために
コマンドプロンプトまたはターミナルで
Macなら
これでちゃんと
ollamaのバージョンが表示されたら問題ありません。
されなかったらもう一度
正確にインストールできているか確認してください。
Step 3
まずAIの頭脳をいれる必要があるのですが
不安定だと元も子もないですので
Googleが無料で公開しているGemma4をいれてみましょう。
Gemma4は2026/08/19時点で最新のバージョンが4になります。
もし5や6がリリースしてからこのページを
参照されている方はその時の最新のバージョンを入れてください。
最初は12Bとかよくわからないと思いますが
BはBillionで10億のことを意味します。単位の区切りが日本語と英語で違うので
ピッタリ億と万などが一致していませんが特に気にしないでください。
Gemma4のモデルの中には12B 26B 31Bなどがあります。
大きくなるほどメモリが多く必要になります。
まずはGemma4の12BをOllamaにインストールしてみましょう。
ターミナルなどに以下のコードを入力します。
これでターミナルなどにプログレスバーが出てくるので
完了するまで待ちましょう。
次に起動させます。
以下のコードを入力するとollama上でgemma4の12Bが起動します。
なんでも入力できるようになっているので
とりあえず
こんにちは あなたのモデル名を教えてください
といった軽い質問(プロンプト)を
送ってみましょう。
ローカルで処理されたあと答えが返ってくると思います。
ローカルLLMの終了方法
controlキーとDボタンを同時押しで終了します。
WindowsもMacも同じです。
まとめ
この状態ではインターネットにつながっていないのでできることが限られます。もう少し便利になるように新しい記事を作成しますので今しばらくお待ちください。