# AI モデルを自分のパソコンで動かすには？

> Ollama や llama.cpp などで、オープンな AI モデルを自分のノートパソコンやサーバーで動かす方法、収まる量子化モデルの選び方、エネルギーの測り方です。

Source: https://greenai.guide/ja/ハウツー/ai-モデルを自分のパソコンで動かすには/  
Updated: 2026-11-19

## 要点

Ollama や llama.cpp などのローカル実行ツールをインストールし、GGUF などの量子化形式の小さなオープンウェイトモデルをダウンロードして、自分のコンピューターで動かしましょう。作業をこなせる最小のモデルを選びます。量子化版は必要なメモリがはるかに少なく、16 ビット形式で約 16 GB を要する 80億パラメータのモデルも、4 ビットなら約 4〜5 GB に収まります。

## Steps

1. コンピューターのメモリ量と、使える GPU や Apple シリコンがあるかを確認します。
2. Ollama や llama.cpp などのローカル実行ツールをインストールします。
3. メモリに収まる量子化形式の、小さなオープンウェイトモデルをダウンロードします。
4. 実際の作業で試し、力不足の場合に限って一段大きなサイズにします。
5. コンセント型の電力計や CodeCarbon などのツールで、エネルギーを測ります。
6. 使っていないときはモデルを閉じ、メモリや電力を占有しないようにします。

**モデルをローカルで動かすとは、実行ツールと収まるモデルを選び、そのうえで測定することです。** データを自分のマシンに置いたままにでき、ホスト型のサービスでは決して見えない、AI のエネルギーコストを正確に確かめられます。

## 何が必要ですか？ {#what-do-i-need}

- **実行ツール。** Ollama は、自分のコンピューターでオープンなモデルを使うための人気のある方法です。llama.cpp はより低レベルの C/C++ エンジンで、幅広いハードウェアで最小限の設定でモデルを動かすことを目指しています。
- **モデルファイル。** GGUF は高速な読み込みと効率的な推論のために最適化されたバイナリ形式で、重み 1 つあたり 2 ビット未満から 8 ビットまでの量子化版があります。
- **十分なメモリ。** Hugging Face のドキュメントは目安を示しています。80億パラメータのモデルの重みには、16 ビット形式で約 16 GB、8 ビットで約 8 GB、4 ビットで約 4〜5 GB が必要です。ビット数を減らすと、精度がいくらか下がります。

## クラウドよりグリーンですか？ {#is-it-greener-than-the-cloud}

**自動的にそうなるわけではありません。** 一度に 1 件ずつリクエストを処理するノートパソコンは、まとめて効率よく処理している稼働率の高いデータセンターのサーバーより、回答 1 件あたりの効率が低いことがあります。ローカルが有利なのは、モデルが小さいとき、作業が頻繁なとき、または大きなデータをネットワーク経由で送らずに済むときです。[端末かクラウドか](/ja/ハウツー/ai-は端末で動かすのとクラウドで動かすのと-どちらがいい/)をご覧ください。

## よくある間違い {#common-mistakes}

- **マシンに収まる最大のモデルをダウンロードすること。** 小さく始めましょう。
  [より小さな AI モデルを選ぶ](/ja/ハウツー/もっと小さい-ai-モデルを選ぶにはどうすればいい/)をご覧ください。
- **電力を多く消費する GPU を積んだデスクトップで、モデルを一日中読み込んだままにすること。**
- **量子化モデルを試す前に新しい GPU を買うこと。** [モデルを量子化する方法](/ja/ハウツー/ai-モデルを量子化するには/)をご覧ください。

エネルギーを確かめるには、
[自分のコンピューターで AI が使うエネルギーを測る](/ja/ハウツー/自分のパソコンや-gpu-で-ai-が使うエネルギーはどう測る/)で説明しているとおり、コンセント型の電力計か CodeCarbon を使います。トレードオフについては、[エッジかクラウドか](/ja/グッドプラクティス/エッジかクラウドか-ai-はどこで動かすべきか/)をお読みください。

## 出典

- [Ollama documentation](https://docs.ollama.com), Ollama (2026)
- [llama.cpp: LLM inference in C/C++](https://github.com/ggml-org/llama.cpp), ggml-org (GitHub) (2026)
- [GGUF](https://huggingface.co/docs/hub/gguf), Hugging Face Hub documentation (2026)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
