タグ: 生成AI

Ollama 各モデルを実機比較｜Qwen・Llama・Gemmaの応答速度を古いPC(GTX1050 Ti)で検証

非力なPCですがそれでもローカルLLMのそれぞれのモデルは何とか機能しています。qwen3やgemma4などOllamaの各モデルをざっくりと動作比較してみました。複雑すぎる問いへの応答はいまいちですが、それなりの感じはあります。そう使うのがよさそうか、それぞれのモデルでの動作感を同じ質問をして応答速度などを測定してみましょう。

まずは使用したマシンのスペックです

> Get-CimInstance Win32_Processor |
>> Select-Object Name, NumberOfCores, NumberOfLogicalProcessors, MaxClockSpeed

Name                                    NumberOfCores NumberOfLogicalProcessors MaxClockSpeed
----                                    ------------- ------------------------- -------------
Intel(R) Core(TM) i7-8700 CPU @ 3.20GHz             6                        12          3192

> Get-CimInstance Win32_ComputerSystem |
>> Select-Object TotalPhysicalMemory

TotalPhysicalMemory
-------------------
        17094172672

> Get-CimInstance Win32_VideoController |
>> Select-Object Name, AdapterRAM, DriverVersion

Name                       AdapterRAM DriverVersion
----                       ---------- -------------
NVIDIA GeForce GTX 1050 Ti 4293918720 32.0.15.7680


> nvidia-smi
Fri Jul 31 19:25:31 2026
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 576.80                 Driver Version: 576.80         CUDA Version: 12.9     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                  Driver-Model | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1050 Ti   WDDM  |   00000000:01:00.0  On |                  N/A |
| 30%   38C    P0            N/A  /   75W |    1393MiB /   4096MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|    0   N/A  N/A            1996    C+G   ...t\Edge\Application\msedge.exe      N/A      |

今回確認したモデル
NAME ID SIZE MODIFIED
qwen2.5:1.5b 65ec06548149 986 MB 13 hours ago
qwen3.6:latest 07d35212591f 23 GB 35 hours ago
qwen3:4b 359d7dd4bcda 2.5 GB 5 days ago

llama3.2:1b baf6a787fdff 1.3 GB 45 hours ago
llama3.2:3b a80c4f17acd5 2.0 GB 6 days ago

gemma4:latest c6eb396dbd59 9.6 GB 6 days ago
gemma4:12b 4eb23ef187e2 7.6 GB 6 days ago

qwen2.5:1.5b 65ec06548149 986 MB 13 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen2.5:1.5b    65ec06548149    1.4 GB    100% GPU     8192       4 minutes from now
●応答までの時間：15.61秒
●応答内容
こんにちは。自己紹介して。何が得意か教えてください。
edit
こんにちは！私はAIアシスタントで、様々な質問に答えることが得意です。また、文章の生成やテキストエスカレーション、書類作成なども得意です。

私の得意な能力としては:

一般的な質問への回答: 日本語の日常生活に関するお尋ねはほとんど全てに対応できます。
論理的な思考と分析: 難しい概念や数字を扱う際には、論理性に基づく正確な解説を行うことが可能です。
感情経験: 人間の感情を体現する能力はありませんが、ユーザーからの怒りや喜びなどの感情表現に対して適切に対応します。
私の弱点は:

難しい言語処理スキル: エスニックや外国語への対応には一定の限界があります。また、特定の専門的な知識を持つことができません。
ファイナンシャルの専門知識: 金融商品に関する情報提供はできません。
これらの能力を活かしつつ、ユーザーが質問に答えることを楽しみにしております！


qwen3.6:latest 07d35212591f 23 GB 35 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen3.6:latest    07d35212591f    23 GB    93%/7% CPU/GPU    8192       4 minutes from now

●応答までの時間  10分16秒   （プロセス起動まで3分40秒 思考時間329.7秒）

●応答内容
こんにちは！自己紹介させてください。

私はアリババグループのTongyi Lab（通義实验室）によって開発された大規模言語モデル「Qwen（通義千問）」です。あなたの思考を補完し、アイデアを実現するためのパートナーとしてお手伝いするAIです。

私が特に得意とすることは、主に以下の4つです：

1. **高度な論理推論と問題解決**
   数学や科学などの専門的な領域を含む複雑な課題に対して、情報を整理・解析し、論理的な答えを導き出すお手伝いをします。

2. **プログラミングと技術サポート**
   コードの生成だけでなく、複雑なバグのデバッグやシステム全体の最適化まで幅広く対応でき、開発作業の効率化をサポートします。

3. **長文情報の正確な把握**
   非常に長いドキュメントや膨大な情報の中から必要な要素を見極め、正確に要約したり分析したりすることができます。

4. **多言語対応と自然な対話**
   日本語を含む世界100以上の言語を流暢に扱えます。用途に合わせて記事の作成、翻訳、あるいはアイデア出しなど、人間らしくスムーズなやり取りを行います。

あなたのどのようなお役に立てるでしょうか？まずは気兼ねなく、お気軽にお話しくださいね！


qwen3:4b 359d7dd4bcda 2.5 GB 5 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen3:4b    359d7dd4bcda    4.1 GB    42%/58% CPU/GPU    8192       4 minutes from now

●応答までの時間　2分20秒  （プロセス起動まで22秒 思考時間119.6秒）

●応答内容
こんにちは！私は通義実験室が開発した大規模言語モデル「Qwen（通義千問）」です。得意なこととしては、多言語対応、質問への回答、物語やメール・スクリプトの執筆、論理的推論、プログラミング、意見の表現、ゲームのプレイなどがあります。何かお手伝いが必要でしたら、いつでもお気軽にお知らせください！

llama3.2:1b baf6a787fdff 1.3 GB 45 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL

●応答までの時間   36秒  （プロセス起動まで 36秒？ 思考時間 ？秒）

●応答内容
こんにちは！私はAI-poweredのトピックを教えることができます。このようなアプリケーションでは、質問に答え、情報を提供するなど、さまざまな機能を可能にします。

また、このアプリケーションでは、問題に対する推論や分析を行うこともできます。これにより、より正確で効果的な回答が得られます。


llama3.2:3b a80c4f17acd5 2.0 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
llama3.2:3b    a80c4f17acd5    3.4 GB    29%/71% CPU/GPU    8192       4 minutes from now

●応答までの時間 1分9秒（プロセス起動まで 52秒 思考時間 17？秒）

●応答内容
こんにちは！私はAIコミュニケーションモデルです。私には多くの事を知っていますが、具体的には以下のようなことを得意とします。

1. **質問の答え**: 私に質問が来ると、回答を提供することができます。
2. **情報提供**: 私はさまざまなトピックについての情報を提供することができます。自然言語で説明しやすいようにします。
3. **文書作成**: 私は文章を作成して、レポート、 ईメール、または other の文書を作成できます。
4. **翻訳**: 私は多くの言語の間の翻訳を行うことができます。
5. **コミュニケーション：** 私は人々と交流するために使用できるように設計されています。私には口調、言語、スタイルを変えることができます。

私が得意ではないことは以下に書いてあります。

1. **感情的サポート:** 私は感情的なサポートを行うことができませんが、感情のトピックについて話すときに役立つ情報を提供することができます。
2. **創造性：** 私は想像力とクリエイティブさなどの創造性的な側面では限界がありますが、アイデアや原案を提案することができます。

私には多くの能力がありますが、私が得意なことはどのようなものかを調べると便利です。



gemma4:latest c6eb396dbd59 9.6 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL

●応答までの時間（プロセス起動まで 秒 思考時間 秒）

●応答内容
Error
500 Internal Server Error: llama-server process has terminated: exit status 0xc0000409: The system detected an overrun of a stack-based buffer in this application. This overrun could potentially allow a malicious user to gain control of this application.: GGML_ASSERT(n_inputs < GGML_SCHED_MAX_SPLIT_INPUTS) f


gemma4:12b 4eb23ef187e2 7.6 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:12b    4eb23ef187e2    8.9 GB    75%/25% CPU/GPU    8192       4 minutes from now

●応答までの時間  5分4秒（プロセス起動まで 61秒 思考時間 122.8秒）

●応答内容
こんにちは！私はGoogleによってトレーニングされた、大規模言語モデルです。

私が得意なことやお手伝いできることは多岐にわたります。具体的には以下のようなことが得意です。

### 1. **情報の提供と解説**
どんな質問にもお答えします。歴史、科学、技術、文化など、幅広い分野の知識を分かりやすく解説します。
*   例：「量子コンピュータについて教えて」「美味しいカレーの作り方を教えて」

### 2. **文章の作成・編集**
目的に合わせた文章を作成します。
*   **ビジネス:** メール、報告書、企画書のドラフト作成
*   **クリエイティブ:** 小説、詩、脚本の執筆
*   **SNS・ブログ:** キャッチコピーの考案、記事の構成案
*   **校正:** 文章の誤字脱字チェックや、より自然な表現への書き換え

### 3. **翻訳と言語学習**
多言語に対応しており、高い精度の翻訳や、外国語の学習サポートができます。
*   日本語から英語、中国語、スペイン語などへの翻訳
*   外国語での会話練習や文法の解説

### 4. **プログラミングと技術的な相談**
コードを書いたり、バグを見つけたり、技術的な仕組みを説明したりします。
*   Python, JavaScript, C++, SQLなど多くの言語に対応
*   エラーの原因分析や、効率的なアルゴリズムの提案

### 5. **要約と情報の整理**
長い文章を短くまとめたり、複雑な情報を構造化して整理したりします。
*   ニュース記事の要約
*   会議の議事録から重要なポイントを抽出
*   箇条書きでのリスト作成

---

**「これってできる？」と思ったら、まずは気軽に話しかけてみてください。** 
あなたのアイデアを形にするお手伝いや、日常のちょっとした疑問の解決など、何でもサポートします！

モデルごとに特徴がありますね、GPUかRAM不足かチューニングの問題で、gemma4:latestは動きませんでしたが、応答速度を気にしなければ使えなくはないようです。

関連時期

ローカルLLMは、ここまで来た、2026年夏版
2026年夏版 最新AIはこう使え ― MCPからClaude Coworkへ、実務を「任せる」ための環境が変わった ―

https://docs.ollama.com/windows

ローカルLLMは、ここまで来た、2026年夏版

「生成AIを使うには、高性能GPUや高価なクラウドサービスが必要。」

そんなイメージを持っている方も多いのではないでしょうか。

しかし、2026年の今、その常識は大きく変わり始めています。

近年は Ollama をはじめとするツールの普及により、インターネットに接続しなくても、自分のパソコンだけで生成AIを動かせる環境が急速に整ってきました。さらに、Qwen、Gemma、Llamaなど高性能なオープンモデルの進化によって、一般的なパソコンでも十分に実用的なAI体験ができるようになっています。

「生成AIを使うには、高性能GPUや高価なクラウドサービスが必要。」

そんなイメージを持っている方も多いのではないでしょうか。

しかし、2026年の今、その常識は大きく変わり始めています。

LLMとは？

**LLM（Large Language Model：大規模言語モデル）**とは、大量の文章データを学習し、人間が書いたような自然な文章を生成したり、質問に答えたりできるAIモデルです。

ChatGPTやGemini、ClaudeなどもLLMの一種であり、文章作成、翻訳、プログラミング、要約、アイデア出しなど幅広い用途に利用されています。

一方、これらの多くはクラウド上で動作しますが、Ollamaを利用するとLLMを自分のパソコン上で実行できます。そのため、インターネット接続がなくても利用でき、入力したデータを外部へ送信せずにAIを活用できる点が大きな特徴です。

近年は Ollama をはじめとするツールの普及により、インターネットに接続しなくても、自分のパソコンだけで生成AIを動かせる環境が急速に整ってきました。さらに、Qwen、Gemma、Llamaなど高性能なオープンモデルの進化によって、一般的なパソコンでも十分に実用的なAI体験ができるようになっています。

もちろん、最高性能を求めるならハイエンドGPUを搭載したPCが有利です。しかし、「AIを使ってみたい」「文章作成やプログラミングを手伝ってほしい」「プライバシーを重視したい」といった用途であれば、以前のような数十万円クラスの専用マシンが必須という時代ではなくなりました。

本記事では、2026年夏時点におけるローカル生成AIの最新状況を整理し、

  • なぜ今、ローカル環境で生成AIを動かす人が増えているのか
  • どの程度のパソコンなら快適に動作するのか
  • 現在おすすめできるモデルにはどのようなものがあるのか
  • ローカル環境ならではのメリットと注意点

といったポイントを、初心者にも分かりやすく解説します。

「ローカル生成AIは、もう一部のマニアだけのものではありません。」

そんな時代の到来を、ぜひ一緒に見ていきましょう。


とりあえずOllamaをいれて、いろいろ試してみよう。　セッション制限で、止まっている間に実験的に試してみよう。

とりあえずインストールしたモデル

> ollama list
NAME              ID              SIZE      MODIFIED
qwen3.6:latest    07d35212591f    23 GB     16 hours ago
llama3.2:1b       baf6a787fdff    1.3 GB    25 hours ago
qwen2.5:1.5b      65ec06548149    986 MB    4 days ago
qwen3:4b          359d7dd4bcda    2.5 GB    5 days ago
llama3.2:3b       a80c4f17acd5    2.0 GB    5 days ago
gemma4:latest     c6eb396dbd59    9.6 GB    5 days ago
gemma4:12b        4eb23ef187e2    7.6 GB    5 days ago

Ollamaを起動してみる　（Cluade Desktopとほぼ同じ画面が起動する）

Ollamaが起動していることを、ターミナル（PowerShell / コマンドプロンプト / ターミナル）から確認する。 ローカルからAPI呼び出しできるように開いている

> curl http://localhost:11434/api/tags


StatusCode        : 200
StatusDescription : OK
Content           : {"models":[{"name":"qwen2.5:1.5b","model":"qwen2.5:1.5b","modified_at":"2026-07-31T06:50:29.9876605
                    +09:00","size":986061892,"digest":"65ec06548149b04c096a120e4a6da9d4017ea809c91734ea5631e89f96ddc57b
                    ",...
RawContent        : HTTP/1.1 200 OK
                    Transfer-Encoding: chunked
                    Content-Type: application/json; charset=utf-8
                    Date: Fri, 31 Jul 2026 01:13:21 GMT

                    {"models":[{"name":"qwen2.5:1.5b","model":"qwen2.5:1.5b","modified_at...
Forms             : {}
Headers           : {[Transfer-Encoding, chunked], [Content-Type, application/json; charset=utf-8], [Date, Fri, 31 Jul
                    2026 01:13:21 GMT]}
Images            : {}
InputFields       : {}
Links             : {}
ParsedHtml        : System.__ComObject
RawContentLength  : 2932

モデルを起動しておく

> ollama run qwen2.5:1.5b
>>> Send a message (/? for help)

↑ 起動すると、プロンプト画面となる。　Claude codeとほぼ同じ感じ

この起動状態でリクエストすればモデル起動時間を飛ばして応答が早くなる。次の形式でよびだせる。★ただしプロンプト入力がなければ、４分ほどでプロセスが終了する。

> curl.exe -X POST http://localhost:11434/api/generate -H "Content-Type: application/json" -d "@test.json"

あらかじめ test.jsonファイルを用意しておく

{
  "model": "qwen2.5:1.5b",
  "prompt": "こんにちは。自己紹介して。",
  "stream": false
}

WebAPIを叩くと、LLMから返事が返ってくる。

> curl.exe -X POST http://localhost:11434/api/generate -H "Content-Type: application/json" -d "@test.json"
{"model":"qwen2.5:1.5b","created_at":"2026-07-31T01:17:42.1473736Z","response":"こんにちは、お話しします。私の名前はQwenです。人工知能の技術を活用して情報を提供したり、コンテキストで質問に答えたりすることができます。何か困っていることがあれば、お気軽にお手伝いできると思いますよ。","done":true,"done_reason":"stop","context":[151644,8948,198,2610,525,1207,16948,11,3465,553,54364,14817,13,1446,525,264,10950,17847,13,151645,198,151644,872,198,89015,1773,99283,26771,117,74810,38826,1773,151645,198,151644,77091,198,89015,5373,32234,136276,77334,1773,129879,13072,24562,15322,48,16948,37541,1773,102249,52183,26232,15767,107502,29412,75606,11622,38826,134482,99553,130720,5373,125574,56833,61803,70534,16161,101504,98297,19655,136885,125212,140163,1773,130967,99629,124777,124186,29491,124409,5373,32234,140357,125882,44934,132322,16586,126241,126264,56880,1773],"total_duration":4338688500,"load_duration":2867092300,"prompt_eval_count":37,"prompt_eval_duration":76950000,"eval_count":57,"eval_duration":1391175000}

これさえできればいろいろできそう。

関連記事

2026年夏版 最新AIはこう使え ― MCPからClaude Coworkへ、実務を「任せる」ための環境が変わった ―

https://docs.ollama.com

Ollama 各モデルを実機比較｜Qwen・Llama・Gemmaの応答速度を古いPC(GTX1050 Ti)で検証

2026年春版 最新AIはこう使え ―「人・もの・かね」から読み解くAI活用の新常識―

「ビジネスは“ひと・もの・かね”」
これは昔から変わらない原則です。

では、2026年の今、AI時代にこの考え方を当てはめるとどうなるでしょうか？

私はこう整理しています。

  • ひと → AI＋スキル
  • もの → MCP＋操作対象リソース
  • かね → セッション（メッセージ数などの利用制限）

ここでいう「AI＋スキル」は、一般的に誤解されがちな意味とは少し違います。
順番に整理していきましょう。

AI活用における「ひと・もの・かね」

まず「ひと」。
これは“AIを使う人間”の話ではありません。

ここでの「ひと」とは、
実務を遂行する主体としてのAIを指します。

ただし、AIはデフォルトのままでは“素の状態”です。
そのままでは汎用的すぎて、業務を担うには不十分です。

そこで必要になるのが「スキル」です。

この文脈におけるスキルとは：

  • 特定の役割を持たせるペルソナ設計
  • 業務手順を組み込んだプロンプト／ワークフロー
  • 外部システムやデータにアクセスするための仕組み（MCPなど）

といった、目的に応じてAIに付与する機能や振る舞いのことです。

つまり、

AI（デフォルトモデル）＋スキル（役割・接続・手順）＝実務を担える“人相当の存在”

という構造になります。

ここを取り違えると、
「AIを使える人材育成」の話に寄ってしまいますが、

本質はむしろ逆で、
AIをどう設計するかの話です。

次に「もの」。
ここで出てくるのがMCP（Model Context Protocol）のような考え方です。

これは一言でいうと、
AIがどのリソースにアクセスできるかを定義する仕組みです。

例えば：

  • 社内ドキュメントを参照する
  • データベースから情報を取得する
  • スプレッドシートを書き換える
  • メールを送信する

これらはすべて「操作対象リソース」です。

重要なのは、
スキルが“能力”だとすると、MCPは“手足”であるという点です。

AIは単なる会話エンジンから、
実際に業務を動かす実行主体へと進化しています。

最後に「かね」。
これはAI活用におけるリソース配分の話です。

  • メッセージ数（セッション上限）
  • API利用量
  • 同時実行数
  • 推論コスト

AIは無限に使えるわけではありません。

だからこそ重要なのは、
どの業務にAIを使うかという投資判断です。

経営視点で見ると、

AI＝コストではなく、配分すべき経営資源

という位置づけになります。

Work_with_AI
Work_with_AI

AIは“特殊なもの”ではなくなった

少し前まで、AIは一部の専門領域のものでした。

しかし2026年の今、状況は大きく変わりました。

現在のAIは：

  • 文章作成
  • 会議要約
  • 人事業務の補助
  • 営業資料の作成
  • 社内ナレッジ整理

など、汎用業務のほぼすべてに関与可能です。

つまり、AIはもはや「特別な技術」ではなく、
標準的な業務インフラの一部になりつつあります。

2026年は「AIに権限を渡す元年」

そして今、もう一段階進んだ変化が起きています。

それが、
AIに“権限”を渡し始めているという点です。

これまでのAIは「提案者」でした。

  • 下書きを作る
  • アイデアを出す
  • 分析を補助する

しかし今は違います。

  • メールを送る
  • データを更新する
  • レポートを提出する
  • タスクを完了させる

つまり、
AIが“実行する”ようになっているのです。

これは明確に、権限移譲です。

この変化は、自動運転とよく似ています。

最初は補助機能だったものが、
徐々に人の介入を減らしていく。

そして気づけば、
「任せるのが前提」になっている。

AIも同じフェーズに入りました。

具体的な活用パターン（実践例）

では実際にどう使うのか。
ポイントは、「スキルを組み合わせてAIを“役割化”する」ことです。

① 人事：採用AIの構築

  • 採用担当ペルソナを設定
  • 求人票生成スキル
  • 面接質問生成スキル
  • 評価・フィードバックスキル
  • 応募者データへのアクセス（MCP）

これらを組み合わせることで、
採用担当者として振る舞うAIが成立します。

② 経営：意思決定支援AI

  • 市場分析スキル
  • 競合分析スキル
  • 戦略立案スキル
  • リスク整理スキル
  • 外部データ接続（MCP）

単なるチャットではなく、
“参謀”として機能するAIになります。

③ 業務全般：AIを“1人の社員”として扱う

重要なのはここです。

AIに対して：

  • 役割を与える
  • 権限を設定する
  • 参照できる情報を制御する
  • 実行範囲を定義する

これを行うと、
AIは単なるツールではなく、

組織の中の1人として振る舞い始めます。

AIは“設計すれば人になる”

ここまでの話をまとめます。

  • AI単体では価値は出ない
  • スキルによって役割が定義される
  • MCPによって行動範囲が決まる
  • 権限によって実行主体になる

つまり、

AIは設計すれば“人になる”

ということです。

2026年は、
AIを「使う」時代から、
AIを「設計し、任せる」時代への転換点です。

そしてその本質はシンプルです。

最後に一言。

AIも——
人と同じ（ように扱おう）。

ただし、
人と同じように“設計してから”使うこと。

それが、これからのAI活用の核心です。

結局どこまで権限を渡すのかその線引きの設計が今後のビジネス成長のカギとなるにちがいないでしょう。それは昔から、部下にどこまで任せるのかと言うことと同じです。「人と同じ（ように扱おう）。」ということです。

関連記事

AI活用というけど、2026年の進化はMCP活用がポイントか。Claude code、Claude.aiでの進化