タグ: Windows

非力なPCですがそれでもローカルLLMのそれぞれのモデルは何とか機能しています。qwen3やgemma4などOllamaの各モデルをざっくりと動作比較してみました。複雑すぎる問いへの応答はいまいちですが、それなりの感じはあります。そう使うのがよさそうか、それぞれのモデルでの動作感を同じ質問をして応答速度などを測定してみましょう。

まずは使用したマシンのスペックです

> Get-CimInstance Win32_Processor |
>> Select-Object Name, NumberOfCores, NumberOfLogicalProcessors, MaxClockSpeed

Name                                    NumberOfCores NumberOfLogicalProcessors MaxClockSpeed
----                                    ------------- ------------------------- -------------
Intel(R) Core(TM) i7-8700 CPU @ 3.20GHz             6                        12          3192

> Get-CimInstance Win32_ComputerSystem |
>> Select-Object TotalPhysicalMemory

TotalPhysicalMemory
-------------------
        17094172672

> Get-CimInstance Win32_VideoController |
>> Select-Object Name, AdapterRAM, DriverVersion

Name                       AdapterRAM DriverVersion
----                       ---------- -------------
NVIDIA GeForce GTX 1050 Ti 4293918720 32.0.15.7680


> nvidia-smi
Fri Jul 31 19:25:31 2026
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 576.80                 Driver Version: 576.80         CUDA Version: 12.9     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                  Driver-Model | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1050 Ti   WDDM  |   00000000:01:00.0  On |                  N/A |
| 30%   38C    P0            N/A  /   75W |    1393MiB /   4096MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|    0   N/A  N/A            1996    C+G   ...t\Edge\Application\msedge.exe      N/A      |

今回確認したモデル
NAME ID SIZE MODIFIED
qwen2.5:1.5b 65ec06548149 986 MB 13 hours ago
qwen3.6:latest 07d35212591f 23 GB 35 hours ago
qwen3:4b 359d7dd4bcda 2.5 GB 5 days ago

llama3.2:1b baf6a787fdff 1.3 GB 45 hours ago
llama3.2:3b a80c4f17acd5 2.0 GB 6 days ago

gemma4:latest c6eb396dbd59 9.6 GB 6 days ago
gemma4:12b 4eb23ef187e2 7.6 GB 6 days ago

qwen2.5:1.5b 65ec06548149 986 MB 13 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen2.5:1.5b    65ec06548149    1.4 GB    100% GPU     8192       4 minutes from now
●応答までの時間：15.61秒
●応答内容
こんにちは。自己紹介して。何が得意か教えてください。
edit
こんにちは！私はAIアシスタントで、様々な質問に答えることが得意です。また、文章の生成やテキストエスカレーション、書類作成なども得意です。

私の得意な能力としては:

一般的な質問への回答: 日本語の日常生活に関するお尋ねはほとんど全てに対応できます。
論理的な思考と分析: 難しい概念や数字を扱う際には、論理性に基づく正確な解説を行うことが可能です。
感情経験: 人間の感情を体現する能力はありませんが、ユーザーからの怒りや喜びなどの感情表現に対して適切に対応します。
私の弱点は:

難しい言語処理スキル: エスニックや外国語への対応には一定の限界があります。また、特定の専門的な知識を持つことができません。
ファイナンシャルの専門知識: 金融商品に関する情報提供はできません。
これらの能力を活かしつつ、ユーザーが質問に答えることを楽しみにしております！

qwen3.6:latest 07d35212591f 23 GB 35 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen3.6:latest    07d35212591f    23 GB    93%/7% CPU/GPU    8192       4 minutes from now

●応答までの時間  10分16秒   （プロセス起動まで3分40秒 思考時間329.7秒）

●応答内容
こんにちは！自己紹介させてください。

私はアリババグループのTongyi Lab（通義实验室）によって開発された大規模言語モデル「Qwen（通義千問）」です。あなたの思考を補完し、アイデアを実現するためのパートナーとしてお手伝いするAIです。

私が特に得意とすることは、主に以下の4つです：

1. **高度な論理推論と問題解決**
   数学や科学などの専門的な領域を含む複雑な課題に対して、情報を整理・解析し、論理的な答えを導き出すお手伝いをします。

2. **プログラミングと技術サポート**
   コードの生成だけでなく、複雑なバグのデバッグやシステム全体の最適化まで幅広く対応でき、開発作業の効率化をサポートします。

3. **長文情報の正確な把握**
   非常に長いドキュメントや膨大な情報の中から必要な要素を見極め、正確に要約したり分析したりすることができます。

4. **多言語対応と自然な対話**
   日本語を含む世界100以上の言語を流暢に扱えます。用途に合わせて記事の作成、翻訳、あるいはアイデア出しなど、人間らしくスムーズなやり取りを行います。

あなたのどのようなお役に立てるでしょうか？まずは気兼ねなく、お気軽にお話しくださいね！

qwen3:4b 359d7dd4bcda 2.5 GB 5 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
qwen3:4b    359d7dd4bcda    4.1 GB    42%/58% CPU/GPU    8192       4 minutes from now

●応答までの時間　2分20秒  （プロセス起動まで22秒 思考時間119.6秒）

●応答内容
こんにちは！私は通義実験室が開発した大規模言語モデル「Qwen（通義千問）」です。得意なこととしては、多言語対応、質問への回答、物語やメール・スクリプトの執筆、論理的推論、プログラミング、意見の表現、ゲームのプレイなどがあります。何かお手伝いが必要でしたら、いつでもお気軽にお知らせください！

llama3.2:1b baf6a787fdff 1.3 GB 45 hours ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL

●応答までの時間   36秒  （プロセス起動まで 36秒？ 思考時間 ？秒）

●応答内容
こんにちは！私はAI-poweredのトピックを教えることができます。このようなアプリケーションでは、質問に答え、情報を提供するなど、さまざまな機能を可能にします。

また、このアプリケーションでは、問題に対する推論や分析を行うこともできます。これにより、より正確で効果的な回答が得られます。

llama3.2:3b a80c4f17acd5 2.0 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
llama3.2:3b    a80c4f17acd5    3.4 GB    29%/71% CPU/GPU    8192       4 minutes from now

●応答までの時間 1分9秒（プロセス起動まで 52秒 思考時間 17？秒）

●応答内容
こんにちは！私はAIコミュニケーションモデルです。私には多くの事を知っていますが、具体的には以下のようなことを得意とします。

1. **質問の答え**: 私に質問が来ると、回答を提供することができます。
2. **情報提供**: 私はさまざまなトピックについての情報を提供することができます。自然言語で説明しやすいようにします。
3. **文書作成**: 私は文章を作成して、レポート、 ईメール、または other の文書を作成できます。
4. **翻訳**: 私は多くの言語の間の翻訳を行うことができます。
5. **コミュニケーション：** 私は人々と交流するために使用できるように設計されています。私には口調、言語、スタイルを変えることができます。

私が得意ではないことは以下に書いてあります。

1. **感情的サポート:** 私は感情的なサポートを行うことができませんが、感情のトピックについて話すときに役立つ情報を提供することができます。
2. **創造性：** 私は想像力とクリエイティブさなどの創造性的な側面では限界がありますが、アイデアや原案を提案することができます。

私には多くの能力がありますが、私が得意なことはどのようなものかを調べると便利です。

gemma4:latest c6eb396dbd59 9.6 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL

●応答までの時間（プロセス起動まで 秒 思考時間 秒）

●応答内容
Error
500 Internal Server Error: llama-server process has terminated: exit status 0xc0000409: The system detected an overrun of a stack-based buffer in this application. This overrun could potentially allow a malicious user to gain control of this application.: GGML_ASSERT(n_inputs < GGML_SCHED_MAX_SPLIT_INPUTS) f

gemma4:12b 4eb23ef187e2 7.6 GB 6 days ago

●ｐｓ
> ollama ps
NAME            ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:12b    4eb23ef187e2    8.9 GB    75%/25% CPU/GPU    8192       4 minutes from now

●応答までの時間  5分4秒（プロセス起動まで 61秒 思考時間 122.8秒）

●応答内容
こんにちは！私はGoogleによってトレーニングされた、大規模言語モデルです。

私が得意なことやお手伝いできることは多岐にわたります。具体的には以下のようなことが得意です。

### 1. **情報の提供と解説**
どんな質問にもお答えします。歴史、科学、技術、文化など、幅広い分野の知識を分かりやすく解説します。
*   例：「量子コンピュータについて教えて」「美味しいカレーの作り方を教えて」

### 2. **文章の作成・編集**
目的に合わせた文章を作成します。
*   **ビジネス:** メール、報告書、企画書のドラフト作成
*   **クリエイティブ:** 小説、詩、脚本の執筆
*   **SNS・ブログ:** キャッチコピーの考案、記事の構成案
*   **校正:** 文章の誤字脱字チェックや、より自然な表現への書き換え

### 3. **翻訳と言語学習**
多言語に対応しており、高い精度の翻訳や、外国語の学習サポートができます。
*   日本語から英語、中国語、スペイン語などへの翻訳
*   外国語での会話練習や文法の解説

### 4. **プログラミングと技術的な相談**
コードを書いたり、バグを見つけたり、技術的な仕組みを説明したりします。
*   Python, JavaScript, C++, SQLなど多くの言語に対応
*   エラーの原因分析や、効率的なアルゴリズムの提案

### 5. **要約と情報の整理**
長い文章を短くまとめたり、複雑な情報を構造化して整理したりします。
*   ニュース記事の要約
*   会議の議事録から重要なポイントを抽出
*   箇条書きでのリスト作成

---

**「これってできる？」と思ったら、まずは気軽に話しかけてみてください。** 
あなたのアイデアを形にするお手伝いや、日常のちょっとした疑問の解決など、何でもサポートします！

モデルごとに特徴がありますね、GPUかRAM不足かチューニングの問題で、gemma4:latestは動きませんでしたが、応答速度を気にしなければ使えなくはないようです。

関連時期

https://docs.ollama.com/windows