こんにちは、アルチテックの北中です。

前回のストーリーでは、AI のコードレビューを安いオープンモデルに任せられるかを比べた話を紹介しました。今回はその続きで、AI のモデルを自社のマシンで動かす（ローカル LLM）場合を試した話です。

なぜ試したのか

AI を仕事に使うときに、「データを社外に出さずに使いたい」という場面があります。そのためには、モデルを手元のマシンで動かす必要があります。AI の利用料を抑えられる可能性もあります。

ただ、そのためのマシンは数十万円以上します。買ってから「遅くて使えない」「品質が足りない」と分かっても困ります。そこで、買う前に、品質と速さを実際に測ることにしました。

やったこと

オープンソースの推論エンジン「Strata」で、Qwen3.8 というモデルを動かしました。社内の PC では GPU が足りなかったので、クラウドの GPU を数時間だけ借りています。費用は全部で4ドル前後でした。

前回と同じコードレビュー4件をやり直させたところ、

• 1回目は4件すべてで Claude と同じ判定
• ところが何度か繰り返すと、同じ不具合を見逃す回が多かった（5回中、見抜けたのは1回だけ）
• 速さは毎秒約113トークン。所要時間はClaude の約5倍

という結果でした。1回目だけで「使える」と判断していたら、見誤るところでした。

詳しい数字や、手元の機械で動かす場合の速さは、ホームページの記事にまとめています。

👉 ローカル推論エンジン Strata で Qwen3.8 を動かし、コードレビューの品質と速度を測ってみた

小さく試して、数字で決める

アルチテックでは、新しい技術を「良さそうだから入れる」のではなく、小さく試して、測って、数字を見て決めるようにしています。今回も、数ドルの実験で、高い機材を買う前に判断の材料をそろえられました。

「1回うまくいった」で終わらせず、繰り返して確かめる。PLC 制御の試運転でも、AI の評価でも、大事なことは同じです。

一緒に試してみませんか

アルチテックでは、PLC 制御コース・C# ビジネスシステムコースのインターンを募集しています。現役エンジニアがマンツーマンで指導します。

「作るだけじゃなく、決める側のエンジニアになりたい」「AI やローカル LLM を使った開発に興味がある」という方、ぜひ気軽に話を聞きに来てください。

※ アルチテックの仕事の中心は、PLC 制御と C#/.NET の業務システムの開発です。AI に実装やレビューを任せているのは、主に社内で使うツールの開発です。インターンでは、制御やプログラミングの基礎を、現役エンジニアと一緒に学びます。