以下のtech blogが今月中に公開されました！
皆様、是非ご覧ください！

新LLM『Gemma 3 (27B)』をローカル環境で徹底検証: 業務タスクでの実力はいかに？

新LLM『Gemma 3 (27B)』をローカル環境で徹底検証: 業務タスクでの実力はいかに？ - Fixstars Tech Blog /proc/cpuinfo

本記事では、話題の『Gemma 3 27Bモデル』をollamaとvllmで実際に導入し、コード理解やWebアプリケーション開発などの具体的な業務タスクで性能検証を実施しました。果たして、ChatGPTなどのクラウド型LLMに匹敵するパフォーマンスを出せるのでしょうか？

https://proc-cpuinfo.fixstars.com/2025/04/gemma-3-27b-local-verification/

SYCL プログラミング入門：初心者向けガイド

SYCL プログラミング入門：初心者向けガイド - Fixstars Tech Blog /proc/cpuinfo

SYCL について概要の説明から最低限理解必要な基本機能と用語、簡単なプログラムの作成と実行についてを説明します。

https://proc-cpuinfo.fixstars.com/2025/04/sycl-introduction/

CoLi-BA: 高速なバンドル調整アルゴリズムの解説（vSLAM, SfM向け高速化手法）

CoLi-BA: 高速なバンドル調整アルゴリズムの解説（vSLAM, SfM向け高速化手法） - Fixstars Tech Blog /proc/cpuinfo

はじめに ARグラスや自律移動ロボット、ドローンのように、現実世界をカメラで認識しながら動作する技術が進化する中で、カメラの位置や空間中の点群を同時に推定する技術 ー vSLAM (Visual Simultaneous [...]

https://proc-cpuinfo.fixstars.com/2025/04/coli-ba_acceleration-for-vslam-sfm/

Llama 4 をオンプレミス環境で動かしてみた

Llama 4 をオンプレミス環境で動かしてみた - Fixstars Tech Blog /proc/cpuinfo

2025年4月6日、Llama 4 が公開されました。Llama 4 は画像、動画の入力が可能なマルチモーダルモデルで、109B パラメータの Llama 4 Scout、400B パラメータの Llama 4 Maverick、 2000B パラメータの Llama 4 Behemoth というラインナップとなっています。今回は、Llama 4 Scout をオンプレミスで動作させることを想定して、動作確認とプロファイリングを行います。

https://proc-cpuinfo.fixstars.com/2025/04/running-llama4-on-premise/

vLLM で Llama 4 をデプロイする際の最適なコンテキスト長を検証する

vLLM で Llama 4 をデプロイする際の最適なコンテキスト長を検証する - Fixstars Tech Blog /proc/cpuinfo

Llama 4 は最大1,000万トークンの長文コンテキストに対応していますが、実際のデプロイではライブラリやハードウェアの制約に注意が必要です。本記事では、vLLM を用いた実験を通じて、量子化方式・GPU枚数ごとの最適なコンテキスト長を検証しました。

https://proc-cpuinfo.fixstars.com/2025/04/llama4-vllm-context-length/

INT4 量子化を使って Llama 4 Scout を NVIDIA H100 1 枚で動かす

INT4 量子化を使って Llama 4 Scout を NVIDIA H100 1 枚で動かす - Fixstars Tech Blog /proc/cpuinfo

Meta社が発表したLlama 4 ScoutのINT4量子化による軽量化を公式実装を用いて検証。H100 1枚での実行と入力トークン数の限界について詳細に報告します。

https://proc-cpuinfo.fixstars.com/2025/04/llama4-int4-quantization-on-h100/

Llama 4 Scout のファインチューニングとパフォーマンスエンジニアリング

Llama 4 Scout のファインチューニングとパフォーマンスエンジニアリング - Fixstars Tech Blog /proc/cpuinfo

LLaMA-FactoryとDeepSpeedを使ってLlama 4 Scoutをファインチューニングし、バッチサイズ調整による高速化やGPU最適化を実践。手順を詳しく解説します。

https://proc-cpuinfo.fixstars.com/2025/04/llama4-scout-finetune-performance-engineering/

llama.cpp を使って RTX 6000 Ada で Llama 4 Scout を動かす

llama.cpp を使って RTX 6000 Ada で Llama 4 Scout を動かす - Fixstars Tech Blog /proc/cpuinfo

高価なH100 GPUの代替として比較的安価なRTX 6000 Adaを採用し、llama.cppを用いてLlama 4 Scoutを動かす方法を解説。GPUオフロード設定による性能向上とベンチマーク比較も行いました。

https://proc-cpuinfo.fixstars.com/2025/04/llama-cpp-rtx6000ada-llama4-scout/

3D Gaussian Splatting の紹介と高速化

3D Gaussian Splatting の紹介と高速化 - Fixstars Tech Blog /proc/cpuinfo

3D Gaussian Splatting の紹介と、インターンシップの課題として取り組んだ高速化について説明します。

https://proc-cpuinfo.fixstars.com/2025/04/gaussian-splatting-acceleration/