Tsuyoshi Inoue

【プロジェクト概要】 生成AI（LLM）の導入において、多くの企業でハードルとなる「機密情報のクラウド送信」を防ぐため、すべての個人情報処理を社内ネットワーク内で完結させるセキュリティゲートウェイを設計・開発。 外部LLMへは匿名化されたデータのみを送信し、実データの保持・復元処理は自社サーバー内の閉域環境で完結させるアーキテクチャを構築しました。 【こだわった「社内完結」のアーキテクチャ】 オンプレミス・データ永続化: 匿名化のキーとなるマッピングデータを、社内インフラ上のRedisで管理。セッション情報を外部に一切露出させない「データ・ソブリンティ（データの主権）」を確保。 プライベートクラウドでのコンテナ運用: Docker Swarmを活用し、自社サーバー（Proxmox等）内での冗長化・高可用性構成を構築。外部SaaSに頼ることなく、24時間安定稼働する社内プライベート・セキュリティ基盤として運用。 閉域網内でのワークフロー統合: 社内環境に構築したDifyと、自作の匿名化APIをHTTPノードで連携。入力から要約・回答・復元までのすべてのステップにおいて、**「機密情報の実データは一歩も社内LANの外に出さない」**フローを実現。 【技術スタック（オンプレミス構成）】 環境: オンプレミス・プライベートサーバー（Ubuntu / Proxmox） 基盤: Docker, Docker Swarm (マルチノード構成) API: FastAPI (非同期処理による低遅延な匿名化・復元) DB: Redis (社内ネットワーク内でのセッション永続化) Tools: Dify (オンプレミス版) 【ビジネス上の成果（アピールポイント）】 法務・セキュリティ審査の突破: 「個人情報を社外に送信しない」という物理的な制約を設けることで、従来は数ヶ月かかるセキュリティ審査を大幅に短縮し、迅速なAI導入を可能にしました。 情報漏洩リスクの根本的解消: 外部AIプロバイダーの学習や不測の流出事故に巻き込まれるリスクを、システム構造そのもので排除。 コストとプライバシーの両立: 高価なエンタープライズ版AI契約（データ学習なしオプション等）を選ばずとも、標準的なAPI利用料だけで安全な運用ができるコストメリットを生み出しました。

―――――――――――――――――― プロジェクト内容 SOXAIのスマートリングから取得した生体・活動データを活用し、AIとスマートホームを連携させるシステムを開発しました。本プロジェクトでは、ウェアラブルデバイスのデータを単なる可視化に留めず、LLMによる解釈を介して、生活空間での情報表示および環境制御に反映することを目的としています。 SOXAIから取得したデータは、Rustで実装した連携処理を通じてHome Assistantと接続しています。SOXAIとHome Assistant間の連携を自前で実装することで、データ取得・加工・制御ロジックを柔軟に設計できる構成としました。 取得した生体・活動データは、データベースとしてNocoDBに保存しています。NocoDB上では、データの確認や傾向把握を目的とした簡易的なダッシュボードも構築しており、日次・週次での状態確認に活用しています。 蓄積したデータは、ローカルLLM実行環境であるOllama上で稼働するgpt-oss:120bに入力しています。LLMには直近1週間分のデータをまとめて渡し、短期的な状態だけでなく、一定期間の傾向を踏まえたアドバイスを生成させています。また、1週間単位でのアドバイス生成も行っています。 生成されたアドバイスはそのままスマートホーム機器の制御に使用せず、システム側で内容を解釈・条件判定を行った上で、Home Assistantに反映しています。スマートディスプレイ等での情報表示や、生活環境を調整するための機器制御は、あらかじめ定義したルールや制約条件の範囲内でのみ実行する構成とし、AIの柔軟性とスマートホーム制御に求められる安全性・再現性の両立を図っています。 ―――――――――――――――――― 使用技術・スタック ・ウェアラブルデバイス SOXAI スマートリング ・スマートホーム基盤 Home Assistant ・データ連携・実装 Rust（SOXAI ⇔ Home Assistant 連携処理） ・データベース／可視化 NocoDB 生体・活動データの蓄積 簡易ダッシュボードの構築 ・AI / LLM Ollama（ローカルLLM実行環境） gpt-oss:120b ・データ処理 日次・週次データの集約 1週間分データをまとめたLLM入力 ・制御・ロジック LLM出力を条件として扱うルールベース制御 LLM出力の直接実行を行わない安全設計 ・システム構成 SOXAI → NocoDB → LLM（週次アドバイス生成） → Home Assistant（表示・制御） ―――――――――――――――――― なぜローカルLLM（Ollama＋gpt-oss:120b）を選んだのか 本プロジェクトでは、ウェアラブルデバイスから取得した生体・活動データを扱うため、データの流れやシステム挙動を把握・制御しやすい構成を重視しました。そのため、クラウドLLMではなく、ローカル環境で実行可能なLLMを採用しています。 Ollamaを利用することで、LLMの実行環境をローカルに閉じ、データがどのように処理されるかを明確に管理できる構成としました。また、gpt-oss:120bを採用することで、1週間分のデータをまとめて入力した場合でも、文脈や傾向を踏まえたアドバイス生成が可能になっています。 さらに、LLMは助言生成に役割を限定し、最終的な制御判断はHome Assistant側のルールに委ねる設計とすることで、AIの柔軟性とスマートホーム制御に求められる安全性・予測可能性の両立を図っています。 ――――――――――――――――――