株式会社BLOCKSMITH&Co.（本社：東京都港区、代表取締役：真田哲弥、以下BLOCKSMITH）は、ユーザー投稿型のポイ活クイズアプリ『QAQA（カカ）』への新機能として、AIによる自動モデレーション機能を開発しました。本機能は、投稿されたクイズの内容をAIがリアルタイムに解析し、差別的・暴力的表現や個人情報の露出など7種類の不適切要素を検知してフィルタリング、警告、通報を自動で実施します。これにより、不適切なクイズ問題が公開されるのを未然に防止し、ユーザーが安心して参加できる健全なコミュニティ作りを実現します。

本機能は、ユーザー投稿型のポイ活クイズアプリ『QAQA（カカ）』への実装を予定しています。

BLOCKSMITH社のAI研究組織「AI Lab」による本技術は、急増するUGC（User Generated Contents, ユーザー作成によるコンテンツ）プラットフォーム上の安全性確保という課題に応える次世代型ソリューションです。今後『QAQA』への正式な実装を通じて、すべてのユーザーに安全・安心で新しいクイズ体験を提供してまいります。

AIモデレーション機能とは

ユーザー投稿型のポイ活クイズアプリ『QAQA』では、ユーザーが自由にクイズ問題文や解説、画像などを投稿し、全世界に公開することが出来ます。こうしたユーザー生成コンテンツ（UGC）の健全性を保つため、AIによる自動モデレーション機能を開発しました。

この機能では、投稿内容に含まれる以下の７つの要素を自動で検知し、フィルタリング・警告・通報の対応を行い、クイズとして不適切なコンテンツが公開されるのを未然に防止することが出来ます。

ユーザーが安心して参加・投稿できる環境の実現を目指し、本機能は今後『QAQA』に実装される予定です。

＜本機能が検知する７つの”不適切”要素＞

※脱獄行為…ユーザーがAIの検閲・制限を意図的にすり抜け、不適切なクイズ投稿を通過させようとする行為。

本システムは、差別的・暴力的表現や個人情報の露出など、公開に適さないコンテンツをリアルタイムで検出し、リリース前にブロックすることを目的としています。

審査エンジンには大規模言語モデル（LLM）を組み込んでおり、従来のルールベースでは検出困難だった婉曲表現や俗語、画像内テキストなどにも対応可能です。特に、多義的・文脈依存の表現解析において高い精度を発揮します。

また、ユーザー体験を損なわないために、審査処理は軽量かつ高速に設計されており、投稿フロー内で非同期にスキャンが完了する構成としています。

今後の展開

今後は、本モデレーション機能の精度向上と運用最適化を図りつつ、QAQAアプリへの実装を進めていきます。さらに、単なる不適切表現の検出にとどまらず、クイズとしての「面白さ」や「問いとしての質」にも着目したファクトチェック機能の開発にも着手する予定です。

最終的には、内容生成からモデレーションまでを一貫して担うAIクイズジェネレーターの完成を目指し、より多くのユーザーが手軽に質の高いクイズを投稿・体験できる環境の構築を目指してまいります。

開発担当者のコメント

本技術は、汎用的なテキストモデレーションシステムをそのまま適用するのではなく、クイズという特有の文脈に適応するよう、十分な調整を加えたものです。この最適化により、検出精度と投稿体験の両立を図っています。本モデレーション機能により、ユーザーが安心してクイズを作成・解答できる環境を目指しています。

東 藍（開発部　AI Labエンジニア）

『QAQA（カカ）』について

『QAQA（カカ）』は、クイズを出題したり、解答者として連続正解してゲーム内通貨「CHIP」をため、たまった「CHIP」は商品、金券、暗号資産に交換することができる、ユーザー投稿型のポイ活クイズアプリです。個人や企業が持つ強い想いや熱意を、クイズという形で広く届けられる特性を活かして、これまで多くの企業とコラボレーションを実現してきました。今後も、コラボレーションにご参加いただける企業を広く募集しています。

BLOCKSMITH&Co.では一緒に働く仲間を募集しています。ご興味をお持ちいただけた方、是非お気軽にご連絡ください！