【元ヤフーエンジニアが問う】AIの「すごいでしょアピール」で優秀な開発者が潰れる国。私たちが今、絶対に忘れてはならない『人間ファースト』の組織論

こんにちは。プライベートAIラボラトリーの山田健太郎です。

普段は東京を拠点に、経営者や投資家の方々向けに、完全隔離型の「プライベートAI環境」を構築・提供する活動をしています。

大学卒業後にヤフー株式会社に入社し、大規模システムの開発・運用にエンジニアとして泥臭く向き合ってきた経験から、今の「AIブーム」の裏側で起きている“ある歪み”について、どうしても現場視点でお伝えしたいことがあり、ペンを執りました。

今、世界のAI界隈・セキュリティ界隈を揺るがしている、アンスロピック（Anthropic）社の最新AI「Claude Mythos」をめぐる騒動──通称「ミトス問題」をご存知でしょうか。

AIが世界中のコードをスキャンし、「人間が気づかなかった脆弱性を見つけたぞ！」と大々的にアピールして有名ソフトの開発者に突撃したものの、フタを開けて精査してみたら、その大半が「誤検知」だったという事件です。

世間は「AIの進化はすごい」「これからは自動化だ」と盛り上がっていますが、元エンジニアの私からすれば、これは笑い事ではありません。現場のエンジニアからすれば、本当に「たまったものではない災厄」だからです。

■ 現場を襲う「差し込みタスク」と「評価されない労働」の絶望

組織で働くエンジニアの工数は、クォーター（四半期）ごとに分単位、日単位でガチガチにコミットされています。そこに外部のAIや、AIを導入して舞い上がった経営陣から「バグっぽいから今すぐ直して」と、真偽も怪しい山のようなレポートが降ってきたらどうなるか。

1件のアラートの真偽を検証し、再現環境を作るだけで、数日の貴重なリソースが瞬時に吹き飛びます。

さらにタチが悪いことに、こうした「上から降って湧いた突発的なセキュリティ対応」は、期初に約束した目標ではないため、会社の評価制度において「加点評価」にならないケースがほとんどです。

夜遅くまで残業してAIの誤検知を仕分ける「ゴミ拾い」をさせられた挙動に対し、リソースの調整もなければインセンティブもない。これでは現場のモチベーションが秒で腐っていくのも当然です。

■ そのバグ、本当に今直す必要がありますか？

ビジネスやシステム運用には「優先順位（プライオリティ）」という絶対的な大原則があります。

明日すぐにハッキングされて顧客情報が流出するような致命的なホールなら、寝ずにでも直すべきです。しかし、「特定のレア条件が何重にも重なり、悪意ある人間が特定のコマンドを100万回叩いたら1回エラーが起きるかも」レベルの挙動に、今現在の貴重な開発リソースを奪われるのは、経営戦略としてコストパフォーマンスが最悪です。

AI企業の「俺たちのAIはすごいだろ」という自己満足なマーケティング（誇大広告）のツケを、現場の人間が「タダ働き」に近い形で支払わされている──これこそがミトス問題の本質であり、そして日本の多くのDX現場でも、形を変えて全く同じことが起き始めています。

■ 優秀な人から、静かに辞めていく

私の経験から言わせていただければ、このような「リソースとメンタルへのリスペクトを欠いたDXやAI導入」を行う組織からは、市場価値の高い、優秀なエンジニアから順番に、静かに辞めていきます。

優秀なエンジニアを潰さないために、これからの時代、リーダーは以下の3つを絶対にセットで設計しなければなりません。

1. 「本当に今直すべきものか」の優先順位を、人間のプロが冷徹に見極める

2. 対処させるなら、エンジニアの既存タスクを削り、リソース（時間）を物理的に確保する

3. 突発的な対応に対して、明確な「加点評価（インセンティブ）」を与える

道具（AI）に使われるのではなく、道具を動かす「人間」を一番に守ること。

AIという強大な知能が溢れる「風の時代」だからこそ、血の通ったエンジニアへのリスペクトと、情報の主権を組織内にしっかりと保持することが、スマートな経営の正解だと私は信じています。

巨大テック企業の思惑や検閲、ポジショントークから完全に遮断された、あなただけの「知能の要塞」に興味がある方は、ぜひ私たちの取り組みも覗いてみてください。

道具に振り回されるのではなく、道具を支配する側に立つ。

そんな未来を、一緒に作っていきましょう。

▼プライベートAIラボラトリー（山田健太郎）

https://kentyama.github.io/