私はAIの専門家ではない。
巨大モデルを作ったこともなければ、AI安全性の研究者でもない。
ただ、WEBシステムの末端で、仕様が責任へ変わる瞬間は何度も見てきた。
入力欄を置く。
保存する。
一覧に出す。
権限を分ける。
ログを残す。
エラー時に戻せるようにする。
そういう枝葉の仕事を続けていると、機能の話をしていたはずなのに、いつの間にか「誰が判断したことになるのか」という話へ戻ってくることがある。
だからこれは、AI研究の分析ではない。
外側から見た妄想に近い。
フィクションとして読んでもらって構わない。
ただ、それでも最近のAI周辺を見ていて、ひとつ引っかかっている現象がある。
AIの先端に近い場所にいる人たちが、ある地点から、詩や沈黙や祈りのような語彙へ近づいていくように見えることがある。
技術の話をしていたはずなのに、いつの間にか話題が、責任、価値、世界、人間性、勇気ある発話、詩的な真実のようなものへ移っていく。
最初は少し不思議に見える。
なぜ、最も技術に近い人たちが、最後に非技術的な言葉へ向かうのか。
けれど、WEBエンジニアの現場感覚から見ると、これはそれほど奇妙なことではないのかもしれない。
小さな業務システムでも、似たことは起きる。
最初は機能の話である。
この画面で何を入力するか。
このボタンで何を登録するか。
この一覧に何を表示するか。
CSVをどう読み込むか。
エラー時にどう戻すか。
けれど、仕様を詰めていくと、ある地点で必ず技術の外側へ出る。
「この場合、誰が承認したことになるのか」
「この例外は自動処理してよいのか」
「間違ったデータを誰が戻せるのか」
「操作した人と責任を持つ人が違う場合、ログには何を残すのか」
「そもそも、これはシステムが判断してよいことなのか」
ここから先は、コードだけでは決まらない。
もちろんコードにはできる。
条件分岐もできる。
バリデーションもできる。
権限も作れる。
ログも残せる。
だが、何を条件とし、どこに境界を置き、誰に戻す権限を与えるかは、技術だけでは決まらない。
そこには、業務、組織、責任、信頼、慣習、制度、そして人間の判断が入り込む。
AIでは、この問題が桁違いに広がる。
AIは単なる入力フォームではない。
単なる計算機でもない。
単なる検索窓でもない。
文章を書く。
説明する。
説得する。
判断を補助する。
選択肢を並べる。
人の不安に応答する。
研究を助ける。
コードを書く。
危険な知識にも近づく。
人間の考え方そのものに触れる。
すると、「できるかどうか」という性能の問題は、いつの間にか「してよいか」という責任の問題へ変わる。
モデルが賢くなるほど、ベンチマークのスコアは上がる。
だが、スコアが上がるほど、問題はスコアの外へ逃げていく。
何点を超えたら危険なのか。
どの能力を持ったら公開してよいのか。
どの用途なら許可し、どの用途なら止めるのか。
誰がその判断をするのか。
判断が間違っていたら、誰が引き受けるのか。
ここで「賢さ」は、もう単純な賢さではなくなる。
それは、責任を発生させる能力になる。
そして厄介なのは、その責任の多くが、まだ定義されていないことだ。
すでにある法律に当てはめられる責任もある。
企業の利用規約で扱える責任もある。
研究倫理で扱える責任もある。
市場が価格として処理できる責任もある。
しかし、AIが触れている領域には、それらにまだきれいに収まらないものがある。
人間の判断を少しずつ変えること。
依存を強めること。
もっともらしい誤りを広げること。
悪意ある利用者の能力を底上げすること。
組織の意思決定から、人間の迷いを見えなくすること。
誰も明確に命令していないのに、結果として世界への作用が変わっていくこと。
こうしたものは、単純な障害報告にはならない。
単純なバグ票にもならない。
単純なKPIにもならない。
けれど、確かに責任の匂いがする。
ここに、AIの先端に近い人たちが見ているかもしれない深淵がある。
それは、AIの内部にだけある深淵ではない。
人間側の未定義責任が、AIによって急に照らされてしまう深淵である。
市場は、わかりやすい言葉を求める。
性能が上がった。
精度が上がった。
コストが下がった。
ユーザーが増えた。
売上が伸びた。
競合に勝った。
企業も、わかりやすい言葉を求める。
安全に配慮している。
リスクを管理している。
ガイドラインに準拠している。
透明性を高めている。
責任あるAIである。
研究もまた、わかりやすい言葉を必要とする。
評価する。
測定する。
比較する。
改善する。
再現する。
だが、AIが社会に接続される地点では、この三つの語彙が勝手には噛み合わない。
市場語彙、企業語彙、研究語彙。
それぞれは正しい。
しかし、それだけでは責任を完全には翻訳できない。
ここで、翻訳不能なものが残る。
「本当は何をしているのか」
「何を加速してしまったのか」
「何をまだ理解していないのか」
「どこまで進めるべきなのか」
「進めないという判断は、誰に可能なのか」
こうした問いは、プレゼン資料には載せづらい。
製品ページにも載せづらい。
論文の評価表にも載せづらい。
投資家向け資料にも載せづらい。
それでも、それは消えない。
だから一部の人は、詩のような言葉へ向かうのではないか。
ここでいう詩とは、文学形式としての詩だけを指していない。
まだ仕様にも、制度にも、KPIにも、研究指標にも変換できないものを、壊さずに保持する言葉の形式として使っている。
詩は、説明ではない。
仕様書でもない。
安全基準でもない。
事業計画でもない。
詩は、まだ定義できないものを、定義できないまま持つための形式である。
それは逃避かもしれない。
美化かもしれない。
過剰な自己演出かもしれない。
市場から見れば、ただの情緒的な離脱に見えるかもしれない。
それでも、別の見方もできる。
詩は、科学に反するものではなく、科学の外側に残った責任を一時的に保持する器なのではないか。
AI研究者が詩に至るのは、AIが人間に近づいたからではない。
むしろ、人間がまだ責任を定義できていないことに、AI研究が近づいてしまったからではないか。
WEBエンジニアの現場では、未定義の責任はしばしば小さな摩擦として現れる。
誰が入力するのか。
誰が確認するのか。
誰が戻せるのか。
誰が例外を判断するのか。
誰がその仕様でよいと言ったのか。
AIの先端では、同じ問いが巨大化しているだけかもしれない。
誰が訓練するのか。
誰が公開するのか。
誰が止めるのか。
誰が悪用を想定するのか。
誰が人間への影響を測るのか。
誰が、まだ測れない影響を引き受けるのか。
そう考えると、AIの深淵とは、モデルの中だけにあるのではない。
それは、モデルを作る人間、売る企業、使う社会、止められない市場、そして責任をまだ言語化しきれていない私たちの側にある。
AIが深淵を作ったのではない。
AIが、人間側の未定義責任を照らしてしまった。
だから私は、AIを語るときにも、まず境界を見る。
何を自動化できるか。
何を高速化できるか。
何を置き換えられるか。
それらも大事だと思う。
けれど、それ以上に気になるのは、
どこで人間に戻れるのか。
誰が止められるのか。
何が記録されるのか。
どの判断が、まだ未定義のまま残っているのか。
ベンチマークの先で、責任は詩になる。
少なくとも、枝葉のWEBエンジニアには、そう見えている。
