ソフトウェアエンジニアの必須科目〜AI倫理と企業経営～

こんにちは！
クラウドサーカス開発部です。

私たちメンバー間でおすすめの映画について話をしているときに、『監視資本主義』が話題にあがり、私たちソフトウェアエンジニアにとって非常に大事な考えが凝縮されているという話で盛り上がったので、ぜひこの作品の考え方など共有したく、記事にしてみました。

ソフトウェア開発に携わるエンジニアやSaaSに携わる経営層の方々に届いたらいいなと思います。作品自体も、一度は観ていただきたいです！

SaaSに携わる者の必須科目

『監視資本主義』がなぜSaaS事業に携わる者（特にエンジニア）にとっての必須科目かというと理由は3つあります。

①これからの時代、データがビジネスの根幹を担う
②そのデータを使うのは、あくまで人間
③その人間がAIを制御できるようになるには、AIについて深く知らなければならない

最初の「データがビジネスの根幹を担う」に関しては、昨今、AI経営といった経営手法も出てきているように意思決定の中にAIが入り込むことが当たり前の時代が来ているということです。

そこで大事になるのが、AIのアルゴリズムを作るのはあくまで人間ということです。すなわち経営や意思決定にAIの技術を組み込むのであれば、企業の理念や価値観に基づいたAIのアルゴリズムが組み込まれる必要が出てきます。

そして、人間よりも早いスピードで学習するAIを制御するためには、人間が常に企業倫理の基準を持ちながら、AIについて深く知る必要があります。

これらの重要事項を知るに最適な教材が『監視資本主義』というわけです。

社会的に価値のあるビジネスロジックを考える

現在のSaaS業界に起こっていることとして、「自社プロダクトの画面を開いている時間を日常生活の中でどれだけ奪えるか」を競い、ユーザーの情報をどれだけ取得できるかだと感じます。もちろん、それ自体がプロダクトの成長に欠かせないという事実もあるかと思います。例えば、Netflixの競合はAmazon PrimeやDinsney+ ではなく、「睡眠」と表しているように画面シェア率の奪い合いが起こっているのが現在の世の中だと言えます。

そのような社会の中でも、私たちメンバーは「自社のプロダクトの社会的なドメインを確立した状態でプロダクトを開発していくことが大事である」という考えがあります。

つまり、BowNowは画面シェア率などで勝負しないということです。BowNowの競合他社はSalesforceのPardotやHubspotになりますが、エンタープライズ向けの多くの素晴らしい機能や格好いいインターフェイスで勝負するわけではありません。

ユーザーが、私たちのサービスをどんなときに使うのが最適なのか？を考えながら開発したい

AIの発達は開発者でも抑えが効かない状態になっています。テクノロジーは、ワンクリックで国民を操れる可能性もあると言われるほどに力を持ってしまったからこそ、私たち（BowNow開発チーム）はそこで勝負はしないのです。

注目される「AI倫理」に必要なこと

このチャプターを記述するにあたって、最初にお伝えしなければならないのは、AI倫理は表現するのが非常に難しいということです。なので、さまざまな解釈がされることを前提として、私たちが考えるAI倫理について述べていきます。ぜひ皆さんも「AI倫理」について考えるきっかけにしていただければと考えています。

『監視資本主義』を観て、AIについて考えたメンバーで見出したAI倫理に必要なことは「reasonable」という言葉だと考えます。reasonableには「筋の通った/道理をわきまえた」や「合理的」という意味がありますが、まさにAIのアルゴリズムが企業理念や価値観に対して、筋が通っているかどうかが重要になってくると考えます。

ただし、現状のAI倫理は、まだまだ着手されたばかりがフェーズであることが多く、必ずしも全ての企業がそれぞれの企業理念に基づいたAI倫理を設定できているわけではないと思います。
だからこそ、ここで大事になる考え方の1つとして「言い訳」という言葉が出てくると考えます。ただ、この言い訳という言葉がその場しのぎの一時的ないい訳ではなく、企業理念に基づいた継続的に使えるいい訳であることが前提となります。

継続的にその意見・言い訳が通せるか？すなわち、AI倫理の根幹を支える考え方であってほしいという想いがあります。先ほど、企業が定義するAIの倫理は、企業理念に直結すると述べました。その場凌ぎの企業理念など聞いたこともないように、AI倫理における意見・言い訳も企業理念のように土台となる価値観や信念であるべきだからだと思っています。

AIを作るソフトウェアエンジニア個々人が単体の力でAIに規制をかけるのは難しいからこそ、法人がスケールメリットと企業理念を元にAIに対して規制を掛ける必要があると考えます。

私たちが持つ倫理観とは？

『監視資本主義』の冒頭に「確信を売るビジネスモデルに必要なものビッグデータ」だというセリフがあり、それはすなわち「人々を先物として取引する市場」だと表現されています。

"It's the gradual, slight, imperceptible change in your own behavior and perception that is the product."
　　　　　　　　　　　　　　　　　　　　　　Netfix『監視資本主義: デジタ社会がもたらす光と闇』

BowNowもユーザーの行動logから最適なマーケティング行動を促すような設計になっております。ただ、ここで大事なのは、私たち（BowNowチーム）が持つ社会的なドメインの立て付けとしては、企業（クライアント）がどう成長するのかを支援するサービスなので、収益を上げるためならなんでもするということではありません。

BowNowを使ってくださるクライアントのビジネスが成功して初めてBowNowに価値が付きます。つまりは、BowNow側で都合のいいアルゴリズムを組んでも仕方ないということです。我々は徹底して、クライアントのビジネスが成功するためのサービスを作り続ける必要があります。そういう意味ではこの『監視資本主義』に取り上げられるような心配要素は今のところないのではないかと考えています。

ただ今後、我々のサービスがよりAI倫理について深く考えなければいけないタイミングが来ると思っています。そのときに備えて、開発を進めながら、情報をインプットし続ける必要があると考えています。