AIが攻撃を受けている
――大柴さんは日本で育ち、高校後にハーバードに留学したんですね。
私は、ハーバード大学でコンピューターサイエンスと統計学を学びました。在学中に、当社の共同創業者であり、当時私の指導教授だったYaron Singerと一緒に取り組んだ「ロバスト機械学習」に関する研究が、当社の始まりです。
「ロバスト機械学習」とは、AIシステムをより安全で信頼性が高くロバスト（強固な）なものにする方法を考える分野です。
――Robust Intelligenceが解決しようとしている課題は何ですか。
私たちが取り組んでいるのは、AIセキュリティです。サイバーセキュリティはインターネットを守ること、ネットワークを守ること、コンピューターを守ることです。AIセキュリティはAIを守ることなんです。
Image: Robust Intelligence
これはどういうことかというと、いまは不正検知、音声認証、顔認証や物体検出などの領域でAIを活用する企業が増えていますが、ソフトウェアシステムと同じように、AIシステムにも抜け穴や脆弱性があります。私たちはこれらの脆弱性をいち早く特定し、解決する技術を開発しています。
例えば、ある決済代行会社は、毎秒のように悪意ある攻撃を受けています。サイバー攻撃ではなく、AIモデルへの攻撃です。AIモデルを騙すために、デバイスやIPなど、様々な情報を変えているのです。これを防ぐのが私たちの役割です。
AIセキュリティの実力は、世界トップクラスを自負
――どんなビジネスモデルをとっていますか。
ビジネスモデルはシンプルです。基本的には、このソフトウェアプラットフォームを提供して、年間ライセンス料をいただいています。
――どういった企業が御社のサービスを利用しているのでしょうか？
当社の顧客は、決済代行会社や銀行などの金融機関と、機械学習を活用している様々な業種のハイテク企業、あとは政府機関です。
――御社の強みはどのような点でしょうか？
当社には、AIセキュリティに取り組んできた研究者と、社内でAIセキュリティチームを構築しているGoogleやFacebookの出身者、それと、Two Sigmaなどの企業で機械学習モデルを構築していたエンジニアなど、優秀な人材がいます。これが強みです。
当社のプラットフォームは、他より速く、多くの脆弱性を発見できます。そして、AIセキュリティの実行力において、私たちが世界トップ水準だと考えています。また、実際に企業で機械学習モデルを構築してきたエンジニアがいることで、機械学習モデル開発における問題点をより理解し、障害の種類を正確に把握していることも、強みです。
AIセキュリティに精通した人材の雇用を進めている企業もありますが、それだけでは対応しきれていないのが現状で、当社はセキュリティ担当者がいない企業だけでなく、社内に専任の担当者がいる大手企業などからも相談を受けています。
AIセキュリティ市場のリーダーへ
――導入を検討している日本企業が既にいるそうですね。
当社は、創業から1年のスタートアップですが、日本でも想像していた以上の関心を寄せていただいています。特に、銀行やクレジットカード会社や、金融業界でコアになる技術を提供する企業が当社の製品を前向きに検討してくださっています。トライアルや概念実証を行ったケースもあります。またNTTデータやインテリジェント ウェイブともすでに連携を始めています。
日本では、機械学習やAIを不正検知に使用する企業が増えています。そして、当社が指摘しているAIセキュリティの必要性を理解している企業が、私たちが思っていたより多いです。彼らは、機械学習やAIは全ての問題を解決してくれるブラックボックスではないことや、抜け穴があり、そこに攻撃を受けることを目の当たりにしています。
当社の製品は、攻撃からAIモデルを守るだけでなく、機械学習やAIモデルにおける修正点の特定にも活用できます。例えば、日本では多くの企業が、意思決定の自動化にビジネスルール管理システムを活用しています。
しかし、それらは非常に複雑で、維持が非常に難しいという問題がありました。実際に日本企業の方々とお話をし、当社のプラットフォームはこうした問題を解決するためにも活用できることが分かりましたので、今後日本市場でも事業を拡大していきたいです。
――最後に今後のビジョンを聞かせてください。
コンピューターの普及と同時に、企業はコンピューターウィルスの問題に直面しました。そして、サイバーセキュリティ市場が生まれ、多くの企業は自社内にセキュリティチームを作るのではなく、ノートンなどのサイバーセキュリティ企業を頼り、問題を解決しています。
今後、AIの世界でも同じことが起きると思っています。サイバーセキュリティ市場が新たに創出されたように、企業におけるAIセキュリティが必要になるでしょう。さまざまな業界であらゆるAIシステムを守る役割を当社が担っていきたいと思っています。
