AIの真価は「未知の予測」にある　米国のサイバーセキュリティ専門家の視点に学ぶ

目次
・「ChatGPT級」を生み出すAIのチカラ
・サイバーセキュリティに足りなかったピースとは
・AIや機械学習の未来は「予測性」にある

「ChatGPT級」を生み出すAIのチカラ

生成AIは「数十年間で最高の価値」を持つ

「AIは悪なのでしょうか」という質問をよく受けます。「AIは世界を乗っ取り、私たちを滅ぼすのでしょうか」と。私の答えはシンプルで、そんな風に考えること自体が信じられません。AIは誰も傷付けないです。AIを使用する人々が、誰かを傷付けることはあります。

　AIシステムを実世界のシステム、つまり水処理施設や原子力発電所、送電網といったものに接続すれば、人間ができることは減りますからね。ただ、AIに何もかもが取って代わられるわけではありません。意思決定はあくまで人間側に残ります。絶妙なさじ加減が必要な意思決定は、やはり人間にこそ可能なのですから。

　AIの凄さは、OpenAIがChatGPTを開発したように、「驚くべきもの」を生み出すことができる点にあります。生成AIは、過去数十年間で最高とも言える価値を持ち、この先も長く有望であり続けるテクノロジーの1つではないでしょうか。

　チャットボットを例に挙げると、チャットボットが世に出て結構長いこと経ちますが、性能はパッとしませんでした。素材とかデータとか、こちらが持つ一切合切を提示したとしても、ほとんどの場合は問題を解決してくれないし、意図した質問に答えてもくれない。このような積年の課題が、生成AIモデルにかかるとどうなったか。皆さんもご存じの通り、驚くほど高度で正確な返答を得られるようになりました。

自身にも降りかかった生成AIのハルシネーション

　しかし、生成AIにハルシネーション（幻覚）はつきものです。これは私が保証しますよ。なぜなら、ChatGPT3.5によると、サイバーセキュリティの専門家で『Hacking Exposed』の著者のStuart McClureなる人物、つまり私のことなんですが、その人物は2年間死んだことになっていたんですから。2023年9月にChatGPT4がリリースされ、無事に「生き返る」ことができて胸をなでおろしましたがね(笑)

　何が言いたいかというと、ハルシネーションは間違いなく起こります。もちろん発生率は段々と下がり、今後改善されていくでしょう。しかし、生成AIとハルシネーションは切っても切れない関係だということは肝に銘じておく必要があります。

image: DNX Ventures

サイバーセキュリティに足りなかったピースとは

人生の分岐点になった航空事故

　ここで少し、昔話をさせてください。実は、私は1989年に上空で貨物ドア脱落事故を起こしたユナイテッド航空機に搭乗していました。事故の直後、機体には穴が開き、右翼エンジンも損傷しましたが、機長は不可能と言われた緊急着陸に成功。数多くの乗客が命を救われました。事故後に行われた検証では、200通り以上のシミュレーションで機体はいずれも海に墜落したとのことです。

　事故原因となった機材の不具合は1年前から認識されていて、未然に防げた事故だったと後に判明しました。この体験を通じて、私は人生の目的を自覚しました。「未然に防げるはずの災難を起こさせない」と。これが、サイバーセキュリティ分野に対する情熱の原点です。

　その後、大学時代に管理者用のコンピューターをハッキングできるかという知人からの挑戦を受けて立ったことがあります。ほんの数日で侵入に成功し、その証拠となるパスワードを見せると、知人はとても驚いていました。それはもう、気絶するんじゃないかというくらい。これをきっかけに、サイバー領域に夢中になり、本を執筆し、起業の道へと進むことになります。

シグネチャ型の限界、AIこそ足りないピースだった

　サイバーセキュリティとは「脆弱性」を見つけ出すこと、これに尽きます。ただ、当初を振り返ると、新しい攻撃に直面しては、新しいシグネチャ（サイバー攻撃を識別するためのルール集）を書く。ちょっとした手口の変化に対処するため、またイチからやり直す。これの繰り返しでした。シグネチャを書く人材には限りがあります。何か別の方法を見つける必要がありました。

　この本質的な課題に立ち向かうため、新たにCylanceを創業しました。紆余曲折を経て辿り着いたのが、コア技術に深層学習システムを取り入れるという発想です。私たちは前述の課題に対処する能力を単純に持ち合わせていなかったわけですが、AIこそがそれを補うものだったのです。

　サイバー攻撃対策に機械学習を用いることで、99.9%の水準で攻撃を未然に防ぐことができるようになりました。かつて立ちはだかっていた難題をついに解決し、CylanceはAIをサイバーセキュリティに応用した草分け的存在となりました。

image: DNX Ventures

AIや機械学習の未来は「予測性」にある

過去データから新たな事象を予測する「予測AI」

　さて、AIに話を戻します。私はAIや機械学習の価値は「予測AI（Predictive AI）」周りにあると考えています。予測AIとは、過去のデータセットを用いて学習することで、新しい事象を予測するというものです。それは、過去の事象の再発かもしれないし、将来起こり得る出来事かもしれません。

　この予測検知は、まさに私たちがCylanceで取り組んでいたことです。そしてこれは、サイバーセキュリティの枠を超えて、さらなる課題解決に役立てられる。そう考え、現在はQwietという会社で、AppSec*領域への活用に取り組んでいます。社名は、コード内の検出結果からノイズやダストを取り除き、きれいなシグナルにして送り返すという意味が込められています。

　さて、ここに予測AIの考え方を当てはめるとどうなるでしょう。つまり、AIを予測的に適用し、単にコードの不具合を発見するだけでなく、コードを自動修正するということです。これって凄いことじゃないでしょうか？しかも、コミュニティベースではなく、個別の顧客ベースで対応する。なぜなら、どの顧客も異なる問題を抱えているわけですから。これが現在、Qwietで取り組んでいることであり、進展は非常に順調です。

　私はAIの真の価値は、予測AIや予防AIにあると信じています。インキュベーターとしての活動も行っており、他業界が抱えるさまざまな問題を調査中です。それぞれの問題に対して、問題を予測するだけの十分なデータがあるかを検討する。もし、データが十分であれば、あとはその問題を回避するだけです。サイバー領域を大きく越えて、さまざまな領域に適用できる考え方だと思っています。

*AppSec（アプリケーション・セキュリティ）とは、ソフトウェア開発ライフサイクル全体にわたってアプリケーションの脆弱性を特定・修正し、脆弱性対策を取るために採用されるプロセスやツールのこと

TECHBLITZ編集部作成

生成AIはクリエイティブな面への影響

　生成AIは現在、世界中で熱狂的に受け入れられています。私には今がピークなのか、それとも今後もっと大きな山が来るのかは分かりません。生成AIのソリューションは非常に価値のあるものだと思いますが、よりクリエイティブな面に影響を与えています。ここの違いがとても重要なのです。

　私の経験や知見、そして少しの希望的観測から言えることはこうです。「AIや機械学習の未来は『予測性』にある。そして、突き詰めれば『予防性』である」と。繰り返しになりますが、予防することが非常に重要です。私たちを取り巻くさまざまな問題とどう向き合うかをリフレームできると信じています。