目次
・AIが受ける「模試」や「本試験」のようなツール
・世界中のスタートアップ50社からBSIが採用
・AIのメンテナンス需要の高まりを予測
・人智を超えたAI運用の「最後の砦」となる
AIが受ける「模試」や「本試験」のようなツール
―現在のプロダクトについて教えてください。
現在、3つのプロダクトを提供しています。1つ目は「Citadel Lens」で、これはAIが学習する際にバイアスが含まれていないか、未学習の領域が残っていないかを自動的にテストするツールです。例えば、自動運転車のAIが誤認識を起こした結果、衝突事故を起こしたとケースがありますが、これは学習段階でさまざまな画像を基にしたAIの学習が十分でないケースが原因です。しかし、天気の良い日は問題なく機能するものの、例えば雪や強い光が反射する特殊な状況では、人間でも間違える可能性があるように、AIも誤動作することがあります。
「Citadel Lens」の役割は、まるで人間が予備校でさまざまな模擬テストを受けて苦手な領域を特定するように、AIに対しても大量の問題集を提供し、そのAIの苦手な領域を明らかにすることです。これまでは、このプロセスを人力で行っていましたが、時間がかかる上に、弱点領域を発見しにくいという課題がありました。AIの更新は技術進歩の速いこの分野では非常に重要で、頻繁に行う必要がありますが、手作業では年に1回しか更新できないこともありました。この問題を解決し、AIの開発をアジャイルに進めるための自動化が「Citadel Lens」の目的です。
例えば、元の画像に対して何十パターンもの変形画像を自動で生成するシステムがあります。晴れている自動車の写真に対して雨を降らせるなど、さまざまな環境変化を模した画像を作成し、それらを使ってAIが変化する環境にも対応できるかどうかを自動でテストできるのです。
また、ISOという国際標準化機構があり、AIに関する標準化が進んでいます。技術的な基準やガバナンスの規範など、20以上の標準が設けられています。これらの標準に基づいて、お客様のAIが問題なく対応できているかどうかを検証できるようになっています。
2つ目の「Citadel Radar」は、AIの学習と検証が完了した後の段階に使うツールです。人間で例えるならば、受験勉強を一生懸命頑張った後の本番試験のようなものです。本番では、予め対策した参考書に載っていないような新しい問題に直面しますね。このため、どんなに学習や検証を重ねても、実際の運用環境では新しいデータや変化したデータのパターンに遭遇します。
例えば、新型コロナウイルスの流行後は、生活パターンが大きく変わり、多くの人がマスクをするようになりました。これと同じように周囲の環境が変わることで、AIが新しいデータに遭遇したり、新しい使い方をされたりして、誤動作することがあります。「Citadel Radar」は、そうした新しい状況やデータにAIがどのように反応するかを見つける役割を持っています。「Citadel Lens」「Citadel Radar」の料金体系は、ユーザー数やモデル数などの要素に基づいて変動します。
もう1つのプロダクト「LangCheck」は、大規模言語モデルを含む生成AIに対応しています。このツールは、AIが不適切な返答をしたり、現実と異なる情報を生成する「ハルシネーション」のリスクをチェックします。「LangCheck」だけはオープンソースプロジェクトとして公開しており、商用化も準備しています。
image: Citadel AI 「Citadel Lens」
世界中のスタートアップ50社からBSIが採用
―顧客の導入事例について教えていただけますか。
特筆すべき導入事例は、BSIでの採用です。BSIはISOの標準を作成する役割を持ち、その認証も担っています。BSIがAIの認証を手掛けることになっており、当社のツールが採用されました。BSIは世界中のスタートアップ50社以上から選考を行い、約1年間のセレクションと技術検証を経て、最終的にCitadel AIが選ばれたのです。選ばれた理由は、私たちのチームがトップクラスのエンジニアで構成されていることです。
私たちのメンバーは、技術力はもちろんのこと、実際の課題を解決してきた経験があります。医学部の学生が教科書で学んでも、いきなり高度な外科手術はできないでしょう、AIの信頼性に関する研究をしている人はいるものの、GoogleやAmazon、Microsoftなどの大規模なシステムに適用してきた人材は少ないです。
AIの検証という点では、同じようなサービスを開発する会社は多くありますが、私たちのレベルでできる会社は世界でもほとんどないと思います。私たちの大きな特徴の一つは、AIの内部を直接見ないことです。これは一見、AIの品質を見るうえで不要に思えるかもしれませんが、AI技術は日進月歩で進化しているため、内部を直接チェックする方法では、検査技術も常に更新しなければなりません。そのため、私たちは意図的に入力と出力を検証する技術を採用しています。この方法なら、AI内部の技術やパラメータの数がどれだけ変わろうとも、同じテストを継続して行えます。
AIのメンテナンス需要の高まりを予測
―小林様の専門領域やCitadel AI創業に至った経緯をお教えください。
東京大学電子工学科を卒業後、1986年に三菱商事に入社しました。電電公社が民営化されたことによる、通信業界の新たな動きに惹かれたのです。そして日本国際通信やPHSのアステル東京の立ち上げに関わり、その後はニューヨークに駐在し、アメリカのスタートアップに投資し、その技術やサービスを日本に導入する仕事を行いました。2002年に三菱商事が情報産業部門を縮小し、生活産業グループに移管された後は、ユニクロやローソンなどのコンシューマープロダクトを扱い、その後ポイントサービス「Ponta」を運営するロイヤリティマーケティングの社長や、アメリカの大規模な食肉加工会社Indiana Packers CorporationのCEOを務めました。
そして、もともと情報産業系の仕事に興味があり、将来は投資を受ける側に回りたいという思いがありました。そしてAIの分野に興味を持ち、それについて学びを深めていきました。その過程で、GoogleのAIの中枢研究開発機関であるGoogle BrainにてTensorFlowの開発に携わっていたエンジニアのKenny Song（現CTO）と知り合うことができ、2020年にCitadel AIを共同創業しました
KennyがGoogle Brainでリードしたのは、TensorFlowやAutoMLなどの開発プロジェクトです。特にTensorFlow Extended (TFX)の開発に携わりました。TFXはプロフェッショナルなプログラミング言語を用いて構築されたパイプラインであり、Googleの検索エンジン、YouTube、Googleマップなどのサービスを支えています。これらのサービスは大規模にAI化されており、日々発生する問題をエンジニアたちが解決しています。実はAIのメンテナンスや問題解決の方が、AIの開発そのものよりも遥かに困難であり、高度な技術知識と、実務経験を持ったエンジニアが不可欠なのです。
Googleには世界中からトップクラスのエンジニアが集まっていますので、このような課題に対処できていますが、一般の企業ではそうした人材が不足しています。この状況から、将来のAIの普及を考えると、メンテナンスや問題解決の分野での需要が間違いなく高まると予測したのです。一般の企業でも簡単に使用できるツールを提供するプロダクトを提供することにしたのです。
―業績や、今後のマイルストーンについてはいかがでしょうか。
もうすぐ単月で黒字に転じる見込みです。お客様が増えていることと、お客様自身の利用頻度も増加していることが背景にあります。今後は、お客様の要望に応じて、既存の製品に様々な機能を追加していく予定です。ISOなどのAIに関する標準が今後も増えていくため、それらに対応できる機能を継続して追加していきます。
現在のチームメンバーはパートタイムを含めて14人の少数精鋭です。実は、私たちのところには2,000人以上の応募があったのですが、選考を通過するのはごく一部です。これは、非常に高い能力を持った人材のみを採用しているからです。先に話したように、大規模なシステムでの実戦経験がない人には務まらない仕事だからです。
営業に関しては、COOの松葉威人と私が担当します。お互いに三菱商事で国際的なビジネスを経験しており、そのようなコネクションや海外との交渉経験を活かしています。また、ディストリビューションについてはさまざまな企業と話を進めている段階です。
人智を超えたAI運用の「最後の砦」となる
―AIの利用は進んでいくことが予測されます。御社の長期ビジョンをお教えください。
AI技術の進化は、技術者の予想をも超える速さで進んでいます。AIの信頼性や、人類がこれをコントロールできるかどうかが大きな課題となっています。実際、このコントロールが失われる可能性は非常に高いとも言われています。現在の生成AIを評価する際には、別の生成AIを用いるという方法が提案されることもあります。例えるなら、これはある日、宇宙人が来た際に別の宇宙人にその宇宙人の信頼性を問うてみるようなもので、地球人の視点が欠けています。
この問題を放っておくのは非常にリスキーです。人間としてどうAIをコントロールできるか、その仕組みを作ることが技術の根幹に関わる重要な部分です。技術イノベーションを阻害しないような考え方もありますが、現在はそのレベルを超えていると言えます。適切な枠組みを作ってAIを管理して活用した国が成功するでしょう。もし世界中が全て善良な人ばかりであれば、脅威にはならないかもしれません。しかし、それは非現実的な話です。そこで私たちは国際的な枠組みを守り社会に貢献できればと思っています。
Citadelという言葉には「要塞」や「砦」という意味があります。Kennyがこの名前を選んだのですが、その背景には自らを最後の砦と位置づけ、AIを守ると同時に人間を守るという役割を果たしたいという意思からです。これからの時代、パソコンをセキュリティソフトなしで使用することが非常に危険であるように、AIも同様にセキュリティの重要性が高まっています。私たちはその「最後の砦」となりたいと思っているのです。
image: Citadel AI HP
―将来的な顧客やパートナーに対するメッセージをお願いします。
お客様の多くは、それぞれの分野でプロフェッショナルであると思います。自動車会社や医療機器メーカー、銀行など、各業界は長い歴史とノウハウを持ち、その業界知識と経験に基づいて必要なAIの種類を特定する能力に関しては、お客様は圧倒的な知識を持っています。しかし、そのAIをどのように検査すべきかというノウハウはほとんど持っていないのが現実です。私たちは、さまざまなドメインにわたるAIのテストに関するノウハウで世界トップクラスであると自負しています。
お互いの強みを活かし合うことが重要で、各社のドメインを「縦糸」と見なし、それぞれの強みを発揮することが大切です。それを支える技術や知識、つまり「横糸」を私たちが提供することで、一緒に強固な体系を織り成すことを目指していきたいと考えています。
この会社を立ち上げたきっかけは、日本の世界的なポジションが大きく低下していると感じたからです。かつては日本のメーカーや事業者が世界のトップテンに名を連ねることも少なくありませんでしたが、過去20年で周囲の国々が進歩する中、日本は停滞してしまいました。
私たちは、日本からも世界に通じるイノベーションを生み出せることを示したいと思っています。この意志がなければ、特にこれからの若い世代に夢を提供することは難しいでしょう。日本人だけでなく、多くの若者たちに、「日本発で新しいことができる」と感じられる環境を整えたいと考えています。そうすることで、日本の復興を果たし、さまざまな分野で貢献できることを願っています。
