目次
・AI時代にデータセンターが抱える課題
・データセンターに「本来の仕事」をさせる
・ビッグテックがしのぎを削るDPU分野
AI時代にデータセンターが抱える課題
Kim氏はカーネギーメロン大学コンピュータアーキテクチャを専攻。卒業後はSun MicrosystemsやOracleでCPU設計者として働いた。その経験を経て韓国へ移り、現在もソウル大学の教授として勤務している。Kim氏は約10年前に、次世代のデータセンターにおいて、コンピューターサーバーが非常に非効率になると予測し、それを解消する技術の研究を開始した。現在「DPU」と呼ばれている技術だ。
研究を始めて数年経った2018年、Kim氏はある会議に参加した。その場でAmazon Web Services（AWS）が「AWS Nitro System」を発表した。これは、特別に設計されたチップを使用し、ネットワークのやり取りやデータの安全な保存を高速に行うことができ、これによりCPUの主要な処理能力はアプリケーションの実行に集中できるようになる仕組みだ。
「AWSはストレージデバイスやネットワークデバイス、そして仮想マシンを加速するハードウェアカードについて言及していました。それを聞いた瞬間、私たちが取り組んできた課題と全く同じであると気付きました。クラウドで先行していたAWSは、データセンターの課題に気付いていたのです。私たちも、研究成果から製品化をすることは容易と考え、MangoBoostを創業したのです」
MangoBoostは、ソウル大学の研究室から生まれたスタートアップで、Kim氏は教え子たちと共に創業した。さらに、カーネギーメロン大学出身で、IntelでAIアクセラレータの構築に携わっていたEriko Nurvitadhi博士とMicrosoftでAIアクセラレータの構築に関わっていたGabriel Weisz博士、資金提供者でもあるSamsung ElectronicsからはSoo-Woong Lee博士とSungchul Han博士、Junki Park博士らが加わった。
「私たちは、産業界からの経験者と研究分野の専門家を融合させたドリームチームです。MITやスタンフォードからスタートアップを立ち上げたとしても、初日からこのような経験豊富な業界人と研究者を擁することはできないでしょう」
データセンターに「本来の仕事」をさせる
MangoBoostが解決に向けて取り組んでいるのは、データセンターの運用で直面する主要な課題だ。現在、多くの人々がクラウドを活用していることに加え、ビッグデータやAIの需要の増加により、コンピュータの数が過剰になった結果、データセンター運営には莫大なコストとエネルギーが必要とされている。データセンターの問題の1つが、仮想マシンの利用に伴うCPUの過剰使用だ。また、サーバーに接続されるデバイスやストレージ、GPUなどが増えていることも問題だ。CPUがデバイスとシステムソフトウェアのサポートにその能力を奪われるため、本来求められているアプリケーション処理に利用するCPUリソースが不足するのだ。
コンピューターの画像処理を加速するためにGPUができ、ネットワーク処理をCPUから解放するためにネットワークカードが登場したように、MangoBoostはサーバーの処理を効率化するための技術を開発した。このテクノロジーはハードウェアだけでなく、処理を最適化するソフトウェア（AI
アクセラレータ）も含まれる。
「NVIDIAはこれをDPUと呼んでいますが、実際にはIPU（インフラストラクチャ・プロセッシング・ユニット）と呼ぶほうが分かりやすいです。これによって1台のサーバーにより多くのデバイスを搭載可能となり、より高速なデバイス、GPU、そしてネットワークカードを使うことができます。サーバー1台当たりのGPUを4台から6台に増やすことができれば、DPUのおかげでサーバーの数を大幅に減らすことができ、総所有コスト（TCO）を30％削減できます」
image: MangoBoost HP
ビッグテックがしのぎを削るDPU分野
DPUソリューションの分野は、NVIDIAのBlueField、米半導体会社のAdvanced Micro Devices（AMD）が買収したPensando、Intelの「Oak Springs Canyon」、Microsoftが買収したFungibleなどの名前が挙がっている。先駆者となった「AWS Nitro System」はAWS外部には提供されていない。Kim氏は、ハードウェアとソフトウェアを統合したソリューションを持つことにMangoBoostの強みがあると自信を見せている。
AMDとはパートナーシップ契約を結び、AMDのDPUハードウェアに対してMangoBoostのテクノロジーを実行できるようにした。Samsung Electronicsとも協力しており、大規模ストレージに対して技術を提供している。いずれも、データセンターの負荷を軽減するソリューションにつながるものだ。現在は、これらの企業や大規模データセンターとの研究を行なっている状況で、将来的に大きな収益を見込んでいる。
「次のステップでは、製品の商用化を達成することが目標です。採用も強化しており、シアトル近郊に位置するベルビューの本社に加えて、トロント大学から多くの人材を獲得していることから、トロントにも新たな拠点を開設する予定です。韓国とトロントの支社は、ビジネスを支える活動を担当します」
長期的なビジョンについてKim氏は、「次のNVIDIAになりたい」と語る。NVIDIAはGPU領域でナンバーワンの企業になった。MangoBoost はDPUソリューションにおけるトップを目指しているのだ。
日本のデータセンターも米国と同じく、パフォーマンス向上とTCO削減を目指している。Kim氏は、データセンターやサーバー、デバイスを運用している日本企業にMangoBoostのテクノロジーが貢献できるとし、最後に次のようにコメントした。
「大手通信事業者やゲーム関連企業など、いくつかの日本企業とは話を進めています。私たちは、コンピューターサーバーの非効率性に悩む全ての企業と話をしたいです。私たちは、ハードウェアとソフトウェアを組み合わせてより良いシステムを実現しており、TCOの30％削減など具体的な提案が可能です」
image: MangoBoost
