【OCI】生成AIにGPUが適している理由

昨今のIT業界では生成AIとGPUが話題になっています。

もちろん、Oracle Cloud Infrastructure（OCI）でもAIサービスやGPUインスタンスが提供されています。

改めて、なぜGPUは生成AIに適しているのでしょうか。
その理由をCPUと比較しながらご紹介します。

「GPUが生成AIに適している理由」の前に、GPUの特徴をご紹介します。

「GPU」とはグラフィックス・プロセッシング・ユニットの略で、小型で特殊なコアを多数備えた大規模集積回路を指します。
複数のコアを用いて並列でタスクを処理することで、高いパフォーマンスを実現できます。
GPUにはAIワークロードやディープラーニングに特化した特殊なコアが存在します。このコアを用いて複雑な演算を処理することができます。

CPUとGPUを比較し、GPUが優れているのはどのような点でしょうか。

GPUにはCPUの数百倍ものコアが搭載されています。
膨大な数のコアで並列に処理することで、膨大な量の数値の行列演算を短時間で実行できます。
CPUでは膨大な時間がかかるような演算処理でも、GPUであれば数分～数十分程度で処理できる可能性があります。

GPUとCPUでは、使用するメモリーにも違いがあります。
CPUはRandom Access Memory（RAM）を、GPUはVideo Random Access Memory（VRAM）を使用します。
また、GPUはCPUに比べて格段に高いメモリー容量とメモリーの帯域幅を持っているため、大量のデータを扱うことができます。

上記の違いや、演算の複雑度とワークロードに応じて要求される性能が異なることを踏まえると、CPU、GPUにはそれぞれ以下のような用途が適していると考えられます。

ここから、生成AIの動作に適したGPUをご紹介します。

「CPUとGPUの違い」章で述べたとおり、生成AIに利用するGPUはコア数が演算処理の性能に直結します。そのため、ワークロードに応じた多数のコアを備えたGPUを選択する必要があります。

GPUを構成する特殊なコアの例として、NVIDIA社が開発した「Tensorコア」があります。
Tensorコアは数値の演算処理に特化しており、大量のデータを対象としながら、高速なデータ分析が可能です。

同じく「CPUとGPUの違い」章で述べたとおり、メモリー容量とメモリーの帯域幅が重要です。
生成AIに十分なメモリー容量が確保されていない場合、必要なデータをメモリー上に保持できないため、性能劣化につながります。
また、メモリーに乗っているデータの読み書きのための十分な帯域幅も影響します。

これらを考慮すると、以下の3点が生成AIに適したGPU選択のポイントです。

①　コアを多数備えていること
②　メモリー容量が大きいこと
③　メモリー帯域幅が高いこと

最後に、OCIで提供されているAIサービス群とOCIで作成可能なGPUインスタンスについてご紹介します。

OCIでは以下の7つのAIサービスが提供されています。

① OCI Generative
　最先端のカスタマイズ可能な大規模言語モデル（LLM）のセットを提供するフルマネージドサービス

② OCI Generative AI Agents
　大規模言語モデル（LLM）とナレッジベースを検索して取得するシステムを組み合せたフルマネージドサービス

③ OCI Digital Assistant
　ユーザーが自然言語を介してタスクを実行できる、AI駆動のインタフェースを作成およびデプロイできるプラットフォーム

④ OCI Language
　テキスト分析を大規模に実行するための、クラウドベースのAIサービス

⑤ OCI Speech
　自動音声認識テクノロジーを応用して音声ベースのコンテンツをテキストに変換する、AIサービス

⑥ OCI Vision
　ディープラーニングベースの画像分析を大規模に実行するためのAIサービス

⑦ OCI Document Understanding
　ドキュメントファイルからテキスト、表、その他の重要なデータを抽出できるAIサービス

OCIでは、ベアメタル、仮想マシンの2種類のマシンタイプで、GPUインスタンスが提供されています。

今回は、話題の生成AIとGPUの関係性についてご紹介しました。

GPUはCPUと比較して、コア数やメモリーの面で優れており、複雑な演算に特化しています。
このように膨大な量の演算処理に適しているGPUは、生成AIに不可欠であることがわかります。

また、OCIで提供されているAIサービスやOCIで作成可能なGPUインスタンスもご紹介しました。

今後は、OCIで作成可能なGPUインスタンスの詳細をご紹介する予定です。

◆参考
・OCIで提供されているAIサービスの概要（オラクル社のサイトに移動します）
https://www.oracle.com/jp/artificial-intelligence/ai-services/

・Oracle Cloud Infrastructureドキュメント - コンピュート・シェイプ（オラクル社のサイトに移動します）
https://docs.public.oneportal.content.oci.oraclecloud.com/ja-jp/iaas/Content/Compute/References/computeshapes.htm