AI用アクセラレータ・カードに最適な電源システム【Part 1/3】ブレークスルーの裏に潜む電力の問題

AI用アクセラレータ・カードに最適な電源システム【Part 1/3】ブレークスルーの裏に潜む電力の問題

著者:HamedSanogo

AIにより、人と世界のかかわり方は大きく変化しました。それだけでなく、AIが実用的なものになった結果、その稼働環境となるハードウェアを変革することが必要になりました。AIは、現在の産業や人々の日常生活のあらゆる領域に浸透しつつあります。そのようなイノベーションを支えているのはシリコン・ベースの頭脳です。つまり、GPU(Graphics Processing Unit)やTPU(Tensor Processing Unit)、最先端のASICが、かつてないほど大きな役割を担っています。ここに、多くの人が見落としているポイントが存在します。それらのICを搭載するAI用のアクセラレータ・カードが必要としているのはデータやアルゴリズムだけではありません。それらにとって何よりも重要なのは、極めて安定した高性能の電源システムです。

この連載では、3回にわたり、AI用のアクセラレータ・カードに最適な新たな電源システム(PDN:Power Delivery Network)について解説します。特に、極めて高速なトランジェントの管理という重要な課題に注目することにします。また、超高速な処理が求められる今日のAIを安定して稼働させるための革新的なソリューションを紹介します。具体的には、アナログ・デバイセズのマルチフェーズ(多相)電源技術などを取り上げます。

処理能力の向上、消費電力の急増

もはや、重要なのは速度だけではありません。今日の膨大なニューラル・ネットワークのトレーニングを実行したり、超高速なリアルタイムの推論を行ったりするためには何が必要なのでしょうか。そのような処理を実現するには、数十億個のトランジスタを使用し、ハードウェアの性能を限界まで引き出して、従来のどの世代よりも膨大なワークロードに対応しなければなりません。それを受けて、AIに関連する業界全体がかつてない速度で変革を遂げつつあります。

Gartnerによれば、AI用のICの売上高は2021年に340億米ドル(約5.4兆円)を超えました。2026年までに、同売上高は860億米ドル(約13.7兆円)の規模まで成長すると予想されています。GPU、TPU、FPGA、ASICなど、xPUと総称されるアクセラレータ用のICは、大規模な並列処理により、AIの特定のワークロードにおいてCPUを大きく上回る処理性能を発揮します。ただ、そのようにして並列に実行される演算処理は膨大な量のエネルギーを消費します。例えば、xPUを対象とした電源システムでは、1V未満のコア電圧を供給する一方で、1000Aを超える電流を供給しなければならないケースもあります。この種の電流に対する需要は、AIによる推論やトレーニングのタスクに応じて変動します。

AI用のアクセラレータ・カードにとって、電源システムはもはや後回しにできるものではありません。電源はシステムの性能を決定づける要素です。基盤になる電源システムに問題があれば、世界最先端のニューラル・ネットワークの動作が停止してしまうかもしれません。場合によっては、気づかないうちに誤動作が生じたり、誤った演算結果が出力されてしまったりする可能性もあります。

トランジェントは時限爆弾 

電力の観点から見た場合に、AIがこれほどまでに特別で、これほどまでに扱いにくいものになってしまうのはなぜでしょうか。その答えはトランジェントにあります。アクセラレータがニューラル・ネットワークの新たなレイヤを起動したり、トレーニングの処理と推論の処理を切り替えたりしたとします。そのたびに、負荷電流の量がわずか数マイクロ秒の間に急激に変化してしまうのです。

適切な管理が行われていない状態で電圧の変動が生じると、以下のような問題が引き起こされるおそれがあります。

  • 電圧のスパイクや降下が安全を確保するための保護用回路の閾値を超えた結果、プロセッサが停止したり、デリケートなxPUのチップに深刻な損傷が及んだりする可能性があります。
  • 従来のデカップリング・コンデンサの効果が損なわれるおそれがあります。特に、負荷の変動時間が、デカップリング・コンデンサだけでは十分に補償できないレベルになると問題が発生します。
  • プリント回路基板上の電圧レギュレータからあらゆる配線パターンに至るまで、電源システム全体が抱えるあらゆる脆弱性が露呈します。

図1. AI用の一般的なアクセラレータ・カードのブロック図

多くの技術者は、従来の電力分配方式では規模の拡大に対応できないことを認識し始めています。負荷が増減すると、極端なdi/dtのイベントが発生して電源レールが限界に達する可能性があります。場合によっては、熱設計の際に想定した最大許容電力の2倍(あるいはそれ以上)に相当する瞬間的な負荷が発生することもあり得ます。このような変動に対し、従来のレギュレータでは十分な速さで応答できないことが少なくありません。結果として、正に最悪のタイミングで電圧が低下(ブラウンアウト)したり、オーバーシュートが生じたりするおそれがあります。

AI向けの電源の設計に求められる根本的な変革

読者の中には、CPU用の電源回路を設計した経験がある方もいらっしゃるでしょう。その場合、AI用のアクセラレータ・カードの電源システムを設計するのも難しいことではないと感じられるかもしれません。しかし、それは大きな間違いです。AIを利用するためには膨大な電力が必要になります。ただ、単に必要な量が多いということではありません。AIを使用する場合、処理内容に応じて電力需要が大きく変動するので、従来よりも高い応答性能が求められます。それだけでなく、以下のような課題も発生します。

  1. 非常に低い電源電圧:xPUでは1V未満のコア電圧が使用されます。そのため、動作マージンが非常に小さくなります。
  2. 膨大な量の消費電流:アクセラレータ・カードでは、1000A以上の電流を供給しなければならないケースも珍しくありません。この電流量は、一般的なサーバやデータ・センター向けに定められた要件をはるかに上回っています。
  3. ノイズに関する厳格な基準:AI用のデリケートなICにおいては、高周波ノイズや電圧トランジェントが原因で簡単に障害が発生してしまう可能性があります。稼働時間や、精度、更にはデバイスの物理的な安全性にまで影響が及ぶかもしれません。
  4. 熱の問題:プリント回路基板の抵抗成分や効率の低いレギュレータによって消費される電力は、すべて熱に変換されます。電力密度が高まるにつれて、その熱を適切に管理することが重要な課題になります。

以上のことから、給電用のアーキテクチャは、電圧の過渡的な急上昇や低下を回避できるものでなければなりません。極めて安定しているだけでなく、俊敏に動作する必要があります。加えて、未来のデータ・センターにふさわしいレベルの効率を達成することも必要です。

旧来のアーキテクチャの限界

従来、電圧レギュレータは基板上でxPUの横に配置されていました。そして、平面型の広い配線パターンによりxPUに電力を供給していました。しかし、電流値が100Aのレベルを超えると、銅配線の長さがわずか数cmであったとしても大きな損失が生じます。つまり、AI用のアクセラレータ・カードで従来のアーキテクチャを採用すると、効率の低下、発熱量の増大、電圧の低下、ノイズに常に悩まされることになります。

AIのワークロードは極めて動的な独特の変化を示します。それに伴うトランジェントが加わると、正に最悪の状況に陥ります。アクセラレータ・カードで使用する電源の設計においては、「単に、より大きくすればよい」という従来のアプローチは通用しません。必要なのは、よりスマートで統合レベルの高いソリューションです。

AIによるイノベーションが抱える重大なリスク

PCの環境などで電力の供給が不安定になると、ブルー・スクリーンが生じたり、単純なリセット処理が実行されたりします。しかし、AIの稼働環境の場合、問題はそれで終わるわけではありません。リアルタイム対応のAIの世界では、一時的な不具合が命取りになります。例えば、自動運転車において何らかの検出ミスが生じれば、大きな問題が発生する可能性があります。また、AIを活用する金融分野の環境で電力の供給が不安定になると、リアルタイム対応の推論モデルがクラッシュしてしまうかもしれません。わずかな電圧の低下や上昇が生じただけで、トレーニングの全体にわたり連鎖的なエラーが引き起こされる可能性もあります。その場合、コストのかかる処理を再実行しなければならなかったり、エネルギーが無駄に消費されたりすることになります。

結論として、AIを問題なく活用するためには、次世代の電源システムが必要になります。そのようなシステムを構築できなければ、AIの処理速度や動作の安定性が大幅に低下してしまうかもしれません。それだけでなく、AIの潜在能力を最大限に活用できなくなり、多大なリスクを抱えてしまうことになります。

まとめ - 電力供給の革命の始まり

AIが進化するためには、それを支える電源のアーキテクチャも進化しなければなりません。アナログ・デバイセズは、AIの動作に伴って発生するトランジェントを制御するためのソリューションをゼロから開発しました。そのソリューションは、既に現場での稼働実績を積み上げています。本連載の次回の記事(Part 2)では、そうした最新のイノベーションを紹介します。AI用アクセラレータ・カードの分野では、パラダイム・シフトが生じています。具体的には、マルチフェーズの給電方式、スマートな統合に加え、垂直給電という新たな手法の導入が進みつつあります。それにより、従来は実現が不可能だった性能が実用的なものとして得られるようになります。Part 2の記事では、AI用のアクセラレータ・カードに対応可能な電源システムを実現するための新たな技術などについて解説します。ぜひご期待ください。

本稿の内容に関する詳細については、技術記事「AI用のアクセラレータ・カードに対する給電方法、トランジェントの影響を回避する」をご覧ください。

また、本連載「AI用アクセラレータ・カードに最適な電源システム」のすべての記事にはこちらからアクセスしてください。

Before You Switch


Switching languages will make ADI Explorer unavailable. Resume your session by switching back to English and reopening ADI Explorer.