HBM(High Bandwidth Memory)とは？

HBMとは？

HBM（High Bandwidth Memory）とは非常に高い帯域幅（データ転送速度）を持ったDRAM(Dynamic Random Access Memory, ディーラムと呼ばれる)です。

HBMの特徴1:3Dスタッキング技術

HBMは複数のメモリ層を垂直に積み重ねる3Dスタッキング技術を使用しています。これにより、従来の平面メモリよりも多くのデータを高速に処理できます。

HBMの特徴2:幅広いインターフェース

HBMは非常に広いインターフェースを提供し、これにより高い帯域幅が実現できます。

例えば、HBM2では1024ビットのインターフェースが一般的です。

HBMの特徴3:比較的低い消費電力

HBMは、高帯域幅を維持しながらも比較的低い消費電力で動作します。

これは、データ転送に必要な電力が少ないためです。

HBMの特徴4:インターポーザ経由の接続

HBMはインターポーザと呼ばれるシリコンの層を介してGPUやCPUに接続されます。

この接続方法により、データの転送速度が向上し、信号の品質が保たれます。

HBMの用途

HBMは、高性能コンピューティング、サーバー、高度なグラフィックス処理、AI、機械学習など、高いメモリ帯域幅を必要とするアプリケーションに適しています。

メモリと帯域幅

メモリとプロセッサを結んで信号を交換する入出力回路（IO:Input/Output）のことを「バス」と呼びます。

このバスを1秒間に通過するデータ信号の数を帯域幅（Bandwidth）と表現します。

帯域幅の数値が大きいほどデータ処理が速いことを示します。

帯域幅は、以下の式で表現できます。

帯域幅=(信号線1本の伝送速度)×(バスの本数)

例えばDDR(Double Data Rate)タイプのDRAM(メモリー)で考えてみましょう。

下表にメモリー規格と帯域幅とデータ転送レートをまとめたものです。

メモリー規格には、別称があり、それが帯域幅を表しています。

例えば、PC3-19200という別称の場合は、19200MB/secという帯域幅(データ転送速度)を表しています。

MBというのは、Mega Byte(メガバイト)と読みます。

Megaは、1,000,000倍という意味なので、

1MB=1,000,000Byte

という意味になります。

そして、データ転送レートは、Mbpsという単位で表現します。

Mbpsは、Mega bits per sec(メガ・ビッツ・パー・セック)と読み、

一秒あたりに転送できるビット数を表しています。

bit(ビット)とByte(バイト)の関係

ビット（bit）とバイト（byte）は、コンピュータの情報表現において非常に重要な概念です。

ビット（bit）:

ビットは、コンピュータの最小のデータ単位です。

ビットは2つの値、0と1のいずれかを表します。

ビットは情報の最小単位であり、データの「オン」または「オフ」状態を表現します。

1ビットは1桁の2進数を表します。

バイト（byte）:

• 1バイトは、8ビットで構成されます。したがって、1バイトは8つのビットの集合体です。
• バイトは通常、1つの文字（例：英字、数字、記号）を表現するのに使用されます。ASCIIコードやUTF-8などのエンコーディング方式では、1バイトで多くの一般的な文字が表現できます。
• ビットは主にデータの転送速度、ストレージ容量、ネットワーク帯域幅などの指標で使用され、バイトはファイルサイズやメモリ容量などの単位として使用されることが多いです。

例えば、

• 英字の「A」はASCIIコードで65と表現され、これは1バイトで表現されます（8ビット、すなわち8桁の0と1で構成されます）。
• 1キロバイト（KB）は約8,000ビット（8ビット × 1,024）です。
• 1メガバイト（MB）は約8,000,000ビット（8ビット × 1,024 × 1,024）です。

ビットとバイトは情報の表現と転送において基本的な単位であり、コンピュータの基本的なデータ処理に関連しています。

表記するときは、バイトを大文字の「B」

ビットを小文字の「b」で表すことが多いです。

伝送速度1,600Mbpsでバス本数が1本とすると、帯域幅は

帯域幅

=(信号線1本の伝送速度)×(バスの本数)

=伝送速度1,600Mbps × 1本

=1,600Mbps

です。

では、伝送速度1,600Mbpsでバス本数が2本とすると、帯域幅は

帯域幅

=(信号線1本の伝送速度)×(バスの本数)

=伝送速度1,600Mbps × 2本

=3,200Mbps

=800MB/sec

です。

つまり、バス本数が多くなればなるほど、帯域幅が大きくなります。

しかし、DDR3やDDR4といったメモリーでは、バス本数を増やすのに限界がありました。

その解決策として登場するのが、HBMです。

HBM(High Bandwidth Memory)は、DDRタイプのメモリと比較して、バス本数が1024本という驚異的なバス本数を実現できます。

伝送速度は変わらず1,600Mbpsと仮定した場合の帯域幅を考えてみると、

帯域幅

=(信号線1本の伝送速度)×(バスの本数)

=伝送速度1,600Mbps × 1024本

=1,638,400Mbps

=1,638.4Gbps

=204.8GB/sec

となり、HBMにより高帯域幅が実現できます。

HBMに欠かせないTSVという技術

HBMで高い帯域幅を実現できる理由は、バス本数の多さにありました。

では、多くのバス本数を実現できる理由は何でしょう。

多くのバス本数を実現できる理由は、TSV（Through Silicon Via）という技術です。

TSV（Through Silicon Via）とは、英語で表現するとシリコンを通り抜ける、と直訳できます。

実際のTSV技術は、メモリの材料(母材)であるシリコンに小さな穴をあけて、その穴を電極で埋めて、高層ビルのように、電気配線を垂直方向につなげる技術です。

TSVを活用することで、横方向に電気配線を接続する「ワイヤーボンド接続」と比較して決められたメモリの面積内で、高さ方向が有効活用できるようになったため、より高密度な配線が可能になります。

さらに、上下層の間の配線距離が、ワイヤーボンド接続よりも非常に短くなるので、信号の伝播遅延も減少し、高い動作周波数が実現できるのです。

また、シリコンの3次元構造を生かして、メモリーの下にロジックICを形成して接続することもでき、ロジックICでメモリーの制御ができ、データ転送の効率化も可能になります。

HBMに、TSVという技術は欠かせない重要なものなのです。