AI（人工知能）の発展には、高性能なGPU（グラフィックスプロセッシングユニット）が欠かせません。GPUは、画像や音声などの大量のデータを高速に処理することができる半導体チップです。AIの応用分野は多岐にわたり、自動運転、医療、教育、ゲームなど、私たちの生活に深く関わっています。この記事では、AI GPUの最新動向と、その製造に欠かせない台積電の先進封裝技術について解説します。この記事の内容は、主にDIGITIMESの2024年1月24日付の記事「台積CoWoS 翻倍大擴產 今年AI伺服器業績強強滾」を元にしています。
AI GPUの最新動向
AI GPUの市場は、NVIDIAが圧倒的なシェアを持っています。NVIDIAは、PCの繪圖卡（グラフィックスカード）の市場での成功をもとに、AI GPUの分野でも独自の技術と戦略で優位に立っています。NVIDIAは、自社のAI GPUを搭載したAI伺服器（AIサーバー）を提供するとともに、AI GPUの供給鏈や客戶（顧客）の訂單規模や流向（流れ）を掌握しています。NVIDIAのAI GPUは、高価格でありながら、高性能であり、AIの様々な分野で需要が高まっています。
NVIDIAのAI GPUの代表的な製品は、H100とA100です。H100は、2023年に発表された、NVIDIAの最新のAI GPUです。H100は、7奈米製程で製造され、CoWoS（Chip on Wafer on Substrate）という先進的な封裝技術でパッケージされています。CoWoSは、複数のチップを一つの基板上に積層することで、チップ間の通信速度や電力効率を向上させる技術です。H100は、CoWoSで8個のチップを組み合わせて、一つのGPUとしています。H100は、最大2.5TBのメモリバンド幅と最大1.6TB/sのインターコネクトバンド幅を持ち、最大3.2TFLOPSの演算性能を発揮します。H100は、AIの生成式（Generative）モデルや自然言語処理などの分野で優れた性能を示します。H100は、Meta（旧Facebook）やMicrosoftなどの大手企業や機関から大量の注文を受けており、供給が追いつかない状況です。H100の交期は、10ヶ月以上に及ぶと言われています。
A100は、2020年に発表された、NVIDIAのAI GPUの中で最も高性能な製品です。A100も、7奈米製程で製造され、CoWoSでパッケージされています。A100は、一つのチップで構成されており、最大1.6TBのメモリバンド幅と最大600GB/sのインターコネクトバンド幅を持ち、最大312TFLOPSの演算性能を発揮します。A100は、AIの推論（Inference）モデルや画像処理などの分野で優れた性能を示します。A100も、H100と同様に、供給が需要に追いつかない状況です。
NVIDIAのAI GPUの競合としては、AMDが挙げられます。AMDは、2023年12月に、自社の最新のAI GPUであるMI300を発表しました。MI300は、5奈米製程で製造され、SoIC（Stacked on Interconnect Chip）という先進的な封裝技術でパッケージされています。SoICは、CoWoSよりもさらに高度な積層技術で、チップ間の接続を直接的に行うことで、通信速度や電力効率を向上させる技術です。MI300は、SoICで4個のチップを組み合わせて、一つのGPUとしています。MI300は、最大2.4TBのメモリバンド幅と最大1.2TB/sのインターコネクトバンド幅を持ち、最大256TFLOPSの演算性能を発揮します。MI300は、AIの生成式モデルや自然言語処理などの分野で、NVIDIAのH100と競合する性能を示します。MI300は、2024年初めから量産される予定で、MicrosoftやMetaなどの大手企業や機関からの注文が見込まれています。
台積電（TSMC）の先進封裝技術
AI GPUの製造には、高度な封裝技術が必要です。封裝とは、半導体チップを保護するために、基板や金属などの素材で覆う工程です。封裝は、チップの性能や信頼性に大きな影響を与えます。封裝技術の発展により、チップのサイズや消費電力を低減し、チップ間の通信速度や電力効率を向上させることができます。AI GPUは、大量のデータを高速に処理するために、多数のチップを一つのパッケージに組み合わせる必要があります。そのため、チップの積層技術やチップ間の接続技術が重要になります。
台積電は、世界最大の半導体製造企業であり、NVIDIAやAMDなどのAI GPUのメーカーにチップを供給しています。台積電は、先進的な封裝技術の開発にも力を入れており、CoWoSやSoICなどの技術を提供しています。台積電は、AI GPUの需要の高まりに応えるために、CoWoSやSoICなどの先進封裝技術の擴產（拡張生産）計畫を加速しています。台積電は、2024年末までに、CoWoSの月產能（月産能）を3.2萬片（3.2万枚）に、2025年末までに4.4萬片（4.4万枚）に増やす予定です。また、SoICの月產能も、2024年末までに6,000~6,500片（6,000~6,500枚）に、2025年末までに1.4萬~1.45萬片（1.4万~1.4万~1.45万枚）に引き上げる計画です。これにより、台積電は、NVIDIAやAMDなどの主要なAI GPUのメーカーに、より多くのチップを供給できるようになります。台積電の先進封裝技術の擴產は、AI伺服器（AIサーバー）の出貨動能（出荷動向）にも大きな影響を与えます。AI伺服器のメーカーである廣達（クアンタ）、美超微（スーパーマイクロ）、華碩（ASUS）、技嘉（GIGABYTE）、華擎（ASRock）などは、台積電からのAI GPUの供給量が増えることで、AI伺服器の營收（売上高）を大幅に伸ばすことができます。台積電は、AI GPUの需要が今後も高まると見込んでおり、2024年には升級版のH200を、2025年には4奈米のB100を発表する予定です。台積電は、AI GPUの分野で、世界のリーダーとしての地位を確固たるものにしようとしています。
参照元：digitimes.com.tw
監修者のコメント：台湾発の記事というので珍しいので紹介します。チューニングしたAIで執筆しています。