From Beijing with Love
Cháu đã lớn thế này rồi à. Lại đây chú ôm cái coi.
Tại hội nghị chuyên đề Hot Chips ở California vào năm 2016, một kỹ sư cấp cao của Micron đã lên sân khấu và chỉ trích gay gắt bộ nhớ băng thông cao (HBM), công nghệ non trẻ mới chỉ gia nhập thị trường được một năm. Ông tự tin tuyên bố rằng Hybrid Memory Cube (HMC) sắp ra mắt mới là kẻ thay đổi cuộc chơi. Tiếp theo đó, Samsung Electronics cũng thông báo kế hoạch phát hành một phiên bản HBM giá cả phải chăng hơn. Và cuối cùng là SK Hynix với một bài thuyết trình lặng lẽ giới thiệu kế hoạch cho HBM3, lời "châm biếm" tinh tế rằng ngay cả một người chơi nhỏ cũng có thể cướp kẹo từ một kẻ lớn hơn.
Khoảnh khắc HBM bị nghi ngờ và xem nhẹ đó thật khó có thể tưởng tượng được vào ngày hôm nay. Trong kỷ nguyên của trí tuệ nhân tạo, HBM đã trở thành một phần thiết yếu để cung cấp năng lượng cho các GPU hiệu suất cao của Nvidia, xứng đáng với biệt danh "hoàng tử của bộ nhớ". Thế nhưng, chỉ 9 năm trước, 3 nhà sản xuất bộ nhớ thống trị — Samsung Electronics, SK Hynix và Micron — đã có những quan điểm hoàn toàn khác nhau về tiềm năng của nó. Và chính những quyết định ban đầu đó giờ đây đã định hình nên toàn bộ thị trường. Tính đến năm 2024, SK Hynix nắm giữ 55% thị trường HBM, theo sau là Samsung với 40% và Micron chỉ với 5%, theo JPMorgan.
Hành trình phát triển 18 năm của HBM là một minh chứng cho sự phức tạp của ngành công nghiệp bán dẫn: cạnh tranh, hợp tác, thất bại và tái sinh. Cuộc đua bắt đầu vào những năm 2000 khi ngành công nghiệp tìm cách vượt qua "bức tường bộ nhớ" — một nút thắt cổ chai do khoảng cách hiệu suất ngày càng lớn giữa CPU và bộ nhớ. Vào năm 2007, AMD đứng thứ hai trên thị trường GPU đã khởi động một dự án để phát triển một GPU được trang bị HBM. Động lực của họ lúc đó rất đơn giản: tăng thị phần trong lĩnh vực GPU chơi game.
Trong khi đó, Hynix là tiền thân của SK Hynix vừa mới thoát khỏi tình trạng khó khăn tài chính. Mặc dù vậy, vào năm 2010, Hynix đã đồng ý trở thành đối tác HBM của AMD. Cuộc đối đầu công nghệ cũng bắt đầu hình thành. Đặc điểm cấu trúc nổi bật của HBM là việc xếp chồng các đế DRAM theo chiều dọc. Cách tiếp cận này đã phân biệt HBM với đối thủ cạnh tranh HMC của nó. Micron đã kiên quyết theo phe HMC và Samsung cũng tham gia vào liên minh của họ. Hynix lại tin rằng HBM sẽ trở thành công nghệ chủ đạo do sự tương đồng trong hoạt động với DRAM thông thường.
Dự án phát triển HBM rất tốn kém và mất thời gian. Phải đến khi Lisa Su trở thành CEO vào năm 2014 nắm quyền, dự án mới có động lực. Hynix cũng đã tăng tốc phát triển sau khi được Tập đoàn SK mua lại vào năm 2012. Song song đó, SK Hynix và AMD đã làm việc tỉ mỉ để tạo ra một tiêu chuẩn công nghiệp, tin rằng việc tiêu chuẩn hóa là điều cần thiết cho sự tăng trưởng của thị trường. Ngược lại, HMC chưa bao giờ đạt được tiêu chuẩn hóa, lý do chính cho sự thất bại của nó.
Vào tháng 6 năm 2015, CEO Lisa Su của AMD đã công bố GPU đầu tiên có HBM Radeon R9 Fury X. Thế giới công nghệ đã chú ý. Tuy nhiên, màn ra mắt lại không mấy ấn tượng. Fury X đã không thể làm rung chuyển thị trường GPU do chi phí cao của HBM. Khoảnh khắc chiến thắng ngắn ngủi của SK Hynix đã nhanh chóng phai nhạt. Chỉ 6 tháng sau, vào tháng 1 năm 2016, Samsung bắt đầu sản xuất hàng loạt HBM2. Nvidia vốn đã xem xét HMC đã chuyển hướng sang HBM và vào tháng 4 năm 2016, họ ra mắt GPU Tesla P100 trang bị độc quyền bởi HBM2 của Samsung. Mặc dù AMD và SK Hynix đã xây dựng GPU HBM đầu tiên, nhưng chính Nvidia và Samsung mới là những người mở ra kỷ nguyên của GPU AI được trang bị HBM.
Khi thị trường HBM2 mở rộng, Samsung đã chiếm được hầu hết lợi nhuận. Tinh thần nội bộ của SK Hynix sa sút. Tuy nhiên, họ đã nhận ra rằng HBM đòi hỏi một cách tiếp cận hoàn toàn khác. Hồi sinh những bài học từ những ngày đầu, SK Hynix đã thành lập một lực lượng đặc nhiệm đa chức năng cho HBM2E, sản phẩm thế hệ thứ ba của họ. Một điểm mạnh khác là khả năng tùy biến. Mặc dù HBM tuân theo các tiêu chuẩn, mỗi khách hàng lại có những yêu cầu riêng biệt. SK Hynix đã điều chỉnh thiết kế của mình cho phù hợp với nguyên tắc "khách hàng luôn đúng."
HBM2E đã hoạt động tốt trên thị trường, nhưng thành công thực sự đã đến với HBM3. Vào tháng 6 năm 2022, SK Hynix bắt đầu sản xuất hàng loạt HBM3 tích hợp vào GPU H100 của Nvidia. Nó trở thành một thành công vang dội trong lĩnh vực tăng tốc AI. Đối với SK Hynix, đó là sự khởi đầu của kỷ nguyên mới, một cuộc đảo ngôi ngoạn mục đã được báo trước từ một lời "châm biếm" nhiều năm về trước.
Khoảnh khắc HBM bị nghi ngờ và xem nhẹ đó thật khó có thể tưởng tượng được vào ngày hôm nay. Trong kỷ nguyên của trí tuệ nhân tạo, HBM đã trở thành một phần thiết yếu để cung cấp năng lượng cho các GPU hiệu suất cao của Nvidia, xứng đáng với biệt danh "hoàng tử của bộ nhớ". Thế nhưng, chỉ 9 năm trước, 3 nhà sản xuất bộ nhớ thống trị — Samsung Electronics, SK Hynix và Micron — đã có những quan điểm hoàn toàn khác nhau về tiềm năng của nó. Và chính những quyết định ban đầu đó giờ đây đã định hình nên toàn bộ thị trường. Tính đến năm 2024, SK Hynix nắm giữ 55% thị trường HBM, theo sau là Samsung với 40% và Micron chỉ với 5%, theo JPMorgan.
Hành trình phát triển 18 năm của HBM là một minh chứng cho sự phức tạp của ngành công nghiệp bán dẫn: cạnh tranh, hợp tác, thất bại và tái sinh. Cuộc đua bắt đầu vào những năm 2000 khi ngành công nghiệp tìm cách vượt qua "bức tường bộ nhớ" — một nút thắt cổ chai do khoảng cách hiệu suất ngày càng lớn giữa CPU và bộ nhớ. Vào năm 2007, AMD đứng thứ hai trên thị trường GPU đã khởi động một dự án để phát triển một GPU được trang bị HBM. Động lực của họ lúc đó rất đơn giản: tăng thị phần trong lĩnh vực GPU chơi game.
Trong khi đó, Hynix là tiền thân của SK Hynix vừa mới thoát khỏi tình trạng khó khăn tài chính. Mặc dù vậy, vào năm 2010, Hynix đã đồng ý trở thành đối tác HBM của AMD. Cuộc đối đầu công nghệ cũng bắt đầu hình thành. Đặc điểm cấu trúc nổi bật của HBM là việc xếp chồng các đế DRAM theo chiều dọc. Cách tiếp cận này đã phân biệt HBM với đối thủ cạnh tranh HMC của nó. Micron đã kiên quyết theo phe HMC và Samsung cũng tham gia vào liên minh của họ. Hynix lại tin rằng HBM sẽ trở thành công nghệ chủ đạo do sự tương đồng trong hoạt động với DRAM thông thường.
Dự án phát triển HBM rất tốn kém và mất thời gian. Phải đến khi Lisa Su trở thành CEO vào năm 2014 nắm quyền, dự án mới có động lực. Hynix cũng đã tăng tốc phát triển sau khi được Tập đoàn SK mua lại vào năm 2012. Song song đó, SK Hynix và AMD đã làm việc tỉ mỉ để tạo ra một tiêu chuẩn công nghiệp, tin rằng việc tiêu chuẩn hóa là điều cần thiết cho sự tăng trưởng của thị trường. Ngược lại, HMC chưa bao giờ đạt được tiêu chuẩn hóa, lý do chính cho sự thất bại của nó.
Vào tháng 6 năm 2015, CEO Lisa Su của AMD đã công bố GPU đầu tiên có HBM Radeon R9 Fury X. Thế giới công nghệ đã chú ý. Tuy nhiên, màn ra mắt lại không mấy ấn tượng. Fury X đã không thể làm rung chuyển thị trường GPU do chi phí cao của HBM. Khoảnh khắc chiến thắng ngắn ngủi của SK Hynix đã nhanh chóng phai nhạt. Chỉ 6 tháng sau, vào tháng 1 năm 2016, Samsung bắt đầu sản xuất hàng loạt HBM2. Nvidia vốn đã xem xét HMC đã chuyển hướng sang HBM và vào tháng 4 năm 2016, họ ra mắt GPU Tesla P100 trang bị độc quyền bởi HBM2 của Samsung. Mặc dù AMD và SK Hynix đã xây dựng GPU HBM đầu tiên, nhưng chính Nvidia và Samsung mới là những người mở ra kỷ nguyên của GPU AI được trang bị HBM.
Khi thị trường HBM2 mở rộng, Samsung đã chiếm được hầu hết lợi nhuận. Tinh thần nội bộ của SK Hynix sa sút. Tuy nhiên, họ đã nhận ra rằng HBM đòi hỏi một cách tiếp cận hoàn toàn khác. Hồi sinh những bài học từ những ngày đầu, SK Hynix đã thành lập một lực lượng đặc nhiệm đa chức năng cho HBM2E, sản phẩm thế hệ thứ ba của họ. Một điểm mạnh khác là khả năng tùy biến. Mặc dù HBM tuân theo các tiêu chuẩn, mỗi khách hàng lại có những yêu cầu riêng biệt. SK Hynix đã điều chỉnh thiết kế của mình cho phù hợp với nguyên tắc "khách hàng luôn đúng."
HBM2E đã hoạt động tốt trên thị trường, nhưng thành công thực sự đã đến với HBM3. Vào tháng 6 năm 2022, SK Hynix bắt đầu sản xuất hàng loạt HBM3 tích hợp vào GPU H100 của Nvidia. Nó trở thành một thành công vang dội trong lĩnh vực tăng tốc AI. Đối với SK Hynix, đó là sự khởi đầu của kỷ nguyên mới, một cuộc đảo ngôi ngoạn mục đã được báo trước từ một lời "châm biếm" nhiều năm về trước.
