Bạn có biết tại sao một công ty NAND flash lại dám thách thức HBM của SK Hynix? Không phải vì họ có công nghệ tốt hơn, mà vì họ hiểu rằng trong cuộc chơi AI memory, câu chuyện (narrative) đôi khi còn quan trọng hơn cả thông số kỹ thuật. SanDisk vừa tung ra HBF (High Bandwidth Flash) – một kiến trúc bộ nhớ dùng NAND flash thay vì DRAM, nhắm thẳng vào thị trường AI inference đang bùng nổ. Họ không đua speed, họ đua cost-per-GB. Và điều đó, trong bối cảnh HBM đang khan hiếm và đắt đỏ, có thể là một nước cờ thiên tài – hoặc một ván bài tự sát.
Hãy bắt đầu với bối cảnh: AI memory hiện tại bị HBM (High Bandwidth Memory) thống trị tuyệt đối. SK Hynix, Samsung, Micron đang in tiền từ HBM3e, với biên lợi nhuận trên 50%. Nhưng HBM có một điểm yếu chí mạng: nó dựa trên DRAM, sản xuất phức tạp, cần TSV và CoWoS, giá thành cực cao. Trong khi đó, nhu cầu AI inference – đặc biệt là inference với các mô hình lớn như Llama 3 hay GPT-4 – lại đòi hỏi dung lượng lớn hơn là băng thông cực cao. Một model 70B cần ~140GB bộ nhớ để chạy inference. Nếu dùng HBM, bạn phải gắn 8-16 chip HBM3e, mỗi chip 24GB, chi phí lên tới hàng nghìn USD. Còn nếu dùng HBF? Với NAND flash, bạn có thể đạt 1TB với chi phí thấp hơn 3-5 lần. Đó là lý do SanDisk lao vào cuộc chơi này.
Nhưng hãy nhìn vào cốt lõi kỹ thuật. HBF không phải là HBM rẻ hơn, mà là một kiến trúc hoàn toàn khác. NAND flash có latency ở microsecond, trong khi DRAM là nanosecond – chênh lệch 1000 lần. Điều đó có nghĩa là HBF không thể dùng cho training, nơi mỗi nanosecond đều quyết định tốc độ hội tụ. Nhưng với inference, đặc biệt là batch inference và RAG (Retrieval-Augmented Generation), độ trễ microsecond vẫn chấp nhận được, miễn là bạn có đủ dung lượng để chứa toàn bộ model weights. Bandwidth là vua, nhưng cost là hoàng đế. HBF hy sinh bandwidth để đổi lấy dung lượng và giá rẻ. Đây là trade-off mà SanDisk đang đánh cược: thị trường inference sẽ ưu tiên dung lượng hơn tốc độ.
Từ góc nhìn của một thợ săn narrative, tôi thấy HBF mang một câu chuyện cực kỳ hấp dẫn. Nó là sản phẩm của sự tuyệt vọng và cơ hội. SanDisk, sau khi tách khỏi Western Digital, cần một “lý do để tồn tại” trước các ông lớn HBM. Họ chọn NAND vì họ có thế mạnh ở đó, và vì NAND không bị ràng buộc bởi các lệnh trừng phạt công nghệ như HBM (EUV, advanced packaging). NAND là con ngựa ô của AI memory. HBF có thể trở thành “cửa sau” cho các công ty Trung Quốc muốn tiếp cận AI memory mà không vi phạm export control. Nếu Mỹ siết thêm HBM, HBF sẽ là giải pháp thay thế “hợp pháp” duy nhất. Đây là một góc nhìn phản trực giác: HBF không chỉ là sản phẩm công nghệ, mà còn là công cụ địa chính trị.
Tuy nhiên, đừng vội FOMO. Hãy nhìn vào những rủi ro. HBF không phải để thay thế HBM, mà để mở rộng chiến trường. Nhưng liệu ecosystem có theo kịp? Các AI server hiện tại được thiết kế cho HBM, với memory controller, interposer, và software stack tối ưu cho DRAM timing. Để HBF hoạt động, bạn cần driver mới, firmware mới, thậm chí là mainboard mới. Đây là rào cản cực lớn. Trong lịch sử, các kiến trúc NAND-as-memory như ZNS SSD, OpenChannel SSD đều thất bại vì thiếu ecosystem. HBF có thể lặp lại kịch bản đó. Tôi đã từng chứng kiến điều tương tự trong thời kỳ ICO 2017: nhiều dự án có whitepaper đẹp nhưng không có sản phẩm. HBF hiện tại mới chỉ là một bản thông cáo báo chí, không có thông số kỹ thuật cụ thể, không có roadmap, không có customer. Nó giống một “narrative play” hơn là một sản phẩm thực sự.
Liquidity là máu, narrative là trái tim. Trong thị trường crypto, câu chuyện có thể đẩy giá token lên gấp 10 lần dù chưa có gì. Nhưng trong thế giới bán dẫn, bạn cần có wafer, có yield, có customer. Tôi dự đoán HBF sẽ gây sốt trên các diễn đàn công nghệ và crypto, nhưng để thực sự chiếm được thị phần, SanDisk cần ít nhất 2-3 năm và một đối tác lớn như Meta hoặc Google. Nếu họ làm được, NAND sẽ không còn chỉ là “ổ cứng” nữa, mà trở thành “bộ nhớ” thực thụ. Nếu không, HBF sẽ chỉ là một footnote trong lịch sử AI. Hãy theo dõi tín hiệu: có cloud provider nào công bố hợp tác không? Có JEDEC standard nào không? Đó mới là lúc quyết định.