CEO NVIDIA nói gì về công nghệ chip quang tiết kiệm điện?

Công nghệ chip đầy hứa hẹn

Một công nghệ chip đầy hứa hẹn nhằm giảm tiêu thụ năng lượng hiện vẫn chưa đủ tin cậy để sử dụng trong các bộ xử lý đồ họa (GPU) hàng đầu của NVIDIA, CEO của NVIDIA, ông Jensen Huang, cho biết ngày 18/3.

Công nghệ quang học kết hợp dữ liệu gói CPO (Co-packaged optics) sử dụng chùm tia laser để truyền thông tin qua cáp quang giữa các chip, giúp kết nối nhanh hơn và có hiệu quả năng lượng vượt trội so với cáp đồng truyền thống.

Nvidia sẽ tung ra thị trường các chip chuyển mạch mới vào cuối năm nay. Ảnh minh họa

Trong bài phát biểu quan trọng tại hội nghị thường niên dành cho các nhà phát triển phần mềm GTC tại một sân vận động chật kín người ở San Jose, California ngày 18/3, CEO Jensen Huang cho biết công ty của ông sẽ sử dụng công nghệ quang học kết hợp dữ liệu gói CPO trong hai chip mạng mới nằm trong các bộ chuyển mạch trên các máy chủ của NVIDIA. Ông nói rằng, công nghệ này sẽ giúp các chip tiết kiệm năng lượng gấp ba lần rưỡi so với thế hệ trước.

Các chip chuyển mạch này sẽ được tung ra vào cuối năm nay và trong năm 2026, đánh dấu một bước tiến nhỏ nhưng quan trọng trong việc phát triển công nghệ.

Tuy nhiên, CEO Jensen Huang nói với một nhóm phóng viên sau bài phát biểu rằng, mặc dù NVIDIA đã xem xét việc sử dụng công nghệ này rộng rãi hơn trong các chip GPU hàng đầu của mình, nhưng công ty hiện không có kế hoạch triển khai, vì kết nối đồng truyền thống vẫn “đáng tin cậy hơn nhiều” so với các kết nối quang học kết hợp dữ liệu gói CPO hiện nay.

CEO Jensen Huang cho biết, ông tập trung vào việc cung cấp một lộ trình sản phẩm đáng tin cậy để các khách hàng của NVIDIA, chẳng hạn như OpenAI và Oracle, có thể chuẩn bị trước.

“Trong vài năm tới, cơ sở hạ tầng AI trị giá hàng trăm tỷ USD sẽ được triển khai, và ngân sách đã được phê duyệt. Nguồn điện đã được cấp phép. Đất đai đã được chuẩn bị”, ông nói. “Vậy bạn có sẵn sàng mở rộng quy mô đến hàng trăm tỷ USD ngay bây giờ không?”.

Các doanh nhân và nhà đầu tư ở Thung lũng Silicon đang đặt kỳ vọng vào công nghệ quang học, vì họ tin rằng nó sẽ đóng vai trò trung tâm trong việc xây dựng các hệ thống máy tính ngày càng lớn cho AI. CEO Jensen Huang của NVIDIA cũng nói rằng ngay cả với những tiến bộ của các công ty như DeepSeek, các hệ thống AI vẫn sẽ cần nhiều sức mạnh tính toán hơn để suy nghĩ và đưa ra câu trả lời.

Các startup như Ayar Labs, Lightmatter và Celestial AI đã huy động được hàng trăm triệu USD vốn đầu tư mạo hiểm – trong đó có một phần từ chính NVIDIA – để cố gắng tích hợp trực tiếp các kết nối quang học kết hợp dữ liệu vào các chip AI.

Các kết nối đồng có chi phí thấp và tốc độ nhanh, nhưng chỉ có thể truyền dữ liệu trong phạm vi vài mét. Điều này tuy có vẻ nhỏ nhặt nhưng đã có tác động lớn đến dòng sản phẩm của NVIDIA trong nửa thập kỷ qua.

Sản phẩm chứa 72 chip trong một máy chủ

Sản phẩm hàng đầu hiện tại của NVIDIA chứa 72 con chip trong một máy chủ, tiêu thụ 120 kilowatt điện và tạo ra lượng nhiệt lớn đến mức cần một hệ thống làm mát bằng chất lỏng tương tự như động cơ ô tô. Máy chủ cao cấp mới nhất được công bố hôm 18/3, dự kiến ra mắt vào năm 2027, sẽ chứa hàng trăm chip Vera Rubin Ultra trong một giá máy chủ đơn và tiêu thụ tới 600 kilowatt điện.

Việc tích hợp hơn gấp đôi số chip vào cùng một không gian trong hai năm tới sẽ đòi hỏi những bước tiến lớn về kỹ thuật từ NVIDIA và các đối tác của họ. Những thách thức này chủ yếu xuất phát từ nhu cầu xử lý AI, vốn yêu cầu truyền một lượng lớn dữ liệu qua lại giữa các chip. NVIDIA đang cố gắng giữ càng nhiều chip càng tốt trong phạm vi kết nối ngắn của cáp đồng.

Ông Mark Wade, CEO của Ayar Labs - công ty đã nhận được vốn đầu tư từ NVIDIA - cho biết, ngành công nghiệp chip vẫn đang tìm cách sản xuất công nghệ quang học kết hợp dữ liệu gói CPO với chi phí thấp hơn và độ tin cậy cao hơn. Mặc dù quá trình chuyển đổi có thể chưa diễn ra trước năm 2028 hoặc muộn hơn, nhưng ông Mark Wade tin rằng ngành công nghiệp chip cuối cùng sẽ phải từ bỏ cáp đồng nếu muốn tiếp tục xây dựng những hệ thống máy chủ ngày càng lớn hơn.

“Hãy nhìn vào mức tiêu thụ điện năng ngày càng tăng trên các giá máy chủ sử dụng kết nối điện”, ông Mark Wade nói với một hãng truyền thông Mỹ trong một cuộc phỏng vấn bên lề hội nghị của Nvidia. “Quang học là công nghệ duy nhất giúp chúng ta thoát khỏi giới hạn đó”.