Bản mod firmware gỡ rào cản giúp GPU NVIDIA RTX 30 và 40 tăng gấp đôi hiệu suất tính toán AI

Cộng đồng tinh chỉnh phần cứng quốc tế vừa ghi nhận bước tiến kỹ thuật đáng chú ý khi các giải pháp can thiệp phần mềm đã gỡ bỏ thành công rào cản tính toán trên các dòng card đồ họa NVIDIA GeForce RTX. Phương pháp can thiệp này cho phép mở khóa tối đa năng lực xử lý ma trận của cụm nhân Tensor, mang lại khả năng tăng gấp đôi hiệu suất cho các tác vụ trí tuệ nhân tạo và mô hình ngôn ngữ lớn ngay trên hệ thống máy tính cá nhân.

Rào cản nhân tạo trên kiến trúc Ampere và Ada Lovelace

Về mặt kỹ thuật, các dòng card đồ họa thương mại phục vụ người tiêu dùng thuộc thế hệ GeForce RTX 30 series và RTX 40 series sử dụng chung khuôn thiết kế nhân silicon với các bộ xử lý chuyên dụng dành cho máy trạm. Tuy nhiên, NVIDIA đã chủ động giới hạn tốc độ phát lệnh tính toán thông qua tầng firmware nhằm phân tầng thị trường sản phẩm. Việc vô hiệu hóa giới hạn nhân tạo này giúp phần cứng phổ thông đạt được tốc độ xử lý tính toán tiệm cận với các dòng thiết bị chuyên dụng đắt đỏ.

Đối với kiến trúc Ampere trên thế hệ GeForce RTX 30 series, bản chỉnh sửa cho phép nhân đôi tốc độ phát lệnh của các phép tính dấu phẩy động FP/BF16 FMA sang FP32. Phương thức này tương thích trên dải vi thạch bản rộng gồm các mã chip GA102, GA103, GA104 và GA106. Dữ liệu thực nghiệm chỉ ra rằng mẫu card GeForce RTX 3090 Ti có thể nâng tốc độ nhân ma trận trong định dạng BF16 nhanh hơn tới 80%, cải thiện trực tiếp hiệu quả vận hành mạng nơ-ron nhân tạo.

Tăng gấp đôi băng thông tính toán trên thế hệ RTX 40 series

Tiến trình mở khóa đạt mức đột phá mạnh mẽ hơn trên kiến trúc Ada Lovelace thuộc dòng GeForce RTX 40 series, bao gồm các dòng vi xử lý AD102, AD103 và AD106. Cụ thể, khi thử nghiệm trên GeForce RTX 4090, năng lực tính toán của nhân Tensor ở định dạng FP16 và BF16 tích lũy FP32 đã nhảy vọt từ mốc 165.6 TeraFLOPS lên mức 331.6 TeraFLOPS. Mức thông số này đưa hiệu năng xử lý của RTX 4090 tiệm cận với dòng card đồ họa chuyên dụng đầu bảng NVIDIA RTX 6000 Ada Lovelace.

Sự chênh lệch hiệu suất rõ rệt cho thấy nhà sản xuất đã áp đặt giới hạn phần mềm lên các phép toán nhân và tích lũy ma trận trên nhân AD102. Việc giải phóng giới hạn này mang lại lợi thế vượt trội cho các nhà phát triển độc lập trong việc huấn luyện và chạy suy luận các mô hình ngôn ngữ lớn (LLM).

Mẫu card đồ họa	Chỉ số tính toán	Trước can thiệp	Sau can thiệp
GeForce RTX 4090 (AD102)	Tensor FP16/BF16 tích lũy FP32	165.6 TeraFLOPS	331.6 TeraFLOPS
GeForce RTX 3090 Ti (GA102)	Tốc độ nhân ma trận định dạng BF16	Mức mặc định	Tăng thêm 80%
GA102 và AD102	Giới hạn công suất đồ họa (TGP)	450 W	450 W (không đổi)

Cơ chế kỹ thuật ngầm và những rủi ro khi can thiệp firmware

Xét về phương diện tương thích hệ thống, cả hai giải pháp trên dòng Ampere và Ada Lovelace đều có khả năng vượt qua hệ thống kiểm tra toàn vẹn của trình điều khiển NVIDIA và ghi đè lên quy trình PCIe Function Level Reset (FLR). Nhờ đó, card đồ họa vẫn hoạt động ổn định cùng trình điều khiển tiêu chuẩn và vượt qua đầy đủ các bài kiểm tra chuyên môn thuộc bộ công cụ CUDA mà không gây lỗi phân luồng.

Đáng chú ý, mức tiêu thụ năng lượng của phần cứng hoàn toàn không bị đẩy lên quá giới hạn thiết kế. Mức công suất đồ họa tổng thể (TGP) 450 W trên các mẫu nhân GA102 và AD102 được giữ nguyên trước và sau can thiệp. Đối với những hệ thống xử lý mô hình ngôn ngữ lớn cục bộ, việc gia tăng thông lượng giúp rút ngắn thời gian xử lý token ở cả hai giai đoạn prefill (xử lý prompt đầu vào) và decode (tạo phản hồi đầu ra).

Tuy mang lại mức tăng trưởng ấn tượng, phương thức này tồn tại những hạn chế nhất định. Mã thực thi đòi hỏi phải được kích hoạt sớm từ giai đoạn khởi động máy để tạo liên kết trước khi trình điều khiển tác động vào nhân hệ điều hành. Ngoài ra, việc can thiệp trực tiếp vào firmware sẽ dẫn đến việc mất bảo hành phần cứng chính hãng từ nhà sản xuất.