Giá rẻ như Deepseek cũng khóc thét trước AI đặc biệt này của Nga

Yandex Research (Nga), phối hợp với MIT (Mỹ), Viện Khoa học và Công nghệ Áo (ISTA), và Đại học Johannes Gutenberg (Đức), vừa công bố một bước tiến ngoạn mục trong phát triển trí tuệ nhân tạo (AI).

16/04/2025 18:11

Một phương pháp nén AI mới có tên HIGGS đang thay đổi cuộc chơi. Các nhà khoa học từ Yandex, MIT, KAUST và ISTA đã phát triển một phương pháp thông minh có tên HIGGS, giúp thu nhỏ các mô hình AI khổng lồ để phù hợp với các thiết bị hàng ngày – mà không làm mất đi nhiều tính thông minh của chúng.

Mô hình HIGGS cho phép triển khai AI trên các thiết bị cá nhân mà không cần đòi hỏi quá nhiều tài nguyên tính toán. Ảnh: Digialps.

HIGGS cho phép nén mạng nơ-ron mà không đòi hỏi dữ liệu bổ sung hay tối ưu hóa tham số rườm rà. Đây là cứu cánh cho các tình huống thiếu dữ liệu huấn luyện, giúp cân bằng hoàn hảo giữa chất lượng, kích thước mô hình và độ phức tạp khi lượng tử hóa. Các mô hình ngôn ngữ lớn thật tuyệt vời, nó có thể viết luận, viết mã ứng dụng, trả lời những câu hỏi sâu sắc. Nhưng, như tên gọi chúng ...rất lớn. Theo truyền thống, bạn cần GPU đắt tiền và rất nhiều bộ nhớ để chạy chúng. Để làm cho chúng nhẹ hơn, các nhà nghiên cứu đã sử dụng một thứ gọi là lượng tử hóa, giúp thu nhỏ mô hình bằng cách giảm số bit được sử dụng để lưu trữ mỗi trọng số. Nhưng đây là vấn đề: hầu hết các phương pháp lượng tử hóa đều chậm, phức tạp và vẫn cần phần cứng mạnh để bắt đầu. Với HIGGS, phương pháp này đảo ngược toàn bộ quá trình đó. Nó làm cho LLM nhỏ hơn mà không phải hy sinh trí tuệ của chúng. Không giống như các phương pháp truyền thống, phương pháp này không cần dữ liệu hiệu chuẩn hoặc nhiều điều chỉnh. Người dùng chỉ cần lấy một mô hình, áp dụng một thủ thuật đặc biệt và ngay sau đó LLM đã sẵn sàng để chạy trên máy tính xách tay hoặc thậm chí là điện thoại thông minh. Các mô hình AI giờ đây có thể chạy mượt mà trên mọi thiết bị, từ smartphone, laptop đến các hệ thống tối giản. Quên đi những ngày chờ đợi hàng giờ hay hàng tuần để lượng tử hóa AI trên thiết bị cá nhân. Phương pháp này đang gây bão trong giới công nghệ, thách thức các mô hình AI khác về cách thức triển khai cũng như kinh phí vận hành. Ảnh: arXiv. Với HIGGS, quá trình này chỉ mất vài phút, tiết kiệm chi phí và thời gian đáng kể. Người dùng không còn cần máy chủ 'khủng' hay bộ tăng tốc đồ họa đắt đỏ để trải nghiệm AI đỉnh cao. Đã được thử nghiệm trên các mô hình đình đám như Llama 3 và Qwen 2.5, HIGGS chứng tỏ là phương pháp lượng tử hóa hiệu quả nhất về tỷ lệ chất lượng/kích thước so với các kỹ thuật tương tự. Đây là bước ngoặt cho việc triển khai AI nhanh chóng và phổ biến hơn bao giờ hết. HIGGS đã được chia sẻ công khai trên Hugging Face và GitHub, sẵn sàng cho các nhà phát triển và nghiên cứu. Một bài báo khoa học chi tiết đã xuất hiện trên arXiv và sẽ được trình bày tại NAACL 2025 (29/4 - 4/5, Albuquerque, New Mexico). Phương pháp này đang gây bão trong giới công nghệ, thu hút sự chú ý từ Red Hat AI, Đại học Bắc Kinh, và Đại học Khoa học và Công nghệ Hồng Kông. HIGGS không chỉ là một phương pháp kỹ thuật nó là cánh cửa mở ra tương lai, nơi AI siêu thông minh trở nên dễ tiếp cận hơn bao giờ hết. Bước đột phá giúp HIGGS trở nên khả thi là thứ mà các nhà nghiên cứu gọi là 'định lý tuyến tính'. Hiểu biết toán học này cho thấy chính xác cách thực hiện các thay đổi ở các phần khác nhau của mô hình ảnh hưởng đến hiệu suất tổng thể của nó. Mỗi phần của mô hình AI đóng góp khác nhau vào kết quả cuối cùng. Định lý tuyến tính giúp xác định chính xác mức độ nhạy cảm của từng phần, do đó bạn có thể cẩn thận hơn với các bit quan trọng và nén các phần khác mạnh mẽ hơn. Lý thuyết này đặc biệt hiệu quả đối với các mô hình được nén từ 3-8 bit cho mỗi tham số (các mô hình kích thước đầy đủ thường sử dụng 16 bit). Dưới 3 bit, mọi thứ trở nên phức tạp hơn, nhưng vẫn khá ấn tượng.

Theo Tuệ Minh (Theo Digi Alps)/Tri thức & Cuộc sống