Transformers documentation
Optimum
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.2).
Optimum
Optimum là thư viện tối ưu hóa hỗ trợ lượng tử hóa cho Intel, Furiosa, ONNX Runtime, GPTQ và các hàm lượng tử hóa PyTorch cấp thấp hơn. Nó được thiết kế để nâng cao hiệu năng cho phần cứng cụ thể - CPU/HPU của Intel, GPU của AMD, NPU của Furiosa, v.v. - và các bộ tăng tốc mô hình như ONNX Runtime.
Update on GitHub