npu

NPU là gì và vì sao xuất hiện ngày càng nhiều? NPU là bộ xử lý thần kinh được tối ưu cho các tác vụ AI, đặc biệt là suy luận mô hình học máy trên thiết bị. Trên laptop và điện thoại, NPU thường xử lý nhận diện hình ảnh, khử nhiễu âm thanh, tách nền video, dịch thuật, nhận dạng giọng nói, gợi ý...

Trong nhiều năm, CPU là trung tâm gần như tuyệt đối của thế giới máy tính. Nhưng khi AI, xử lý ảnh, video, mô phỏng và phân tích dữ liệu lớn bùng nổ, mô hình tính toán cũ bắt đầu bộc lộ giới hạn. Đó là lý do GPU, NPU và nhiều loại accelerator chuyên dụng ngày càng trở thành thành phần then chốt...

Nhiều cuộc thảo luận về phần cứng AI biến thành so kè xem GPU, CPU hay NPU ai quan trọng hơn. Câu hỏi đó dễ gây hiểu sai vì ba loại bộ xử lý này không được sinh ra để thay thế hoàn toàn nhau. Chúng giữ những vai trò khác nhau trong cùng một ngăn xếp tính toán, và sự kết hợp giữa chúng mới quyết...