Softbank và Ampere Computing hợp tác thử nghiệm sử dụng CPU để chạy các mô hình AI nhỏ

Odaily đưa tin, theo báo chí nước ngoài, Softbank và Ampere Computing đã khởi động một dự án hợp tác nhằm nâng cao hiệu quả của CPU trong việc chạy các mô hình AI nhỏ. Hai công ty dự định xây dựng môi trường suy luận có độ trễ thấp và hiệu suất cao, như một công nghệ then chốt cho cơ sở hạ tầng AI thế hệ tiếp theo.