CÓ! Ai đó đã phân tích ngược Apple Neural Engine và đào tạo một mạng nơ-ron trên đó. Apple chưa bao giờ cho phép điều này. ANE chỉ dùng cho suy diễn. Không có API công khai, không có tài liệu. Họ đã mở nó ra bất chấp. Tại sao điều này quan trọng: • M4 ANE = 6.6 TFLOPS/W so với 0.08 cho A100 (hiệu quả hơn 80 lần) • "38 TOPS" là một lời nói dối - thông lượng thực tế là 19 TFLOPS FP16 • Mac mini của bạn có chip này nhưng chủ yếu không hoạt động Dịch: suy diễn AI cục bộ nhanh hơn VÀ sử dụng gần như không có năng lượng. Vẫn còn là nghiên cứu sớm nhưng cánh cửa giờ đã mở. → #AI #MachineLearning #AppleSilicon #LocalAI #OpenSource #ANE #CoreML #AppleSilicon #NPU #KCORES