A Apple acaba de lançar o MacBook Pro M5 Max e é uma potência em IA. 4x mais rápido em computação de IA em comparação com o M4 Max. Estas especificações são insanas: - CPU de 18 núcleos com 6 "super núcleos" = o núcleo de CPU mais rápido do mundo - GPU de 40 núcleos = rivaliza com uma RTX 4070 em um laptop - 128GB de memória unificada = mais do que a maioria dos servidores - 614 GB/s de largura de banda = 4x o que um DGX Spark obtém - 24 horas de duração da bateria Agora você pode rodar o Llama 70B, um modelo que exigia um cluster de GPU de $40,000 há 18 meses, em um laptop na sua cafeteria local. A ~20-30 tokens/segundo é rápido o suficiente para realmente usar. A revolução da "IA local" acaba de ser lançada por $3,499.