Entrenar IA local en MacBooks ya no es solo cosa de inferencias. Un desarrollador ha encontrado un método para saltarse las restricciones del Neural Engine del M4 y usarlo para entrenamiento completo de modelos, algo que Apple no había habilitado hasta ahora.
La cifra que da contexto es clara: hasta 15,8 TFLOPS de computación para cargas de entrenamiento, incluyendo backpropagation en modelos transformer. El hallazgo llega desde la cuenta @0x0SojalSec en X y se apoya en un proyecto que ya está publicado en GitHub.
El M4 pasa de ejecutar modelos a entrenarlos
Hasta ahora, el Neural Engine del M4 estaba pensado sobre todo para inferencia: ejecutar modelos ya entrenados con eficiencia. Esta vía cambia el uso previsto del chip. Además, abre la puerta a IA local en MacBooks con cargas de trabajo que Apple mantenía cerradas.
El equipo dejó de depender de Core ML o Metal y construyó un Model Intermediate Language propio para hablar directamente con el Neural Engine. También mantuvieron todo en RAM para evitar escrituras lentas en almacenamiento. Usaron el comando exec() para reiniciar el proceso cuando el entrenamiento se atasca y así conservar checkpoints.
- Hasta 15,8 TFLOPS de computación desbloqueados
- Backpropagation en modelos transformer
- Procesamiento íntegro en RAM
- Reinicio con exec() para retomar el entrenamiento
- Código compartido en GitHub
Qué cambia para la IA local en Macs y iPad
La fuente apunta a que este trabajo puede convertir Macs y iPad en máquinas bastante más capaces para entrenar modelos pequeños de forma local. Eso reduce la dependencia de servicios en la nube y pone el foco en lo que todavía pueden dar de sí los chips de Apple Silicon cuando se fuerza su uso fuera del camino oficial.
Apple, por ahora, no ha habilitado ni respaldado el entrenamiento en el Neural Engine. La compañía sigue presentando el M4 como un chip con hasta 38 TOPS para inferencia, no para entrenamiento. Como vimos en nuestra cobertura de la próxima evolución de Siri, Apple sigue empujando funciones de IA dentro de su propio control de software; este caso va justo en la dirección contraria.
También enlaza con otra idea que ya asoma en el sector: más procesamiento local y menos nube. En esta noticia, la diferencia es que no viene de Apple, sino de una reversa hecha por un desarrollador que dice haber encontrado la forma de exprimir el M4 mucho más allá de lo permitido oficialmente.
Lo que se ha visto en las pruebas iniciales
Según la información compartida, las pruebas tempranas muestran pasos de entrenamiento de transformers completados en milisegundos sobre chips M4. Es un dato llamativo, pero de momento procede del proyecto publicado y de la demostración en X; faltan verificaciones independientes para medir hasta dónde llega esa velocidad en escenarios reales.
Por ahora, el mensaje es sencillo: la IA local en MacBooks acaba de ganar una vía no oficial para entrenar modelos, y el Neural Engine del M4 parece esconder más margen del que Apple expone públicamente.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
FAQ
Ha encontrado una forma de saltarse las restricciones del chip para usarlo en entrenamiento completo de IA, no solo en inferencia. La fuente habla de hasta 15,8 TFLOPS para cargas de trabajo con backpropagation.
Porque permite entrenar modelos pequeños directamente en el equipo, sin depender de la nube. Eso amplía el uso práctico de Apple Silicon más allá de lo que Apple había habilitado oficialmente.
Según la fuente, el equipo creó un Model Intermediate Language propio para comunicarse directamente con el Neural Engine. También mantuvieron los datos en RAM y usaron exec() para reiniciar el proceso cuando se atasca.
No. Apple presenta el Neural Engine del M4 como un motor para inferencia con hasta 38 TOPS, pero no ha habilitado ni respaldado el entrenamiento de modelos en ese hardware.
Comentarios