Apple Neural Engine, 3년 만에 다시 뜯어보다: M5가 종말을 예고하다
Retrospectively Reverse-Engineering Apple's Neural Engine

Apple Neural Engine(ANE) 드라이버 리버스 엔지니어링을 중단한 지 3년, 작성자는 M1 ANE의 내부 아키텍처를 다시 파헤친다. 16개 컴퓨트 코어, 128 FP16 MAC 레인, 32비트 고정소수점 누산기, 33-엔트리 piecewise-linear LUT 기반 tanh 활성화, 그리고 GPU pushbuffer와 유사한 태스크 디스패치 모델을 분석한다. M5에서 ANE 코어가 GPU에 통합된 것은 CNN 시대 NPU의 종말을 알리는 신호라고 진단한다.
The M5 (2025)'s headline feature was "LLM performance", and they also conveniently folded the ANE cores inside the GPU cores — I knew it was coming, but it officially feels like the beginning of the end for the standalone NPU.
HN 토론
33- zozbot234
이게 https://maderix.github.io/articles/ 에서 다룬 M4 ANE에 관한 더 최근 연구와 어떻게 관련되나요? M4와 그 이후 ANE가 추가적인 기능을 노출하나요, 아니면 그냥 같은 것의 더 높은 성능 반복일 뿐인가요?
덧붙이자면, 이 글의 서론은 ANE를 M5+ (그리고 A-시리즈 대응) GPU에 있는 Neural Accelerators (NAX)와 혼동하는 것 같습니다. 이 둘은 매우 다른 것이고, Apple은 여전히 ANE를 개발 중입니다 - M6와 A20에는 ANE 블록이 두 배로 들어갈 거라고 합니다.
- GeekyBear
Apple이 올 가을에 새로운 프레임워크(Core AI)를 출시한다는 걸 기억해둘 만합니다. 이는 10년 된 Core ML 프레임워크가 허용했던 Pytorch와 Tensorflow 워크로드를 넘어서는 것입니다.
> Core AI는 앱이 CPU, GPU, Neural Engine 전반에서 최신 모델 아키텍처와 추론 기법을 사용할 수 있게 해줍니다.
- throw0101a
많은 사람들이 Apple이 AI에서 배를 놓쳤다고 말하곤 했/합니다. 어떤 (중요한) 측면에서는 맞는 말이지만, Apple이 AI 붐이 본격화되기 전인 2017년에 A-시리즈 칩에 Neural Engine을 추가했다는 점을 기억할 필요가 있다고 봅니다:
* https://en.wikipedia.org/wiki/Neural_Engine
* https://apple.fandom.com/wiki/Neural_Engine
그 이후 "AI"는 훨씬 더 성장했고, Apple이 (제대로) 배포하지 못한 중요한 발전들도 있었지만, 당시에는 대부분보다 조금 더 앞을 내다보고 있었다고 생각합니다 (이후 사건들이 그들을 '앞질러갔다' 해도 말이죠).
- anentropic
놀라운 분석
같은 저자가 여기서 버그도 하나 찾았네요 https://eiln.github.io/posts/ane-dma.html
- CraigJPerry
이건 AI 쓰레기가 아닙니다. 흥미롭고 잘 쓰였어요.
그런데 아주 기본적인 걸 배웠습니다 - ANE(그리고 주변 데이터 파이프라인)가 트랜스포머가 아니라 CNN을 위해 설계되었다는 걸 몰랐어요. ANE가 내가 이해한 것보다 왜 영향력이 적은지 항상 머릿속에 풀리지 않는 의문이었거든요.