Maxwell, 코드와 하드웨어 사이에 들어앉은 새로운 종류의 모델
Maxwell: A new kind of model that sits between code and hardware
doubleAI가 공개한 Maxwell은 코드가 실행되는 동안 바이너리를 직접 고쳐, 해당 머신과 데이터에 맞춰 최적화하는 '코드 실행 모델'이다. 모든 개선은 원본과의 의미적 동등성을 형식적으로 증명하며, 소스 코드는 그대로 둔다. LTX-2.5의 4K 영상 생성을 1.87배 빠르게 했고, Whisper와 NetworkX 데모에서도 동일한 결과를 절반 이하 시간에 냈다.
CEM은 실행 중인 프로그램 안에 살면서 데이터 흐름을 지켜보고, 알고리즘과 명령어를 그 자리에서 재구성한다. 출력은 하드웨어에서 직접 돌아가는 바이너리다. 인간은 루프에 없다. 따라서 모델은 결코 틀려서는 안 된다.
HN 토론
21- epsylon
그 페이지에는 주장만 많고 기술적인 세부 사항은 거의 없네요.
Python의 형식화는 어떻게 이루어졌나요? 어떤 형식 증명 프레임워크를 사용하나요?
여러 인스턴스/프로그램 실행에 걸쳐 최적화를 어떻게 재현하나요? (소스 코드는 바뀌지 않으니까... 같은 작업을 계속 반복하지 않는다고 가정하면?)
실제로 실행되는 코드에 대한 가시성, 추적, 로깅은 어떻게 제공되나요? 디버깅은 소프트웨어 개발에서 극히 중요한 부분입니다. 특히 바이너리 코드를 끊임없이 바꿔치기하는 악마가 밑에 있다면 더욱 그렇죠. 재컴파일러가 완벽하다 해도(그럴 리 없지만) 사용자 코드는 결코 완벽하지 않으니까요.
왜 슈퍼옵티마이제이션과 데이터에 대한 가시성이 소스 코드 수준으로 다시 드러나지 않나요? 이건 낭비처럼 보입니다.
- gavinray
이건 예상보다 훨씬 흥미진진했어요.
홈페이지는 우리가 무엇을 보고 있는지 잘 설명하지 못하네요:
두 가지의 조합으로 보입니다:
1) Python 언어의 형식화
2) 실행 중인 프로그램에 연결되어, 검증 가능하게 동등한 동작을 하면서 런타임 성능은 더 나은 코드로 핫스왑하는 LLM. 이 코드는 슈퍼옵티마이제이션으로 찾고, 형식화 규칙으로 검증합니다.
이건 훌륭하고, 돌이켜보면 '아직 아무도 생각하지 못했다니 믿기지 않는다' 싶은 종류의 것입니다.
- mccoyb
아이디어는 좋아요:
- 검증
- 특정 하드웨어에 특화된 슈퍼옵티마이제이션
- 실행 중인 바이너리 패치
모두 훌륭합니다.
그런데 이 사이트의 문구에서 좀 이상한 느낌을 받았어요. 마케팅을 목적으로 한 듯한 작은 문구와 주장들이 기술적으로 명확한 의미를 가진 것들과 혼동을 일으키는 방식으로 섞여 있습니다.
예를 들어, 영상('코드 실행 모델은 매번 정확해야 한다')을 봤는데, 이는 암묵적으로 '모델은 환각을 일으킬 수 없다'는 식으로 전달됩니다... 물론 에이전트형 LM은 여전히 확률적이지만, 검증 도구(의미적 동등성을 추론하기 위한)로 감싸져 있고, 아마도 그 도구를 잘 사용하도록 후처리 학습되었을 겁니다.
이건 모델과 하네스 사이의 혼동처럼 보이며, 마케팅 포인트('환각을 일으키지 않는다')를 노린 것이지만 명백히 터무니없는 주장입니다(미끄러짐: 부적절한 도구 호출에 대해 오류 수정을 하는 하네스도 '실수하지 않는 모델'이 될 수 있음).
또한: '자기 개선 코드'
그건 사실 아니죠? 자기 개선 코드는 스스로 실행되고 스스로 개선되는 코드일 겁니다. 이건 내가 실행하고 Maxwell이 지켜보며 개선하는 코드인데... 아닌가요?
관련해서: 사이트의 위 논의에서 '모델'이라는 단어 사용이 싫어요. 이제 모든 것을 '모델'이라고 불러야 하나요? 누구나 도구를 갖춘 에이전트형 LM을 후처리 학습시켜 새로운 프런티어 '모델'을 발명할 수 있나요?
또한, 말하자면 […]