CUDA DSL 은퇴 선언: Stanford Hazy Research가 에이전트로 추상화를 지우다
Retire the Abstractions
Stanford Hazy Research 팀은 CUDA DSL(예: ThunderKittens)이 곧 은퇴할 것이라고 주장합니다. 작년에 megakernel을 구현할 때 복잡한 추상화 계층이 필요했지만, 올해 MoE megakernel을 구축할 때는 에이전트를 사용해 추상화 없이 직접 최적화된 코드를 작성했습니다. 에이전트가 불완전한 프롬프트를 코드로 컴파일하는 '컴파일러' 역할을 하면서, 추상화의 인지적 부담을 덜어주는 역할이 사라지고 있다는 것입니다. 이들은 코드베이스가 정밀하지만 취약한 반면, 프롬프트는 모호하지만 지능적인 실행자가 채워줄 수 있다고 지적합니다. 다만 추상화가 공유 표면과 오라클을 제공하는 역할은 여전히 중요하며, 모든 도메인에 적용되는 것은 아니라고 경고합니다.
추상화는 은퇴한다. 아이디어는 남는다.
HN 토론
64- bloaf
나는 이것이 내가 내려오고 있던 결론과 정확히 반대라고 느낀다. 누구나 순식간에 코드를 대충 만들어낼 수 있는 시대에, 나는 높은 수준에서 보증/계약을 주장할 수 있는 능력을 원하고, 그 다음에 AI가 세부 사항을 처리하게 하고 싶다. 나는 AI가 추상화의 경계 안에서 일하도록 강제하고 싶지, 추상화와 독립적으로 일하게 하고 싶지 않다.
- JSR_FDED
"첫째, 추상화는 단지 인지 부하를 관리하는 수단이 아니라, 적용, 재사용, 검토가 부착되는 공유 표면이다."
이건 정말 심하게 꼬인 문장이다.
- gradus_ad
정확한 사양은 항상 주어져야 하며, 추론으로 존재하게 할 수 없다. 왜냐하면 그것들은 외부 고려 사항에 의해 형성되기 때문이다.
실행자가 아무리 지능적이더라도, 관련된 외부 맥락에 대한 지식 없이는, 사양은 항상 명확하게 정의되고 주어져야 한다.
- socketcluster
우리는 그 어느 때보다 추상화가 필요하다. 진짜 요점은 불필요한 추상화를 은퇴시켜야 한다는 것이다.
좋은 추상화는 작업을 단순화하는 외날 검이다. 평범한 추상화는 양날의 검이다. 나쁜 추상화는 제한적인 손잡이가 있고 날카로운 면이 당신을 향하고 있는 외날 검과 같다.
- vatsachak
이건 정말 나쁜 생각이다. LLM 에이전트는 취향(추상화 능력)이 없다. 그것들은 일종의 물과 같아서, 담긴 용기의 모양을 취한다. 그것들은 당신이 그들이 작업할 수 있는 자신만의 프레임워크를 구축할 때 훨씬 더 강력하다.