140자 JavaScript 데모를 학습한 모델로, 미완성 코드의 가능성을 탐험하다
I post trained a model on Demoscenes
Dwitter.net의 140자 JavaScript 데모 2만 5천 개로 Qwen2.5-Code-7B를 계속 사전학습시켜 perplexity를 28.63에서 8.57로 낮췄다. 이어서 'awesomeness' 점수 순으로 커리큘럼을 짜고, 직접 4만 개의 애니메이션을 보며 GRPO 기반 RLHF로 자신의 취향까지 모델에 주입했다. 완성된 Demoscener-7B는 미완성 코드의 그럴듯한 이어짐을 여러 갈래로 시각화해, 데모 제작의 탐색 과정을 돕는다.
1만 번째 애니메이션쯤에서야 VLM과 HPSv3의 존재가 고맙게 느껴지기 시작했다. 안타깝게도 이미 너무 늦은 뒤였다.
HN 토론
35- emptybits
데모 신의 인간적인 면이 바로 그 매력이라고 생각합니다. 공유하고 소비하는 것. 동료 인간이 그걸 해냈다! 문제 해결자이자 예술가로서의 코더.
AI가 데모 신의 제약(140자, 극단적인 저해상도, 1MHz의 POKEY 칩 등) 안에서 새로운 것을 생성할 수 있다면 지적으로 흥미롭긴 하죠... 인간이 불가능하다고 생각했던 것... 마치 바둑이나 체스 그랜드마스터가 '뭐지?'라고 말하게 만드는 승부수처럼요. 가능성의 지평을 바꾸죠. 하지만 우리 대부분(?)은 여전히 스포츠/신/예술이 인간의 노력으로 돌아가길 바랄 겁니다.
저는 데모가 큰 화면에 돌아가는 파티에 가본 적이 있는데, 이미 본 것조차 관객들이 '오'하고 '아'하고 감탄하죠. 인간이 제약 속에서 그걸 해내는 방법을 알아냈기 때문이에요. 제 생각에 생성된 것이라면 그 마법은 사라집니다.
- InvisibleUp
데모 신의 요점을 오해하신 것 같습니다. 예쁜 그림보다는 수학적 기량과 퍼즐 풀이의 기쁨이 핵심이에요.
AI의 적절한 활용은 데모 신 효과의 역사를 추적하거나, 특정 신이 어떻게 작동하는지 설명해 더 잘 이해할 수 있게 하는 것일 수 있죠. 신 안의 누구도 퍼즐을 대신 풀어주는 마법 상자를 원하지 않습니다.
- xg15
데모 신(Demoscene)과 혼동하지 마세요. 그리스 정치가 데모스테네스(Demosthenes)의 잘 알려지지 않은 3촌 친척입니다.
- xacky
데모 신은 독특하게 인간적인 노력입니다.
- psenough
절차적 생성 예술에서 유전 알고리즘을 재발견하신 걸 축하합니다. 효과를 가능하게 하는 수학과 크기 코딩 최적화를 배우는 대신, 토큰을 던져 넣고 기계가 만든 쓰레기를 걸러내는 데 시간을 쓸 수 있다니요. 살기 좋은 시대네요!