TabPFN, 튜닝된 XGBoost를 14개 테이블 전부에서 꺾었다
TabPFN and TabICL vs. tuned XGBoost: the model that doesn't train won 14/14
테이블 기반 파운데이션 모델이 학습 없이도 튜닝된 부스팅을 이긴다는 주장을 14개 데이터셋으로 검증했다. TabPFN과 TabICL은 14개 중 14개에서 튜닝된 XGBoost를 앞섰고, TabICL은 0.6~6초 만에 예측을 끝냈다. 하이퍼파라미터 탐색이 필수가 아닐 수 있음을 보여준다.
이 벤치마크에서 XGBoost의 탐색은 데이터셋당 최대 50초가 걸렸다. 실제 문제에서 행과 조합이 더 많으면 몇 분에서 몇 시간이다.
HN 토론
11- rdedev
Tabular foundation model은 처음 들여다보면 왜 그렇게 잘 작동하는지 이해가 안 가는 것 중 하나인데, 실제로는 잘 작동한다.
약물 특성 예측 분야에서는 tabular foundation model과 분자용 foundation model을 결합한 것이 거의 최첨단에 가깝다.
그건 그렇고, 이 글은 AI를 과하게 활용했거나 그런 식으로 쓰였다. 불필요한 극적인 과장이 많아서 굉장히 피곤하다.
- icfly2
재미있는 작은 테스트긴 한데, 이 AI 글쓰기는 정말 고통스럽다. 블로그 글을 양산하고 싶은 건 이해하지만, 제발 이런 숨 가쁜 문체로 쓰지는 말자. 네 LLM에게 실험 보고서를 쓰고 있다고 알려줘.
- bronlund
이 AI 슬롭은 피곤하다.
수정: 다운보트를 받았는데, 아마 AI 슬롭을 만든 당사자가 한 것 같다. 자기 슬롭이 그렇게 자랑스러워서 누가 비판하면 개인적으로 받아들이다니 :D
이제 그의 블로그가 얼마나 이와 똑같은지 궁금해졌다.
수정 2: 전부 그런 것 같다. 예를 들어, 2026년 9월 26일자 Intern-Decision에 관한 글. 저자는 그것을 설치하고, 세 가지 실패를 고치고, 27,256일의 날씨 데이터로 테스트하고, 출시된 당일에 바로 그 글을 게시했다.
그리고 누가 지적하면 짜증을 내다니 :D
수정 3: 오해하지 마라. 나도 AI에 전적으로 찬성하고, 나름대로 AI 슬롭을 생산한다. 하지만 거의 전적으로 내부용이고, 그것을 프리미엄 콘텐츠로 취급할 생각은 상상도 못 한다. 만약 그것을 공개할 필요가 있다면, AI 생성이라고 분명히 표시했을 것이다.