Nous, 알리바바 Qwen3.8-27B를 5천만 토큰 파인튜닝해 '친중 편향' 걷어냈다
Arete-27B: Qwen3.8-27B, post-trained to reinforce Western values
Nous Research가 알리바바의 Qwen3.8-27B를 약 5,280만 토큰으로 추가 학습해 서구적 가치를 강화한 Arete-27B를 공개했다. 803개 프롬프트로 구성된 자체 Propaganda_Eval에서 사실 점수는 5점 만점에 2.32에서 2.98로 올랐고, 선전성 답변 비율은 22%에서 1%로 떨어졌다. 특히 표현의 자유 항목에서는 선전 비율이 60%에서 1%로 급감했다. 에이전트 성능은 사실상 그대로 유지됐다. 핵심은 편향이 얕은 층에 불과하다는 발견이다.
어떤 오픈 모델이든 그 안의 가치는 언제나 단 한 번의 파인튜닝 거리에 있다.
HN 토론
15- bestouff
“서구 가치”란 무엇인가? 미국과 EU는 매우 다른 가치를 가지고 있다(의료, 사형제, 총기 규제 등을 보라). 나는 하나가 다른 하나를 대체하는 것을 원하지 않는다.
- loehnsberg
나는 그것을 서구적이라고 부르며 “우리 대 그들”로 프레이밍하기보다는 객관성을 선호했을 것 같다. 사실에 기반한 답을 얻는 것은 자기 이익을 위해 거짓 서사를 조작하려는 사람들을 제외하고는 모두의 이익이다. 그리고 과거와 현재에서 보듯이, 거짓 사실을 심어 서사에 영향을 미치려는 충동은 동양만큼이나 서양에서도 만연하다.
- WithinReason
서구적 가치와 동양적 가치 중 어느 쪽이 AI 코딩 능력과 더 양립 가능한가?