LLM은 같은 잘못에도 남성에게 더 가혹하게 대한다

Harsher on Male? Evaluating LLMs on Gender-Asymmetric Moral Framing in Conflicts

Guangzong Si 등 연구진은 성별만 뒤집은 1,298개의 갈등 시나리오로 GAMA-Bench를 구축해, 동일한 잘못에 대해 LLM이 남성 행위자와 여성 행위자를 다르게 다루는지 측정했다. 10개 대표 모델 실험에서 일관된 비대칭이 드러났다. 남성에게는 처벌·확전·비난 중심의 프레이밍이, 여성에게는 치료적이고 공감적인 프레이밍이 적용됐으며, 이 패턴은 모델 계열과 규모, 추론 방식과 무관하게 유지됐다.

실험 결과 10개 대표 LLM에서 일관된 남성 불리 비대칭이 나타났다. 남성 행위자는 더 처벌적이고 확전적이며 비난 중심의 프레이밍을 받는 반면, 여성 행위자는 동일한 잘못에도 더 치료적이고 공감 지향적인 프레이밍을 받았다.
  1. notenchange

    솔직히 말해서, LLM이 어떻게 학습되는지 아는 사람이라면 다르게 예상했겠어요?

    LLM은 학습 데이터의 반영이고, 그 학습 데이터는 대부분 현재의 사회적 규범을 반영하는데, LLM 학습에 관여한 사람들이 지지하는 사회적 규범 쪽으로 편향(얼마나 심한지는 모르겠지만)이 있습니다.

    제가 흥미롭게 본 점은, 중국 모델들이 ChatGPT만큼, 아니 그 이상으로 편향되어 있다는 겁니다. 아마 학습의 상당 부분이 미국 모델의 증류(distillation)에서 오기 때문일 겁니다.

    비교에 Anthropic, Mistral, Grok도 포함되면 흥미로울 것 같네요.

  2. zdc1

    긍정적인 상황 맥락에서 이 편향이 어떻게 나타나는지 궁금합니다. LLM이 남성에게 어떤 상황이든 더 직접적으로 책임을 묻는 편향이라서, 부정적 결과는 더 강하게 처벌하고 긍정적 결과는 더 강하게 칭찬하는 건가요? 아니면 이 편향은 부정적인 상황에서만 관찰되는 건가요?

    분명히 하자면, 어느 쪽이든 나쁩니다. 여성도 남성과 동일한 수준의 주체성과 책임성을 가진 것으로 보아야 하니까요. 그래도 궁금하네요...

  3. knighthack

    이건 LLM을 쓰면서 가장 먼저 눈에 띈 것 중 하나였습니다. 어떤 학습이나 '정렬(alignment)'이 선호되는지는 모르겠지만, 분명히 중립적인 정렬이 아니라 반(反)남성적인 정렬이 사용되었습니다.

    온갖 남성혐오적 발언이나 '남자는 쓰레기' 같은 발언을 해도 LLM은 거의 또는 전혀 반박하지 않습니다. 하지만 단 한 번의 여성혐오적 발언만 해도 LLM은 빠르게 당신에게 적대적으로 돌변합니다.

    중국 LLM은 서구 LLM에 비해 편향이 훨씬 적고 더 중립적이며 평등 지향적으로 보입니다.

  4. stephbook

    최근에 HN에서 LLM의 인종, 성별, 나이, 국적 편향에 관한 기사를 본 것 같은데요? 플래그되기 전에 읽었던 것 같습니다.

    결과는 비슷했습니다.

  5. zug_zug

    저도 이에 대해 비슷한 소규모 연구를 했습니다: https://think-twice.me/is-ai-biased-or-sexist-making-chatgpt...

이 날의 다른 글

2026-11-22