컴파일러가 당신의 보안 검사를 되돌릴 수 있다

Compiler Can Undo Your Security Checks

컴파일러가 당신의 보안 검사를 되돌릴 수 있다

C 코드를 안전하게 작성해도 컴파일러 최적화가 보안 보호를 제거하고 메모리 초기화를 삭제하며 TOCTOU 취약점을 만들 수 있다. 보안 연구원 Chris Domas는 Black Hat에서 컴파일러가 왜 이런 변환을 허용하는지, 데이터 크기에 따라 17바이트는 안전하지만 33바이트는 취약해지는 사례를 설명한다. Rust가 해결책인지, GCC와 Clang 전환이 답이 아닌 이유, AI로 5억 줄을 분석해 300개 위험 패턴을 찾은 방법도 다룬다.

CPU는 소스 코드를 실행하지 않는다. 컴파일러가 만들어낸 것을 실행할 뿐이다.
  1. omoikane

    컴파일러가 memset을 삭제하는 것과 관련해서, 최적화로 제거되지 않도록 보장된 메모리 초기화 함수가 여러 개 있습니다:

    https://cppreference.com/c/string/byte/memset (memset_s)

    https://cppreference.com/cpp/string/byte/memset (memset_explicit)

    memset_s가 표준이 되기 전에 사람들이 사용하던 다른 여러 함수에 대해서는 notes 섹션도 참고하세요.

  2. johnbender

    핵심 문제는 컴파일이 암묵적인(컴파일러 작성자들이 머릿속에 항상 염두에 두는) 정확성 개념 위에서 작동한다는 점입니다. 이는 대략 "관찰 가능한 동작의 보존"인데, 여기서 "관찰 가능한"이란 시스템 호출의 시퀀스와 그다음 반환 값을 말합니다. 즉, 컴파일러의 최종 출력은 새로운 관찰 가능한 동작 시퀀스를 추가해서는 안 됩니다.

    반면 보안 속성은 매우 자주 이러한 시퀀스들 사이의 관계에 관한 것입니다. 예를 들어 우리는 외부 관찰자/공격자가 외부 관찰을 통해 내부 상태를 구별할 수 없다고(기밀성) 말하고 싶어 하는데, 이는 서로 다른 숨겨진 값을 가진 두 개의 관찰 가능한 트레이스가 동일한 시작 관찰 상태에서 서로 다른 관찰을 가져서는 안 된다는 것을 요구합니다.

    LTS(Labelled Transition System)에 능한 사람이라면 이 차이를 트레이스 속성 대 하이퍼 속성으로 알 것입니다. 컴파일러는 전자를 보존하려고 하지만 후자는 아닙니다.

    별개로 "무엇이 관찰 가능한가?"라는 문제가 있습니다. 예를 들어 관찰 가능한 동작에 타이밍을 포함시키면, 관찰을 보존할 수 있는 컴파일러 패스의 종류가 갑자기 매우 빠르게 0에 수렴하는 경향이 있습니다.

  3. Narishma

    제목은 "당신의 C 컴파일러가 당신의 보안 검사를 되돌릴 수 있다"여야 합니다.

  4. bmandale

    빌어먹을 이상한 사이트네. HN 방문자를 싫어하고 내가 콘솔을 여는 것도 원하지 않는 모양이야. 내가 환영받지 못한다는 걸 알겠어.

  5. Hizonner

    컴파일러는 결과가 원래 코드와 정확히 같은 방식으로 외부 세계와 상호작용한다는 것을 증명할 수 있다면 코드를 변환할 수 있죠? 아무것도 X를 변경할 수 없다는 것을 증명할 수 있다면 "나는 이미 X의 값을 확인했다"는 것을 기반으로 최적화할 수 있습니다.

    음, 많은 컴파일러가 외부 세계가 무엇에 영향을 미치거나 관찰할 수 있는지에 대해 정당화되지 않은 가정을 하고 있는 것 같습니다. 아마도 스펙의 장려 때문일 수도 있고, 아닐 수도 있고요.

이 날의 다른 글

2026-09-12