카테고리 없음

signed unsigned 오류방지 (오버플로우, 버그)

머니지니87 2026. 1. 31. 10:56
반응형

signed unsigned 오류방지
signed unsigned 오류방지

C언어나 C++와 같은 시스템 프로그래밍 언어에서 가장 빈번하게 발생하면서도 디버깅하기 가장 까다로운 버그 중 하나는 바로 정수형 부호(Signed/Unsigned)와 관련된 문제입니다. 변수의 데이터 타입이 명시적이지 않거나, 서로 다른 타입 간의 연산이 발생할 때 컴파일러는 묵시적 형 변환(Implicit Type Conversion)을 수행합니다. 이 과정에서 개발자가 의도치 않은 값의 왜곡, 논리적 오류, 심지어는 심각한 보안 취약점인 정수 오버플로우/언더플로우가 발생할 수 있습니다. 이 글에서는 Signed와 Unsigned의 근본적인 차이를 이해하고, 실무에서 자주 발생하는 버그 패턴과 이를 원천 차단하는 방어적 코딩 기법을 기술적으로 상세히 다룹니다.

1. Signed와 Unsigned의 비트 레벨 차이 이해

컴퓨터는 모든 데이터를 비트(Bit)로 저장합니다. signed int와 unsigned int는 동일한 메모리 크기(예: 4byte)를 가지지만, 최상위 비트(MSB, Most Significant Bit)를 해석하는 방식에서 결정적인 차이가 발생합니다.

1-1. MSB의 역할과 범위

  • Signed (부호 있음): MSB를 부호 비트(0은 양수, 1은 음수)로 사용합니다. 나머지 비트로 크기를 표현하므로, 표현 가능한 양수의 범위가 절반으로 줄어듭니다. (예: -2,147,483,648 ~ +2,147,483,647)
  • Unsigned (부호 없음): 모든 비트를 수의 크기(Magnitude)를 표현하는 데 사용합니다. 음수를 표현할 수 없는 대신 양수의 범위가 두 배로 늘어납니다. (예: 0 ~ 4,294,967,295)

2. 개발자를 울리는 치명적 버그 패턴

부호가 다른 두 변수가 만날 때, 언어 스펙에 따라 승격(Promotion) 규칙이 적용되며 예상치 못한 결과가 나옵니다.

2-1. 비교 연산에서의 묵시적 형 변환

C/C++ 표준에 따르면, signed와 unsigned를 비교할 때 signed 타입이 unsigned로 자동 변환됩니다. 이때 음수는 매우 큰 양의 정수로 해석됩니다.


#include 

int main() {
    int a = -1;
    unsigned int b = 1;

    // 상식적으로 -1 < 1 이지만, 결과는 거짓(False)이 됩니다.
    if (a < b) {
        printf("-1 is smaller than 1");
    } else {
        printf("Bug Found: -1 is LARGER than 1"); 
    }
    
    // 이유: a인 -1이 unsigned로 변환되면 0xFFFFFFFF(약 42억)이 되기 때문입니다.
    return 0;
}

2-2. 역방향 루프의 무한 루프 (언더플로우)

배열을 역순으로 탐색할 때 unsigned 타입을 인덱스로 사용하면 언더플로우(Underflow)로 인해 루프가 끝나지 않는 재앙이 발생합니다.


// 잘못된 코드 예시
void dangerous_loop() {
    // i가 0일 때, i--가 실행되면 -1이 아니라 MAX_UINT가 되어버림
    // 따라서 i >= 0 조건은 항상 참(True)이 됨
    for (unsigned int i = 10; i >= 0; --i) { 
        printf("%u\n", i); // 무한 루프 발생!
    }
}

3. 오류를 원천 차단하는 방어적 코딩 가이드

이러한 오류를 방지하기 위해서는 명확한 타입 정책과 컴파일러 옵션 활용이 필수적입니다.

3-1. 타입 혼용 금지 및 명시적 캐스팅

가장 좋은 방법은 연산이나 비교 시 서로 다른 타입을 섞어 쓰지 않는 것입니다. 불가피한 경우 반드시 명시적 캐스팅(Explicit Casting)을 사용해야 합니다.

  • 규칙: std::size_t와 같은 길이 관련 변수는 unsigned를 사용하되, 뺄셈 연산이 필요한 로직에서는 signed 타입을 사용하여 언더플로우를 방지하십시오.
  • 캐스팅: if (a < (int)b)와 같이 개발자의 의도를 코드에 명시하십시오.

3-2. 컴파일러 경고 옵션 활성화

인간의 눈으로 찾기 힘든 타입 불일치 문제를 컴파일러가 잡아주도록 설정하십시오. GCC나 Clang 컴파일러에서 다음 플래그는 필수입니다.

  • -Wsign-compare: 부호가 다른 정수 간의 비교를 경고합니다.
  • -Wconversion: 데이터 손실이 발생할 수 있는 묵시적 형 변환을 경고합니다.
  • -Werror: 모든 경고를 에러로 처리하여, 잠재적 버그가 있는 코드는 아예 컴파일되지 않도록 막습니다.
[핵심 요약 : Signed/Unsigned 안전 수칙]
1. 비교 금지: signed와 unsigned 변수를 직접 비교하지 마십시오. (음수가 거대한 양수로 둔갑함)
2. 루프 주의: 0까지 감소하는 역방향 루프(Loop)에서는 절대 unsigned를 인덱스로 사용하지 마십시오.
3. 도구 활용: -Wsign-compare와 같은 컴파일러 경고 옵션을 켜고, 경고를 무시하지 마십시오.
반응형