알고리즘 공정성과 형평성

공정성의 다차원적 정의

알고리즘 공정성은 단일한 개념이 아니라 여러 가지 상충될 수 있는 정의들의 집합입니다. 의료 AI에서는 맥락에 따라 적절한 공정성 정의를 선택해야 합니다.

1. 개인적 공정성 vs. 집단적 공정성

개인적 공정성(Individual Fairness): "유사한 개인은 유사하게 대우받아야 한다"는 원칙입니다. 두 환자의 의학적 상태가 유사하다면 AI도 유사한 예측을 해야 합니다.

d(x₁, x₂) ≤ τ  →  |f(x₁) - f(x₂)| ≤ ε

// 환자 x₁과 x₂의 임상적 유사도가 임계값 τ 이하라면
// AI 예측 f(x₁)과 f(x₂)의 차이도 ε 이하여야 함

// 예시:
{
  "patient_1": {
    "age": 65, "bmi": 28.5, "hba1c": 7.2,
    "diabetes_risk_score": 0.73
  },
  "patient_2": {
    "age": 66, "bmi": 28.8, "hba1c": 7.3,
    "diabetes_risk_score": 0.74  // 유사한 점수
  },
  "clinical_distance": 0.05,  // 매우 유사
  "prediction_difference": 0.01  // 개인적 공정성 만족
}

집단적 공정성(Group Fairness): 인구 집단(인종, 성별, 연령 등) 간에 통계적 패리티를 요구합니다. 대부분의 공정성 지표가 여기에 속합니다.

2. 주요 집단적 공정성 지표

불가능성 정리: 공정성의 수학적 한계

충격적이게도, 여러 공정성 기준을 동시에 만족시키는 것은 대부분의 경우 수학적으로 불가능합니다.

Chouldechova의 정리 (2017)

집단 간 유병률이 다른 경우, 다음 세 가지 조건을 동시에 만족시킬 수 없습니다:

1. Calibration (보정)
2. Predictive Parity (예측 동등성)
3. Equal False Positive/Negative Rates (균등한 오류율)

// 집단 A: 질병 유병률 10%
// 집단 B: 질병 유병률 30%

{
  "group_A": {
    "prevalence": 0.10,
    "true_positive": 80,   // 100명 중 80명 발견
    "false_positive": 90,  // 900명 중 90명 오진
    "tpr": 0.80,
    "fpr": 0.10,
    "ppv": 0.47  // 80/(80+90) = Positive Predictive Value
  },
  "group_B": {
    "prevalence": 0.30,
    "true_positive": 240,  // 300명 중 240명 발견
    "false_positive": 70,   // 700명 중 70명 오진
    "tpr": 0.80,  // Equal Opportunity 만족
    "fpr": 0.10,  // Equalized Odds 만족
    "ppv": 0.77   // 240/(240+70) - A와 다름!
  },
  // TPR과 FPR을 동일하게 맞추면 PPV가 달라짐
  // → Predictive Parity 위반!
}

의료 AI에서의 함의

이 불가능성 정리는 의료 AI 설계자들에게 중요한 시사점을 줍니다: 어떤 공정성을 우선시할지 명시적으로 선택해야 합니다. 이는 기술적 문제가 아니라 가치 판단의 문제입니다.

의료 맥락별 공정성 선택 지침

질병 스크리닝: Equal Opportunity 우선

암 검진, 당뇨병 조기 발견 등 질병 스크리닝에서는 환자를 놓치지 않는 것(false negative 최소화)이 가장 중요합니다. 따라서 Equal Opportunity(모든 집단에서 동일한 민감도)를 우선시해야 합니다.

자원 배분: Calibration 우선

중환자실 입원, 장기이식 대기자 순위, 제한된 의료진 배정 등 희소 자원 배분 결정에서는 위험도 점수의 정확성이 중요합니다. 따라서 Calibration을 우선시해야 합니다.

진단 보조: Equalized Odds 권장

의사의 진단을 보조하는 AI는 과잉 진단(false positive)과 과소 진단(false negative) 모두를 균형있게 제어해야 합니다. Equalized Odds가 적합합니다.

공정성 감사 (Fairness Audit)

의료 AI 시스템을 배포하기 전과 배포 후 정기적으로 공정성을 평가하는 체계적인 프로세스가 필요합니다.

1. 사전 배포 감사 (Pre-Deployment Audit)

단계 1: 데이터 감사

• 학습 데이터의 인구통계학적 분포 분석
• 각 하위 집단별 충분한 샘플 수 확인 (최소 수백~수천 건)
• 레이블 품질의 집단 간 일관성 검증
• 역사적 편향의 존재 여부 탐지

{
  "dataset": "Diabetic_Retinopathy_Detection",
  "total_images": 88702,

  "demographics": {
    "ethnicity": {
      "caucasian": { "count": 62091, "pct": 70.0 },
      "african": { "count": 8870, "pct": 10.0 },
      "asian": { "count": 8870, "pct": 10.0 },
      "hispanic": { "count": 8871, "pct": 10.0 }
    },
    "gender": {
      "male": { "count": 44351, "pct": 50.0 },
      "female": { "count": 44351, "pct": 50.0 }
    }
  },

  "label_quality_by_group": {
    "inter_annotator_agreement": {
      "caucasian": 0.92,
      "african": 0.89,   // 약간 낮음 - 주의 필요
      "asian": 0.91,
      "hispanic": 0.90
    }
  },

  "recommendations": [
    "African descent images: increase annotator training",
    "Consider oversampling minority groups",
    "Data appears balanced - proceed to model training"
  ]
}

단계 2: 모델 성능 감사

• 모든 하위 집단에서 정확도, 민감도, 특이도 측정
• 집단 간 성능 차이의 통계적 유의성 검정
• 교차 검증 시 계층화 샘플링 사용

단계 3: 공정성 지표 평가

• 선택한 공정성 기준(예: Equal Opportunity)의 만족 여부 확인
• 허용 가능한 집단 간 차이 임계값 설정 (예: ±5%)
• 공정성-정확도 트레이드오프 분석

2. 배포 후 모니터링 (Post-Deployment Monitoring)

AI를 실제 임상 환경에 배포한 후에도 지속적인 공정성 모니터링이 필수적입니다.

공정성 향상 알고리즘

1. Reweighting (재가중치)

학습 데이터의 각 샘플에 가중치를 부여하여 소수 집단의 영향력을 높입니다.

// 각 샘플의 가중치 계산
w(x, a) = [P(Y=y) / P(Y=y|A=a)] × [P(A=a) / P(Y=y, A=a)]

// 예시: 소수 집단의 양성 샘플 가중치 증가
{
  "majority_positive": { "weight": 1.0 },
  "majority_negative": { "weight": 1.0 },
  "minority_positive": { "weight": 3.5 },  // 증가!
  "minority_negative": { "weight": 2.1 }   // 증가!
}

2. Adversarial Debiasing (적대적 탈편향)

두 개의 신경망을 사용합니다: 하나는 질병을 예측하고, 다른 하나(적대자)는 예측으로부터 민감 속성(인종, 성별)을 추론하려고 시도합니다. 주 모델은 적대자가 민감 속성을 추론하지 못하도록 학습됩니다.

3. Fairness Constraints (공정성 제약)

손실 함수에 공정성 페널티를 추가합니다.

Loss = Accuracy_Loss + λ × Fairness_Penalty

// Fairness_Penalty 예시 (Equal Opportunity):
Fairness_Penalty = |TPR_group_A - TPR_group_B|²

// λ는 공정성-정확도 균형을 조절하는 하이퍼파라미터
// λ = 0: 공정성 무시, 정확도만 최적화
// λ = 큰 값: 공정성 강조, 정확도 다소 희생

// 실제 사례: λ = 0.5로 설정 시
{
  "baseline_model": {
    "overall_accuracy": 0.92,
    "tpr_difference": 0.18  // 큰 불공정!
  },
  "fairness_constrained_model": {
    "overall_accuracy": 0.90,  // 2% 감소
    "tpr_difference": 0.03   // 15% 개선!
  }
}

4. Threshold Optimization (임계값 최적화)

각 집단에 대해 다른 결정 임계값을 사용하여 공정성을 달성합니다.

형평성 vs. 평등: 철학적 논쟁

공정성 논의에는 깊은 철학적 질문이 내재되어 있습니다: 형평성(Equity)과 평등(Equality)의 차이입니다.

평등(Equality): 모두를 똑같이

모든 집단에 동일한 알고리즘, 동일한 임계값, 동일한 기준을 적용합니다. Demographic Parity와 유사한 개념입니다.

형평성(Equity): 필요에 따라 다르게

각 집단의 역사적 불이익, 구조적 장벽, 의료 접근성 차이를 고려하여 조정된 지원을 제공합니다.

규제 및 표준 프레임워크

1. EU AI Act (2024)

의료 AI를 "고위험 AI 시스템"으로 분류하고, 다음을 요구합니다:

• 편향 감지 및 완화 조치
• 대표성 있는 학습 데이터
• 인간의 감독
• 투명성 및 설명 가능성

2. FDA의 AI/ML 기반 의료기기 규제 (미국)

FDA는 알고리즘 공정성을 평가하기 위한 가이드라인을 개발 중이며, 다음을 권고합니다:

• 다양한 인구 집단에서의 임상 검증
• 배포 후 성능 모니터링 계획
• 편향 완화 전략 문서화

3. WHO의 AI 윤리 가이드라인

WHO는 의료 AI의 형평성을 강조하며, 저소득 국가와 취약 계층의 접근성 보장을 요구합니다.

다음 장 예고

4장에서는 AI 진단에 대한 정보 동의를 다룹니다. 환자가 자신의 진료에 AI가 사용되는지 알고 선택할 권리, 그리고 의료진이 환자에게 AI 사용을 어떻게 설명해야 하는지를 탐구합니다.