- 개인정보위, AI 프라이버시 리스크 관리 모델 발표
- 자율적 리스크 관리로 신뢰할 수 있는 AI 생태계 구축
개인정보보호위원회(이하 개인정보위)가 인공지능(AI) 모델과 시스템의 개발 및 제공 과정에서 프라이버시 리스크를 체계적으로 관리할 수 있는 정부 차원의 모델을 공개했다. 이 모델은 ‘안전한 인공지능(AI)·데이터 활용을 위한 AI 프라이버시 리스크 관리 모델’로, AI 기업들이 자율적으로 프라이버시 리스크를 관리할 수 있도록 지원하는 내용을 담고 있다.
AI의 발전으로 인해 개인정보 유출 및 딥페이크와 같은 새로운 형태의 인격권 침해가 발생하고 있으며, 이러한 리스크를 적절히 관리하는 것은 정보주체 보호와 지속 가능한 AI 발전을 위해 필수적이다. 개인정보위는 AI 생애주기 전반에 걸쳐 프라이버시 리스크를 관리하기 위한 방향과 원칙, 리스크 유형, 경감 방안을 체계적으로 정리하였다.
이번 리스크 관리 모델은 지난해 12월부터 진행된 ‘인공지능(AI) 프라이버시 민·관 정책협의회’의 논의를 바탕으로 마련되었다. 이 협의회는 국내외 학계 및 연구기관의 의견을 반영하여 AI 데이터 처리 특성과 프라이버시 리스크 유형을 정리하였다. 특히, AI의 다양한 용례에 따라 발생할 수 있는 리스크를 구분하고, 이를 정량적·정성적으로 측정하여 적절한 안전조치를 마련하는 절차가 포함되어 있다.
리스크 관리 모델의 주요 내용은 다음과 같다. 먼저, AI 프라이버시 리스크 관리 절차는 AI가 매우 다양한 맥락과 목적에 따라 활용되기 때문에 데이터 요구사항(종류, 형태, 규모 등)과 처리 방식이 다르다는 점을 강조한다. 따라서 리스크 관리를 시작하기 위해서는 우선 AI의 구체적인 유형과 용례를 파악해야 한다. 이후 각 유형별로 구체적인 리스크를 식별하고, 그 발생 확률과 중대성, 우선순위 등을 정성적 및 정량적으로 측정한다. 마지막으로 이러한 리스크에 비례하는 안전조치를 마련함으로써 체계적인 관리를 수행할 수 있다.
AI 프라이버시 리스크 유형에서는 AI 기술이 가진 고유한 특성과 데이터 요구사항에 따라 발생할 수 있는 다양한 프라이버시 리스크를 예시로 제시하였다. 특히 AI의 생애주기 전반에서 기획 및 개발 단계와 서비스 제공 단계에서 발생할 수 있는 리스크를 구분하여 설명하였으며, 생성형 AI와 판별형 AI에 따른 구체적인 위험 요소도 다루었다.
리스크 경감 방안에는 프라이버시 리스크를 경감하기 위한 관리적 및 기술적 안전조치를 안내하고 있다. 모든 경감 조치를 필수적으로 이행해야 하는 것은 아니며, 각 기업이 구체적으로 식별하고 측정한 결과에 따라 최적의 안전조치 조합을 마련하여 시행할 수 있도록 지원한다. 예를 들어, 학습 데이터 출처와 이력 관리를 포함한 관리적 안전 조치와 AI 학습 데이터 전처리 및 차분 프라이버시 기법 적용 등의 기술적 안전 조치가 포함된다.
리스크 관리 체계에서는 AI 환경에서 개인정보 보호, AI 거버넌스, 사이버 보안 등 다양한 디지털 거버넌스 요소가 상호 연관된다는 점을 강조한다. 이 과정에서 전통적인 프라이버시 거버넌스를 재편할 필요성이 있으며, 개인정보 보호 책임자(CPO)의 주도적인 역할이 강조된다. 또한 기업은 자신들의 권한과 책임 범위를 명확히 하고 협력 체계를 구축함으로써 프라이버시 리스크 변화에 지속적으로 대응하고 정보주체의 권리 행사를 효과적으로 보장해야 한다.
개인정보위는 향후 AI 기술 발전 및 관련 법령 개정 등을 반영하여 이 모델을 지속적으로 업데이트할 계획이며, 소규모 조직이나 스타트업을 위한 맞춤형 안내 자료도 개발할 예정이다. 박상철 서울대 교수는 “AI 기술 발전과 개인정보 보호 규제 간의 간극을 해결하기 위한 유연하고 체계적인 프라이버시 리스크 관리 체계를 제시했다”고 강조했다.
고학수 위원장은 “AI 분야에서 불확실성이 높기 때문에 합리적이고 비례적인 관리를 통해 리스크를 최소화하는 것이 필요하다”며 “이번 모델이 AI 기업들이 프라이버시 리스크를 이해하고 체계적으로 관리하는 데 도움이 되기를 바란다”고 밝혔다.
