카카오가 스위스 제네바에서 열린 제14차 UN 기업과 인권 포럼에서 인권 기반 AI 전략을 공개하며 글로벌 AI 신뢰성 시장 진입 움직임을 본격화하고 있다. 이번 발표는 AI 안전성, 인공지능 규제 대응, AI 신뢰성 검증 분야에서 카카오가 확보한 기술적 기반을 국제무대에서 처음 확인한 사례다.
AI 안전성 강화
카카오는 ‘인공지능 시대의 인권 증진’ 세션에서 개발·운영 전 과정에 AI 안전성 체계를 통합하고 있다고 밝혔다. 하진화 AI Safety 시니어 매니저는 한국어와 문화 맥락에 최적화된 AI 가드레일 모델을 오픈소스로 공개해 공공 조달 환경의 신뢰성을 높이고 있다고 설명했다. AI 안전성은 최근 CPC가 높은 검색 주제이며, AI 신뢰성 검증과 인공지능 규제 대응은 기업과 정부가 동시에 관심을 가져온 분야다.
이번 포럼은 UN 기업과 인권 이행원칙을 기반으로 글로벌 기업, 정부, 학계를 포함한 다수 이해관계자가 참여하는 자리다. 한국 기업이 이 분야 기술 사례를 공식 제출했다는 점에서 의미가 크다.
글로벌 기준 정합성 확보
카카오는 ‘안전한 AI를 위한 핵심 체크리스트’를 국가인권위원회의 AI 인권영향평가 도구를 참고해 제작했으며, 그룹 AI 윤리 원칙에도 인권 항목을 명시했다. 아동·청소년 보호 체크리스트는 유니세프의 디지털 아동 영향평가를 기반으로 개발됐다. 모든 체계는 OHCHR, AI Alliance 등 국제 기관과 협력해 글로벌 기준과의 정합성을 지속적으로 강화하는 형태로 운영되고 있다.
AI 신뢰성 검증 체계는 최근 생성형 AI 기업들에게 필수 인프라로 자리 잡고 있다.
AI 기술 오픈소스 확장
카카오는 지난 5월 AI 서비스 안전성 검증용 가드레일 모델 ‘Kanana Safeguard’를 공개해 국내 기업 최초로 오픈소스 기반 안전성 기술을 배포했다. 현재 카카오 주요 AI 서비스에 적용돼 있으며, 기업용 AI 안전성 검증 시장에서도 활용도가 높다.
또한 한국정보통신기술협회(TTA), 카이스트와 함께 생성형 AI 안전성 평가 데이터셋 ‘AssurAI’를 구축했다. 11,480건으로 구성된 데이터는 글로벌 위험 분류체계에 기반하되 한국 문화 맥락을 반영했다. 누구나 활용할 수 있도록 허깅 페이스 플랫폼을 통해 오픈소스로 공개됐다.
카카오 김경훈 AI Safety 리더는 투명성과 이용자 보호를 최우선 가치로 삼아 기술 및 정책을 고도화하고 있다고 강조했다.
인공지능 규제 대응 요구가 세계적으로 확대되면서 인권 기반 AI 전략은 기업 경쟁력의 핵심 요소로 자리할 전망이다. 카카오는 AI 안전성 검증과 AI 신뢰성 기술을 오픈소스 중심으로 확장하며 글로벌 AI 신뢰 시장에서 영향력을 키울 것으로 예상된다.
