모델 개발부터 서비스 제공까지 심사
다른 에이전틱 AI로 안전 체계 확대

네이버의 AI 검색 서비스 'AI탭'이 검색 기반 에이전틱 인공지능(AI) 서비스로는 국내 처음으로 AI 경영시스템 국제표준 인증을 받았다. 이용자의 질문에 답하고 예약·구매 등 다음 행동으로 연결하는 과정에서 위험을 관리하는 체계를 외부 기관으로부터 검증받은 것이다.

네이버는 AI탭에 대해 'ISO/IEC 42001:2023' 인증을 획득했다고 3일 밝혔다. 대규모 이용자가 쓰는 검색 기반 에이전틱 AI 서비스를 인증 범위로 삼은 것은 국내 기업 중 처음이라고 회사 측은 설명했다.

AI탭은 이용자와 여러 차례 대화를 주고받으며 맞춤형 정보를 제공하고, 예약과 구매까지 연결하는 검색 서비스다. 질문에 답하는 것을 넘어 이용자의 요청을 이해하고 필요한 행동을 수행하는 에이전틱 AI를 기반으로 한다.

ISO/IEC 42001은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동 제정한 AI 분야 첫 국제 경영시스템 표준이다. AI를 개발하고 서비스하는 과정에서 위험관리와 보안, 윤리 등을 체계적으로 관리하는지 심사한다.

이번 심사는 AI 모델 개발과 서비스 제공 두 영역에서 이뤄졌다. 네이버는 AI탭의 개발부터 운영까지 적용한 안전 관리 절차가 국제표준 요구사항을 충족하는지 제3자 검증을 받았다.

네이버는 AI 안전 전담 조직인 'AI 세이프티 센터'를 두고 위험을 식별·평가하고 처리하는 절차를 문서화해 관리하고 있다. 전사 공통 위험 분류 체계와 안전성 평가 도구를 운영하고, 자체 안전 프레임워크와 점검표를 적용한다. 이 가운데 안전 점검표 'CHEC 2.0'은 이번 심사에서 우수사례로 평가받았다고 회사 측은 밝혔다.

유봉석 네이버 CRO는 이용자를 대신해 검색하고 행동하는 AI 서비스에서는 편의성만큼 안전과 신뢰가 중요하다며, AI탭에 적용한 안전 관리 체계를 팀네이버의 다른 에이전틱 AI 서비스로 확대하겠다고 밝혔다.

김나현 기자 knh@ekn.kr