김한성 ㈜투비유니콘 가치설계자(CPO)
▲김한성 ㈜투비유니콘 가치설계자(CPO)
올해 6월 고용노동부는 구직자의 취업 가능성을 분석하고 필요한 역량과 직업훈련을 안내하는 인공지능(AI) 서비스를 공개했다. 구직자가 원하는 직종에서 취업할 확률을 살펴볼 수 있는 것이다. 막막한 취업 준비에 유용한 길잡이가 될 수 있다. 다만 화면에 나타난 확률이 낮다면 어떨까. 그것은 보완해야 할 점을 알려주는 정보일까, 아니면 내 미래의 한계를 말해주는 숫자일까. 정부의 서비스는 합격과 불합격을 결정하는 제도가 아니지만, 이 작은 질문은 AI가 사람을 평가하는 시대의 더 큰 문제로 이어진다.
그보다 한 달 앞선 5월 교황 레오 14세는 '위대한 인간성(Magnifica Humanitas)'이라는 회칙을 발표했다. 1891년 레오 13세가 산업혁명 속 노동자의 권리를 다룬 '새로운 사태'를 발표한 지 135년 만이다. 기계와 자본 앞에서 노동자의 존엄성을 물었던 역사가 이제 AI와 알고리즘 앞에서 인간의 가치를 다시 묻고 있다. 종교 문서의 언어로 시작된 물음이지만, 그 답은 채용과 교육, 공공서비스를 이용하는 모든 사람의 삶과 맞닿아 있다.
회칙은 AI가 도덕적으로 중립적인 도구가 아니라고 지적한다. 무엇을 측정하고 무시하며 최적화할지 정하는 순간, 설계자의 선택과 가치가 이미 들어가기 때문이다. 가령 채용 시스템이 경력의 연속성을 높게 평가한다면 육아나 가족 돌봄으로 일을 쉬었던 사람이 불리해질 수 있다. 잦은 이직을 감점한다면 새로운 분야에 도전해온 경험이 약점으로 읽힐지도 모른다. 이는 실제 특정 시스템에서 확인된 차별이 아니라, 무엇을 능력의 기준으로 삼느냐에 따라 나타날 수 있는 위험이다.
AI는 데이터를 빠르게 처리하고 일정한 기준을 일관되게 적용할 수 있다. 그러나 정확하게 예측하는 것과 정당하게 판단하는 것은 다르다. 과거 채용 기록으로 만든 모델이 기존에 선호하던 경력과 학력을 다시 추천할 수 있다. 모델이 과거 결과를 잘 맞혔다 해도 그 과거의 기준까지 공정했다는 뜻은 아니다. 더구나 낮은 취업 확률을 이유로 교육이나 면접 기회를 줄인다면, 미래를 준비하도록 돕는 예측이 오히려 그 가능성을 좁히는 결정으로 바뀐다. 숫자가 무엇을 설명하는지뿐 아니라 그 숫자로 무엇을 할 것인지 물어야 한다.
이 문제는 이미 우리 곁에 와 있다. 고용노동부가 지난해 조사한 매출액 상위 500대 기업 중 응답한 396곳 가운데 86곳은 채용에 AI를 활용한다고 답했다. 그러나 AI 사용 사실을 구직자에게 사전에 알린다는 기업은 그 86곳의 57%였다. 취업 준비생은 자기소개서와 면접을 열심히 준비하면서도, 자신을 판단하는 과정에 AI가 쓰이는지조차 모를 수 있다. 결과가 객관적으로 보이는 만큼 그 기준을 묻기는 오히려 어려워질 수 있다.
물론 AI를 쓰지 않는다고 공정한 채용이 보장되는 것은 아니다. 사람도 선입견을 갖고 판단하며, 같은 지원자를 서로 다르게 평가한다. AI는 누락된 역량을 발견하고 일관성을 높이며 차별적 표현을 가려내는 데 쓰일 수도 있다. 실제 고용노동부가 공개한 서비스 중에는 구인공고의 성별·연령 차별과 법 위반 가능성을 점검하는 기능도 있다. 따라서 쟁점은 사람과 AI 가운데 누가 더 공정한가를 가리는 경쟁이 아니다. 어떤 평가 기준이 업무와 관련 있는지, 불이익을 받는 사람은 없는지, 그 결과를 누가 검토하고 고칠 것인지가 중요하다.
여기에서 회칙이 말하는 인간 존엄성은 중요한 기준이 된다. 존엄성은 시험 점수가 높거나 생산성이 뛰어나서 얻는 보상이 아니다. 일의 능력을 평가할 필요는 있지만, 그 평가가 사람의 전체 가치를 뜻하지는 않는다. 사람은 돌봄과 관계 속에서 살아가고, 실패한 뒤 배우며, 지금의 기록에 담기지 않은 가능성도 지닌다. AI가 인간보다 어떤 일을 더 잘하게 된다고 해서 인간의 존엄성이 줄어드는 것은 아니다. 우리가 지켜야 할 것은 기계보다 우월하다는 자부심이 아니라, 성과와 점수로 다 설명되지 않는 사람을 존중하는 태도다.
한국의 제도도 이런 질문에 답하기 시작했다. 올해 1월 시행된 인공지능기본법은 국민의 권익과 존엄성 보호를 목적으로 명시한다. 개인정보 보호법은 개인정보를 처리해 이루어진 완전히 자동화된 결정에 관해 설명을 요구할 수 있도록 하고, 권리나 의무에 중대한 영향을 미치는 경우에는 법이 정한 조건에서 거부할 권리도 인정한다. 물론 모든 AI 추천이나 평가에 똑같이 적용되는 것은 아니다. 법에 적힌 권리가 실제 생활에서 작동하려면, 당사자가 판단의 이유를 이해하고 필요한 경우 다시 검토받을 수 있어야 한다.
기업은 AI 평가 항목을 정할 때 효율만큼 정당성을 따져야 한다. 공공기관은 알고리즘의 결론을 그대로 전달하는 데 그치지 않고 시민이 질문하고 이의를 제기할 창구를 마련해야 한다. 학교에서는 빠른 답을 얻는 방법과 함께 그 답이 어떤 기준에서 나왔는지 살피는 힘을 길러야 한다. 기술이 발전할수록 평가받는 사람의 목소리를 듣는 절차 역시 정교해져야 한다.
앞으로 AI는 사람의 능력과 선택을 더 정밀하게 예측할 것이다. 그러나 예측이 정교해질수록 우리에게 필요한 것은 그 결과를 무조건 믿는 태도가 아니라, 무엇을 위해 쓰는지 따져 묻는 능력이다. AI가 인간을 얼마나 닮았는지보다 중요한 것은 AI를 운영하는 사회가 인간을 얼마나 존중하는가다. 사람을 평가하는 기준은 기술 속에 감춰둘 일이 아니라, 우리 모두가 묻고 고칠 수 있어야 할 사회적 약속이다.
;){kind=link}