[이슈&인사이트] 킬러로봇에 대한 단상

고경철 세종과학포럼 회장

“국방로봇과 킬러로봇의 차이는 무엇일까" 방어와 공격의 차이일까?

지금 전 세계적으로 러시아의 우크라이나 침략전쟁과 이스라엘의 가자지구에 대한 하마스 보복전쟁으로 인해 많은 인명피해가 극심하다. 현대 문명이 꽃피운 21세기에 살며, 인류 역사가 100년전으로 되돌아가는 안타까운 현실이 벌어지고 있는 것이다. 이러한 형국에 우리나라의 K방산이 물만난 고기처럼 비약적인 수출실적을 내고 있는 것을 보면 다소 씁쓸하다.

역사적으로 살펴볼 때 전쟁을 일으킨 나라가 지면, 지도자들은 국제재판소에서 형을 받고 책임을 져야 했다. 이는 “성공한 반란은 처벌할 수 없고 후세 역사의 판단에 맡긴다"는 승자 논리와 맥을 같이 한다.

최근 중국에서 개최된 한 국방로봇 전시회에서 소개된 전시 작전용 살상 로봇에 대해 윤리적 논란이 일고 있다. 영화 터미네이터와 매트릭스를 연상시키는 초지능 킬러로봇 등장이 머지 않았다는 디스토피아적 시나리오 때문이다. 사실 오랫동안 로봇틱스 분야의 4대 난제이던 이동기술, 물체인식, 위치인식, 핸들링 기술 문제가 최근 인공지능 기술에 의해 풀리기 시작하였다. 이는 자율적 판단에 의해 전투를 수행하는 살상 로봇이 현실화되는 것을 의미한다.

물론 예전부터 킬러로봇의 개발을 국제적 기구를 통해 금지시키자는 움직임은 인공지능 학계에서 끊임없이 제기되어 왔다. 하지만 미국 해병대 특수 작전 사령부(MARSOC)가 AI 기술을 활용한 로봇개를 군사훈련용으로 테스트하는 등 군사용 로봇 분야에서도 미중 기술 패권 경쟁이 가속화될 전망이다. 이뿐만 아니다. 최근 인공지능 기술의 비약적 발전함에 따라, 세계 각국 또한 자국의 국방력 강화를 위해 군사용 로봇 및 인공지능을 기반으로한 전술 통제 시스템 도입 등 첨단 국방 체계 현대화가 경쟁적으로 추진되고 있다.

사실 인류역사를 바꾸는 전환점은 대규모 살상무기의 발명시기와 일치한다. 패권국의 지위는 군사력에 의해 결정되어 온 것이다. 딥러닝과 생성형 AI의 출현으로 이미 인공지능 기술은 통제의 범위를 벗어나 우리를 새로운 세계로 인도하고 있다. 늘 그래왔듯이 역사의 명운은 인류 문명의 과학 기술 수준이 아닌 우리 인간의 통제력 즉 인문학적 수준에 의해 결정된다.

지금까지 인간은 과학과 인문학 발전을 통해 찬란한 고도 문명사회를 아루었다. 컴퓨터와 인터넷 그리고 인공지능 기술의 발명으로 이제 가상세계를 넘어 현실세계를 지배하는 로봇이 현실화 되고 있다 영화속 지능기계가 도처에서 출현할 날이 머지 않은 것이다. 최근 발간된 스탠포드대 보고서는 통제되지 않은 AI와 로봇에 의해 인류가 멸종될수 있다고 섬뜩한 경고를 하고 있다

일반인도 신기해하던 최신 로봇기술에 대한 열광이 막연한 과학기술에 대한 공포감을 느낄 정도로 하루가 다르게 인공지능 기술은 고도화되고 있다. 그러나 문제는 그나마 AI 분야의 개방과 공유의 분위기가 살작 바뀌고 있다는점이다. 만약 이 통제되기 힘든 권력이 독점화된다면 그야말로 모두가 우려하는 재앙과 파국의 길로 들어서는 서막이 될 것으로 보인다.

AI가 민간인과 군인을 구분하는 판별 수준이 이미 인간의 눙력을 넘어선지 오래다. 군작전 수행능력도 시뮬레이션이 압도한다, 오히려 인간의 판단이 기계보다 못한 시간이 다가온다. 이러한 관점에서 “전쟁은 인간 본연의 분노를 참지 못한 집단 살인이다“이란 '코스모스'의 저자 칼세이건의 말을 되새겨 보며, 과연 군사용 로봇이 인류의 통제하에서 평화의 수단이 될지 아니면 통제를 벗어난 인류 파멸의 길이 될 것인지 우리 모두 눈을 부릅뜨고 지켜 보아야할 대목이다.

고경철