신뢰도와 안전성 검증이 까다로운 원자력 산업도 피지컬 AI 도입을 주저하지 않되, 실험실 자동화나 검사 수행 등 보조적인 업무부터 도입을 시작하고 사람에게 최종 책임을 부여하는 체계를 수반해야 한다는 목소리가 나왔다.

13일 에너지경제신문 취재에 따르면, 중소벤처기업부와 창업진흥원, 한국원자력산업협회는 전날 오후 서울 용산구 한남동 그랜드 하얏트 호텔에서 'DETO 2026 -원자력·핵융합 분야 기술포럼'을 개최했다.

이 자리에서 서호건 한국원자력연구원 인공지능응용연구실장은 이날 '원자력 연구개발(R&D) 가속화를 위한 에이전틱 AI'를 주제로 발표했다.

원자력 분야에서 피지컬 AI를 적용할 수 있는 영역은 실험실 자동화와 검사, 고방사선 작업 등이 거론된다. AI가 생산성을 높이고 인력과 시간 투입을 줄여주지만, 원자력은 작은 실수가 큰 사고로 이어질 수 있기 때문에 AI 도입에 더 신중해야 하는 현실이 있다.

서 실장은 “원자력 산업은 다른 분야보다 신뢰성과 안전성을 더 까다롭게 요구한다"며 “원자력 산업에 피지컬 AI를 적용하기 위해서는 '어떤 AI를 쓸 것인가'보다 '어느 단계에서 어느 수준의 자율성을 허용할 것인가'와 '어떻게 신뢰성을 검증할 것인가'라는 질문을 던져야 한다"고 말했다.

그는 “일반적으로는 탐색-실행-평가를 연결하는 업무 흐름 구현하면 성공적인 피지컬 AI 적용 사례 나오지만, 사실 원자력 설계는 정형화되지 않는 면이 있다"면서 “원자력 분야는 문서 발견과 지식 정리, 해석 같은 반복 작업 부담을 해소하는, 낮은 단계의 보조 업무부터 시작한 뒤 신뢰성을 입증할 증거를 쌓으면서 피지컬 AI 적용 범위를 확장해야 한다"고 말했다.

AI 도입에 따른 신뢰성과 안전성 우려를 이유로 도입을 원천 금지하기보다는 범위에 따라 자율성을 부여하는 '감독형 자율화' 접근법을 주문했다. AI 에이전트가 잘못된 판단을 내리더라도 밖으로 새나가지 못하게 하는 구조를 마련해야 한다는 것이다.

가령, 환각 현상과 잘못된 판단에 대한 우려는 출처 명시하며 독립된 검증 작업을 수행하고, 불확실한 결과가 나오면 전문가에게 판단을 위임하는 식으로 AI를 설계해 해소하는 방법이 있다. 정보 유출과 권한 남용 문제는 제어 계통을 분리하고 권한을 최소한으로만 부여하며 민감한 업무 범위에서는 외부와 연결되지 않은 자체 시스템(온프레미스)을 구현할 것을 주문했다.

같은 정보와 조건을 입력해도 매번 결과값이 다르게 나오는 '비재현성' 문제와 불명확한 책임 소재는 데이터와 AI 모델, 코드 버전을 관리하고 감사용 로그(기록)을 남기면서 승인 권한을 가진 사람을 지정하는 방식을 고려할 만한다.

서 실장은 “원자력 산업에 피지컬AI를 적용한 사례를 공유하는 것이 필요하다"며 “실제로 도입하거나 AI로 낸 결과물로 인허가 작업을 시도해보고, 막힌 부분을 보완해서 초안을 잘 잡은 경험을 쌓아야 '이제 믿을 만하다'는 반응과 함께 원자력 분야에서 AI가 확산될 것"

주기기 설계 및 제작이나 원전 설비 검사 등 원자력 산업에 AI를 적용해온 기업들은 인증과 규제 불확실성 해소가 필요하다고 강조했다.

장세영 두산에너빌리티 AI이노베이션 담당 상무는 “원자력 주기기는 국제 기준과 규약(코드)에 맞춰 설계와 제작이 이뤄져야 하기 때문에 (AI 활용 부분에 대한) 국제 인증을 어떻게 받을지가 큰 숙제"라며 “비파괴 검사의 경우 AI가 사람보다 훨씬 더 판독을 잘 하지만, AI 판독 과정과 결과를 국제적으로 인증해주지 않으면 글로벌 원자력 시장에서 적용이 어려워진다"고 설명했다.

그러면서 “국제적으로 위상배열초음파검사(PAUT) 분야에 대한 검사 체계와 AI를 이용한 전체적인 인증 프로세스를 확정해 아즈텍(AZTEC) 코드에 반영하는 프로젝트가 시작됐고, 두산도 내년에 참여할 계획"이라며 “국제 인증을 직접 받거나 국내에서 국제 인증을 받을 수 있다면 AI를 적용해 더 품질이 좋은 제품을 만드는 데 도움이 될 것"이라고 덧붙였다.

김기수 딥아이 대표는 “규제 기관에서 점진적으로 원자력 분야 AI 규제를 명확화하하면 많은 기업들이 도전에 나설 것"이라며 “AI가 사람과 함께 작업을 수행해야 하지만, 현재 만들어지는 글로벌 코드를 보면 성능 검증을 AI만을 대상으로 진행하고 있다"며 “AI 소프트웨어 활용해 사람이 만들어낸 최종 결과를 틀로 규제하거나 인증하는 것이 합리적일 것"이라고 말했다.

정승현 기자 jrn72benec@ekn.kr