삼성전자, AI 에이전트 1만명 시대…남은 과제는

‘삼성 AI 포럼 2026’ 개최…AI 분야 전문가 400명 참석
DS 개발자 1만명 이상 ‘클로드 코드’ 활용…전사 AX 확산

“삼성은 보안 체계를 먼저 갖추고 나서 사용 규모를 키웠다"(데이비드 그린 아마존웹서비스(AWS) 아시아태평양·일본 AI 기술 리더)

30일 서울 서초구 삼성전자 서초사옥에서 '에이전틱 시프트: 지능에서 임팩트로(The Agentic Shift: From Intelligence to Impact)'를 주제로 열린 '삼성 AI 포럼 2026'에서는 삼성전자의 AI 에이전트 활용 현황과 과제가 공개됐다. 삼성전자 DS(반도체)부문에서는 1만 명 이상의 개발자가 AWS의 AI 모델 서비스 '아마존 베드록'으로 앤트로픽의 코딩 에이전트 '클로드 코드'를 쓰고 있다. 지난 6월에는 오픈AI의 '챗GPT 엔터프라이즈'와 코딩 에이전트 '코덱스'를 국내 전 임직원과 해외 DX부문 임직원에게 제공하기로 했다. 글로벌 AI 기업의 에이전트 도구를 전사 업무에 동시에 들이며 'AI 전환(AX)'에 속도를 내고 있다는 평가가 나온다.

이날 연사들은 도구를 들이는 데 그치지 않고 이를 성과로 바꾸려면 과제가 남아 있다고 진단했다. 결과를 검증하는 체계와 에이전트 외곽의 통제 장치, 사람의 판단 역량, 업무 프로세스 재설계가 함께 갖춰져야 한다는 것이다. 올해로 10회째인 이번 포럼에는 국내 AI 대학원 교수·연구원 100명과 삼성전자 AI 분야 임직원 300명 등 400명이 참석했다.

전영현 삼성전자 대표이사 부회장은 환영사에서 “알파고가 인간과의 바둑 대결에서 승리하며 AI의 새로운 가능성을 시사한 지 올해로 10년이 됐다"고 말했다. 이어 “AI는 일상의 혁신을 이끄는 핵심 동력인 동시에 보안, 신뢰, 비즈니스 환경과의 조화라는 새로운 과제를 던지고 있다"고 짚었다.

그린 리더는 삼성DS와 AWS코리아가 함께 만든 에이전트 통제 관문 '어썸 게이트웨이(Awesome Gateway)'를 소개했다. 코딩 에이전트 앞단에서 누가, 어떤 도구로, 얼마를 쓰는지 관리하는 장치로, 깃허브에 오픈소스로 공개됐다. 개발자는 클라우드 자격증명을 직접 쥐지 않는다. 사내 계정으로 로그인해 단기 키를 받는 구조다. 팀별로 예산·호출 한도·사용 가능 모델이 정해져 있고, 예산이 한도에 가까워지면 소형 모델로 자동 전환된다. 호출 비용은 사실상 실시간으로 기록돼 비용과 성과를 즉시 파악할 수 있다. 그는 “삼성이 베드록을 택한 이유는 관측 가능성과 보안"이라며 “누가 무엇을 쓰는지 알고, 삼성이 정한 기준 안에서 관리하기 위해서"라고 말했다.

그린 리더는 이 같은 방식이 에이전트 보안의 원칙이라고 강조했다. 그는 “통제 장치는 에이전트 안이 아니라 바깥에 둬야 한다"고 짚었다. 프롬프트에 적은 규칙은 오해되거나 조작될 수 있다는 이유에서다. 에이전트는 사용자의 권한 범위 안에서만 움직이고, 고위험 작업은 사람이 최종 승인해야 한다는 주장이다. 도입 방법론으로는 '배우고(Learn), 버리고(Unlearn), 도구를 다시 짜라(Retool)'는 3단계 모델을 제시했다. 개발자 30명이 12~18개월 걸릴 것으로 봤던 아마존 추론 레이어 재구축을 엔지니어 6명이 76일 만에 끝낸 사례를 근거로 들었다.

그린 리더는 삼성DS의 다음 단계로 “사내 챗봇과 에이전트를 같은 플랫폼으로 옮기는 것"을 꼽았다. 그러면서도 “삼성 개발자들이 만드는 부품이 전 세계 고객이 쓰는 기기에 들어가는 만큼, 통제와 측정이 확장의 전제"라고 말했다.

오프닝 기조연설을 맡은 리처드 호 오픈AI 하드웨어담당 부사장도 삼성전자의 전사 도입을 언급했다. 호 부사장은 “삼성 임직원들이 챗GPT 엔터프라이즈와 코덱스를 쓰게 됐다"며 “이제 과제는 접근권을 각 업무 환경에서 쓸모 있는 성과로 바꾸는 것"이라고 말했다. 이어 “업무 영역을 잘 아는 전문성이 실질적 경쟁력이 된다"고 덧붙였다.

반도체 설계에 에이전트를 쓴 사례도 공개했다. 오픈AI의 첫 자체 추론 칩 '할라피뇨'는 RTL(회로 설계 코드) 작성부터 테이프아웃(설계 완료 후 생산 이관)까지 약 9개월이 걸렸다. AI가 제안한 설계 변경안을 표준 EDA(전자설계자동화) 도구로 검증하는 과정을 반복했다. 그 결과 사람이 최적화한 기준 대비 행렬 연산 유닛 면적은 10%, SIMD(단일 명령 다중 데이터) 연산 유닛 면적은 8% 줄었다. 칩이 나온 뒤에는 에이전트로 소프트웨어 커널을 최적화해 성능을 초기 대비 약 287배 끌어올렸다. 호 부사장은 칩 구조를 설명하면서 고대역폭메모리(HBM)를 두고 “나와 이 자리의 많은 분들에게 각별한 것"이라고 했다.

다만 핵심 설계 판단은 사람이 쥐어야 한다는 게 호 부사장의 진단이다. 그는 할라피뇨 개발에서 연산·메모리 대역폭·네트워킹 간 자원 배분은 끝까지 엔지니어가 결정했다며 “제품이 어디로 가야 하는지에 대한 전략은 여전히 사람 손에 있어야 한다"고 말했다. 에이전트를 도입해도 성과는 따로 측정해야 한다고 지적했다.

피지컬 AI 분야 석학인 란제이 크리슈나 워싱턴대 교수는 로봇 두뇌에 거대 모델보다 소형 모델이 적합하다는 전략을 내놨다. 크리슈나 교수는 “거대 시각·언어모델은 클라우드 연산이 필수라 실시간 반응이 중요한 로봇 제어에는 부적합하다"고 말했다. 이어 “추론 과정을 학습 데이터로 바꿔 소형 모델에 증류하면 훨씬 적은 파라미터로도 고성능 로보틱스 AI를 구현할 수 있다"고 했다. 김윤형 삼성리서치 상무(MIT 교수 겸임)는 에이전트의 역량과 적용 범위를 넓히기 위한 차세대 '에이전틱 인텔리전스' 아키텍처 혁신 방안을 소개했다.

삼성전자는 이날 오후 세션을 DX·DS 2개 트랙으로 나눠 자체 연구 성과와 적용 사례를 공유했다. DX부문 'AI 테크놀로지' 트랙에서는 온디바이스 AI 최적화와 월드 모델·로봇 파운데이션 모델 연구 성과가 발표됐다. 출시 후 실사용 경험을 분석해 스스로 성능을 개선하는 '자가 진화 AI' 기술도 소개됐다. DS부문 'AX 이노베이션' 트랙에서는 DS부문 AX/PI센터가 반도체 설계·제조 전반에 AI를 적용한 사례를 공개했다. 델 테크놀로지스와 앤트로픽 등 파트너사는 AI 에이전트 업무 적용 방식을 발표했다.

전 부회장은 “에이전틱 AI는 단순한 기술 혁신을 넘어 일하는 방식과 조직 문화의 근본적인 변화를 가져올 것"이라며 “글로벌 AI 리더들과 함께 우리가 나아갈 방향을 모색하고 실질적인 AI 기술 혁신을 추진해 나갈 것"이라고 밝혔다.

김하나 기자 uno@ekn.kr