UNIST, 에이전틱 AI 보안 원천기술 개발 나선다…110억 국비 확보
판단부터 실행까지 전 과정 보안 2031년까지 다중 방어체계 개발 기업 실제 서비스에 적용·검증
2026-09-20 신섬미 기자
UNIST는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 ‘2026년도 AI최고급신진연구자지원 사업(AI 스타 펠로우십)’ 학제연계형 과제에 선정됐다.
AI 스타 펠로우십은 세계 최고 수준의 AI 연구를 이끌 신진연구자를 키우기 위해 과기정통부가 지난해 시작한 사업이다.
연구팀은 성균관대(박은일·황성재·김형식 교수) 및 보안 전문기업(시큐레이어, S2W, 라온데이터)과 컨소시엄을 구성해 2031년 12월까지 5년 6개월간 총 110억원의 정부지원금을 받아 2개 과제를 수행한다.
이번 연구는 에이전틱 AI가 외부 공격으로 인해 정보를 유출하거나 무단 작업을 수행하는 위험을 차단하는 데 목적을 둔다. AI의 판단부터 실행까지 단계별 방어 장치를 연계하는 것이 핵심이다.
문현곤 컴퓨터공학과 교수가 연구책임자를 맡아 AI의 판단부터 실행까지 전 과정을 아우르는 ‘계층 간 안전 공동설계’ 방식을 적용할 계획이다.
연구팀은 모델, 인터페이스, 실행환경 등 각 단계의 안전장치를 통합 설계해 한 계층이 뚫리더라도 다음 계층에서 공격을 방어하는 다중 보안 체계를 구축한다. 개발된 기술은 협력기업의 실제 서비스에 적용해 검증할 예정이다.
문현곤 교수는 “에이전틱 AI는 입력 경로부터 실행환경까지 함께 보호해야 안전하다”라며 “핵심 보안 기술을 개발하는 동시에 이를 안전하게 활용하는데 기여할 인재 양성에도 힘쓰겠다”라고 말했다.