윤성환 교수(좌측)와 권홍균 연구원. UNIST 제공
윤성환 교수(좌측)와 권홍균 연구원. UNIST 제공
복잡한 양자 인공지능(AI)의 회로에서 성능이 뛰어난 일부만을 골라 남겨 계산 부담과 잡음에 따른 성능 저하를 줄일 수 있음을 보여주는 연구 결과가 나왔다.

UNIST 인공지능대학원 윤성환 교수팀은 고려대 전기전자공학부 김중헌 교수팀과 함께 큰 양자 신경망 안에 성능이 좋은 작은 회로가 존재한다는 ‘양자 강한 복권 가설’의 성립 조건을 밝히고, 이를 찾는 ‘큐 엣지팝업(Q-Edge-popup)’ 알고리즘을 개발했다고 18일 밝혔다.

강한 복권 가설은 무작위로 만든 큰 AI 신경망 안에 가중치를 바꾸지 않고 높은 성능을 내는 작은 신경망이 숨어 있다는 주장이다. 기존 AI 연구에서 나온 개념으로, 수많은 연결 조합 가운데 성능이 좋은 조합을 찾는 일을 ‘당첨 복권’ 찾기에 비유한 것이다.

연구팀은 양자 AI 회로에서도 이러한 작은 회로가 높은 확률로 존재할 수 있는 조건을 수학적으로 증명했다. 양자 신경망은 ‘양자 게이트’라는 기본 연산을 연결해 정보를 처리하는데, 게이트의 설정값을 바꾸지 않고 일부만 골라 남겨도 주어진 데이터에서 목표 출력에 가까운 결과를 낼 수 있는 조건을 찾아낸 것이다. 필요한 게이트만 남기면 연산 부담이 줄고, 연산 과정에서 잡음이 누적돼 정확도가 떨어지는 문제도 줄일 수 있다.

제1저자인 권홍균 연구원은 “모든 양자 회로에 성능 좋은 작은 회로가 항상 존재하는 것은 아니고 게이트 수가 충분하고 일정한 조건을 충족하는 경우에 성능 좋은 작은 회로가 높은 확률로 존재한다는 것을 증명한 것”이라고 설명했다.

이러한 작은 회로를 찾아내는 알고리즘인 큐 엣지팝업도 개발했다. 게이트의 설정값은 고정한 채 주어진 과제의 수행 성능을 바탕으로 각 게이트를 선택할 점수를 학습하고, 점수가 높은 게이트만 남기는 방식이다. 작은 회로를 찾은 뒤에는 남겨진 게이트의 설정값을 조정하는 학습을 통해 추가적으로 성능을 높일 수도 있다.

회로 경량화를 통한 양자신경망의 잡음 안정성 개선을 보여주는 연구그림. UNIST
회로 경량화를 통한 양자신경망의 잡음 안정성 개선을 보여주는 연구그림. UNIST
큐 엣지팝업을 적용해 손글씨 숫자 이미지를 구분하는 컴퓨터 시뮬레이션 결과, 게이트 일부만으로도 높은 분류 성능을 낼 수 있었다. 회전 게이트 3,840개로 구성된 양자 신경망의 게이트를 절반만 남기고도, 설정값을 바꾸지 않은 상태에서 약 75.2%의 분류 정확도를 기록한 것이다. 선택된 게이트의 설정값을 추가로 학습하자 정확도는 79.4%로 높아져, 모든 게이트를 학습한 전체 회로의 81.3%에 근접했다.

게이트를 줄이면서 잡음의 영향도 줄일 수 있었다. 큐 엣지팝업으로 회전 게이트를 25%만 남긴 회로는 잡음이 있어도 숫자를 구분하는 능력이 거의 떨어지지 않았다. 정확도는 잡음이 없을 때 76.2%, 있을 때 74.7%였다. 반면 모든 게이트를 사용한 전체 회로는 같은 잡음 조건에서 정확도가 81.3%에서 10.0%로 크게 떨어졌다. 추가 학습을 마친 회로에 여러 종류의 잡음을 함께 적용해 비교한 결과다.

윤성환 교수는 “양자 신경망은 게이트가 많아질수록 잡음이 누적될 수 있어, 게이트로 숫자를 줄이면서도 유용한 성능을 내는 회로를 찾는 것이 중요하다”며 “이번 연구는 성능을 최대한 유지하면서 연산 부담과 잡음에 따른 성능 저하를 줄일 수 있는 양자 AI 모델 개발에 도움이 될 수 있을 것”이라고 말했다.

연구는 ‘ACM 국제 정보·지식관리 학술대회(ACM International Conference on Information and Knowledge Management, CIKM 2026)’에 채택됐다. 올해 학회는 11월 7일부터 11일까지 이탈리아 로마에서 개최됐다.

연구 수행은 과학기술정보통신부의 재원 한국연구재단(NRF)의 ‘중견연구사업’및 정보통신기획평가원(IITP) ‘인공지능대학원지원사업’, ‘AI 스타펠로우십사업’, ‘지역지능화혁신인재양성사업’의 지원을 받았다.

저작권자 © 울산매일 - 울산최초, 최고의 조간신문 무단전재 및 재배포 금지