UNIST 인공지능대학원 윤성환 교수팀은 고려대 전기전자공학부 김중헌 교수팀과 함께 큰 양자 신경망 안에 성능이 좋은 작은 회로가 존재한다는 ‘양자 강한 복권 가설’의 성립 조건을 밝히고, 이를 찾는 ‘큐 엣지팝업(Q-Edge-popup)’ 알고리즘을 개발했다고 18일 밝혔다.
강한 복권 가설은 무작위로 만든 큰 AI 신경망 안에 가중치를 바꾸지 않고 높은 성능을 내는 작은 신경망이 숨어 있다는 주장이다. 기존 AI 연구에서 나온 개념으로, 수많은 연결 조합 가운데 성능이 좋은 조합을 찾는 일을 ‘당첨 복권’ 찾기에 비유한 것이다.
연구팀은 양자 AI 회로에서도 이러한 작은 회로가 높은 확률로 존재할 수 있는 조건을 수학적으로 증명했다. 양자 신경망은 ‘양자 게이트’라는 기본 연산을 연결해 정보를 처리하는데, 게이트의 설정값을 바꾸지 않고 일부만 골라 남겨도 주어진 데이터에서 목표 출력에 가까운 결과를 낼 수 있는 조건을 찾아낸 것이다. 필요한 게이트만 남기면 연산 부담이 줄고, 연산 과정에서 잡음이 누적돼 정확도가 떨어지는 문제도 줄일 수 있다.
제1저자인 권홍균 연구원은 “모든 양자 회로에 성능 좋은 작은 회로가 항상 존재하는 것은 아니고 게이트 수가 충분하고 일정한 조건을 충족하는 경우에 성능 좋은 작은 회로가 높은 확률로 존재한다는 것을 증명한 것”이라고 설명했다.
이러한 작은 회로를 찾아내는 알고리즘인 큐 엣지팝업도 개발했다. 게이트의 설정값은 고정한 채 주어진 과제의 수행 성능을 바탕으로 각 게이트를 선택할 점수를 학습하고, 점수가 높은 게이트만 남기는 방식이다. 작은 회로를 찾은 뒤에는 남겨진 게이트의 설정값을 조정하는 학습을 통해 추가적으로 성능을 높일 수도 있다.
게이트를 줄이면서 잡음의 영향도 줄일 수 있었다. 큐 엣지팝업으로 회전 게이트를 25%만 남긴 회로는 잡음이 있어도 숫자를 구분하는 능력이 거의 떨어지지 않았다. 정확도는 잡음이 없을 때 76.2%, 있을 때 74.7%였다. 반면 모든 게이트를 사용한 전체 회로는 같은 잡음 조건에서 정확도가 81.3%에서 10.0%로 크게 떨어졌다. 추가 학습을 마친 회로에 여러 종류의 잡음을 함께 적용해 비교한 결과다.
윤성환 교수는 “양자 신경망은 게이트가 많아질수록 잡음이 누적될 수 있어, 게이트로 숫자를 줄이면서도 유용한 성능을 내는 회로를 찾는 것이 중요하다”며 “이번 연구는 성능을 최대한 유지하면서 연산 부담과 잡음에 따른 성능 저하를 줄일 수 있는 양자 AI 모델 개발에 도움이 될 수 있을 것”이라고 말했다.
연구는 ‘ACM 국제 정보·지식관리 학술대회(ACM International Conference on Information and Knowledge Management, CIKM 2026)’에 채택됐다. 올해 학회는 11월 7일부터 11일까지 이탈리아 로마에서 개최됐다.
연구 수행은 과학기술정보통신부의 재원 한국연구재단(NRF)의 ‘중견연구사업’및 정보통신기획평가원(IITP) ‘인공지능대학원지원사업’, ‘AI 스타펠로우십사업’, ‘지역지능화혁신인재양성사업’의 지원을 받았다.
