글로벌 테크 시장에서 가장 주목받는 기술 두 가지를 꼽는다면 단연 ‘인공지능’과 ‘양자 컴퓨팅’이다. AI는 이미 잘 알려진 것처럼 인간의 인지, 추론, 판단 등의 능력을 컴퓨터가 구현하는 기술이다. 양자 컴퓨팅은 보통 사람이 생각할 수 없는 방법을 사용해서 빛의 속도로 문제를 푸는 기술로 보면 된다. 이 둘이 만나면 아주 새로운 방법으로 정말 스마트한 해법을 얻을 수 있지 않을까.

AI는 불과 수십 년 전에는 상상할 수 없었던 정확도로 데이터를 분석하고 있다. 또한 패턴을 인식·예측할 수 있는 도구와 알고리즘을 통해 최근 몇 년간 급속도로 발전하고 있다. 

생성 AI는 대규모 언어 모델(LLM)을 기반으로 새로운 내용을 계속 학습하며 점점 더 똑똑해져 간다. 텍스트와 이미지, 음악, 영상 등을 마치 사람처럼 새롭게 만들고 편집하는 수준까지 발전하고 있다. 기존 데이터를 학습한 후에 명령어(프롬프트)에 따라 새로운 창작물을 만든다.

현재 AI 도구는 접근성이 뛰어나고 실용적이다. 단돈 2만 9천원만 내면 챗GPT 구독 버전을 사용할 수 있다. 심지어 이런 AI는 모든 사람이 쓰고 있는 컴퓨터와 노트북에서 작동될 수 있다. AI가 더 강력한 컴퓨팅 파워를 지니게 된다면 어떻게 될까.

기존 컴퓨팅을 압도하는 양자 컴퓨팅

양자 컴퓨팅은 이전에 우리가 사용하던일반 컴퓨터처럼 연산하지 않는다. 완전히 새로운 방식을 적용한다. 따라서 양자 컴퓨터는 기존 컴퓨터가 풀 수 없는 복잡한 통계 문제를 해결할 것으로 기대된다. 

글로벌 컨설팅기업 맥킨지는 ‘양자 컴퓨팅’을 차세대 기술 트렌드로 정의하면서 양자 컴퓨팅이 2035년까지 1조 3천억 달러 시장을 만들 것이라고 예측했다. 

양자 컴퓨터는 양자 비트, 일명 ‘큐비트’(qubit)를 사용해 우리가 상상할 수 없는 속도로 방대한 양의 데이터를 처리한다. 노트북이나 스마트폰을 구동하는 기존 컴퓨팅은 0 또는 1을 저장할 수 있는 정보 단위를 사용한다. 양자 컴퓨팅은 0과 1을 저장할 수 있는 큐비트를 기반으로 만들어졌다. 하지만 큐비트는 0과 1의 모든 조합을 동시에 나타낼 수 있는데, 이를 중첩이라고 한다. 

기존 컴퓨터는 변수가 변경될 때마다 새로운 계산을 수행한다. 각 계산은 단일 경로에서 단일한 결과로 보여진다. 이와 달리 양자 컴퓨터는 작업 공간이 넓다. 동시에 다양한 경로를 탐색할 수 있다. 

이처럼 양자 컴퓨터는 복잡한 입력과 연결을 관리할 수 있어 기존 컴퓨터보다 효율적이다. 양자 컴퓨팅은 컴퓨터 과학, 물리학, 수학을 통합하여 복잡한 문제를 일반 컴퓨터보다 빠르게 해결한다. 특정 문제를 해결하기 위해 일관성 및 양자 간섭과 같은 양자역학 프로세스를 사용한다. 양자 컴퓨터는 최신 슈퍼 컴퓨터보다 10배 더 큰 데이터 처리와 저장용량을 제공한다. 따라서 A I에 양자 컴퓨팅을 결합하면 방대한 양의 데이터를 순식간에 학습해 지금보다 훨씬 더 창의적인 결과물을 내놓는 일이 가능하다. 의학, 금융 등 특정 산업 분야에서 근시일 내 적용되어, 효과를 볼 것으로 기대된다. 

기대되는 머신러닝 분야

기존 컴퓨팅 방법은 돋보기를 사용해 각 퍼즐 조각을 개별적으로 검사하는 것처럼 시간이 오래 걸린다. 반면 양자 컴퓨팅과 인공지능의 결합은 마치 고성능 렌즈를 착용하는 것과 같다. 한 번에 퍼즐 전체를 살펴볼 수 있는 것이다. 100만 피스의 퍼즐을 한 번에 맞출 수 있다고 생각하면 이해가 쉽다. 이전에 없던 속도와 효율성으로 데이터의 패턴과 연결을 볼 수 있다.

양자 컴퓨터는 기존 컴퓨터보다 기하급수적으로 빠르게 문제를 해결할 수 있다. 특히 복잡한 최적화, 모델링 및 머신러닝 작업과 관련된 알고리즘을 빠르게 돌릴 수 있다. 양자 병렬 처리를 통해 수많은 대안을 동시에 검토하며 거대한 데이터 세트를 처리한다. 

또한 양자 컴퓨팅은 탁월한 정밀도로 분자 상호작용을 시뮬레이션할 수 있다. 연구자는 이를 활용해 잠재적인 화합물을 식별하고 질병 치료가 가능한 약물을 발견할 수 있다. 금융 산업 역시 복잡한 계산과 시뮬레이션이 필요한 분야다. 양자 컴퓨터는 투자 포트폴리오, 위험 평가, 사기 탐지를 최적화하는 영역에도 사용될 수 있다. 

양자 컴퓨팅은 머신러닝 모델을 향상시킬 수 있는 잠재력도 가진다. 양자 머신러닝(Quantum Machine Learning)은 양자 컴퓨팅과 AI를 결합한 하위분야인데, 전통적인 머신러닝 방법과 양자 컴퓨팅 기술을 결합하여 새로운 접근 방식을 제시한다. 양자 컴퓨팅의 특성을 활용하여 데이터를 처리하고 모델 학습을 수행해 기존 한계를 뛰어넘는 결과를 얻을 수 있다. 

기계가 학습할 수 있는 한계는 항상 알고리즘을 실행하는 컴퓨터 하드웨어에 종속된다. 예를 들어 신경망을 사용한 현재 딥 러닝의 성공은 병렬 GPU 클러스터가 개발되며 가능해졌다. 양자 머신러닝은 완전히 새로운 유형의 컴퓨팅 장치인 양자 컴퓨터로 하드웨어를 확장한다.

전통적인 머신러닝은 데이터를 처리하고 모델을 학습시키는 데에 사용되는데, 이 과정에서 많은 계산이 필요하다. 특히 복잡한 문제를 다룰 때에는 대규모의 데이터와 연산이 필요하여 처리 속도와 정확도가 제한될 수 있다. 

양자 머신러닝은 이러한 문제를 해결하기 위해 양자 컴퓨팅의 특성을 활용하는 것이다. 양자 비트 또는 큐비트라는 개념을 사용하여 정보를 저장하고 처리하는 것이다. 이는 전통적인 이진법 비트, 즉 0과 1만을 가지는 것과 달리 다양한 상태를 가질 수 있다. 이를 통해 양자 컴퓨터는 병렬 처리와 동시에 다양한 가능성을 탐색하는 능력을 가지게 되는 것이다. 

머신러닝 시스템은 양자 컴퓨팅과 결합해 더 빠르게 학습하고 적응할 수 있어 이미지 인식과 자연어 처리 등의 작업에 능숙해진다. 지금보다 훨씬 정교하고 풍부한 새로운 저작물 생성이 가능해진다. 뿐만 아니라 AI는 경로 계획, 자원 할당 등 최적화 문제를 다루는 경우가 많은데, 양자 머신러닝은 이러한 문제를 더 효율적으로 해결해 의사 결정 속도를 빠르게 한다.

과제와 한계

두 기술의 결합은 AI와 양자 컴퓨팅 모두에서 상당한 발전이 필요한 복잡한 분야다. 따라서 언제 의미 있게 현실화되고, 상용화될지 정확히 예측하기 어렵다. 일부 전문가들은 향후 5~10년 내에 AI 양자 컴퓨팅의 첫 번째 실제 적용 사례를 볼 수 있을 것으로 전망한다. 하지만 현재의 양자 컴퓨팅은 아직까지 실험실 수준에서 이루어지고 있으며, 대규모로 확장하고 안정화하는 데에는 기술적인 한계가 있다. 아직 초기 단계로 이를 구축하고 유지하는 것은 복잡하고 비용이 많이 든다. 

이 문제를 해결하지 못할 경우, 양자 컴퓨터는 소수의 핵심 기업만 운영하는 비싸고 복잡한 기계가 될 수도 있다. 맥킨지는 2030년까지 약 5천 대의 양자 컴퓨터만이 운영될 것으로 추정한다. 

양자 컴퓨팅이 실용성을 갖추려면, 우선 안정성과 신뢰성을 높여야 한다. 양자 컴퓨터는 환경적 요인으로 인해 오류가 발생하기 쉽다. 양자 기반 AI 시스템의 신뢰성을 보장하려면 강력한 오류 수정 기술 개발이 선행돼야 한다. 

또한 양자 컴퓨팅에서 AI를 활용하기 위해서는 새로운 양자 알고리즘이 개발돼야 한다. 현재의 전통적인 AI 알고리즘을 양자 컴퓨팅에 적용하는 것은 쉽지 않을 수 있다. 양자 컴퓨팅은 매우 민감한 데이터를 처리하고 보안 문제를 해결하는 데 사용될 수 있다. 그러나 이러한 기술의 발전은 동시에 보안과 개인 정보 보호에 대한 새로운 위협을 제기할 수 있다.