동형암호 가속화 기술 ‘Cheddar’ 개발... 데이터 보안의 신기원 열어

-- 컴퓨터 구조 및 시스템 분야 최상위 국제학술대회 ‘ASPLOS 2026’ 채택 --

[연구필요성]

동형암호(Homomorphic Encryption, HE)는 데이터를 암호화된 상태에서 연산할 수 있어 차세대 보안 기술로 주목받고 있으나, 막대한 연산량과 메모리 오버헤드로 인한 성능 저하가 실용화의 고질적 걸림돌로 작용해 왔다.

[연구성과/기대효과]

서울대 안정호 교수 연구팀은 GPU 아키텍처를 극한으로 활용하는 ‘Cheddar’ 라이브러리를 개발, 기존 세계 최고 수준 기술 대비 연산 속도를 2.18~4.45배 향상시켰다. 특히 최신 NVIDIA RTX 5090 GPU 환경에서 딥러닝 모델(ResNet-20)의 추론을 0.72초 만에 수행하며 실시간 암호화 연산 서비스의 가능성을 입증했다.

[본문]

서울대학교 안정호 교수(융합과학기술대학원 지능정보융합학과/공과대학 협동과정 인공지능 전공) 연구팀이 동형암호의 연산 속도를 획기적으로 개선한 초고속 GPU 라이브러리 ‘Cheddar’를 개발했다.

동형암호는 데이터 복호화 과정 없이 암호화된 상태에서 직접 연산을 수행할 수 있어, 의료·금융 등 민감 데이터를 다루는 AI 서비스를 위해 핵심적인 차세대 보안 기술로 평가받는다.

그러나 일반 연산 대비 수만 배 이상 느린 속도와 막대한 메모리 사용량이 실제 산업 현장 도입의 주요 한계점으로 지적되어 왔다.

안정호 교수 연구팀의 최원석 학생(서울대학교 융합과학기술대학원 지능정보융합학과, 공동 제1저자)과 김종민 학생(서울대학교 공과대학 협동과정 인공지능 전공, 공동 제1저자)은 GPU 하드웨어 아키텍처를 심층 분석하여 동형암호 연산에 최적화된 새로운 수 체계와 메모리 관리 기법을 고안, 성능 병목을 정면으로 돌파했다.

[연구결과]

Cheddar: A Swift Fully Homomorphic Encryption Library Designed for GPU Architectures


Wonseok Choi, Jongmin Kim, Jung Ho Ahn

(ASPLOS 2026, https://doi.org/10.1145/3760250.3762223)

연구팀이 개발한 ‘Cheddar’는 기존 GPU 기반 기술 중 가장 빠른 속도를 자랑하던 ‘WarpDrive’ 대비 최대 4.45배의 성능 향상을 기록했다.

특히 최신 GPU인 NVIDIA RTX 5090을 사용할 경우, 암호화된 이미지 데이터를 인식하는 딥러닝 추론 과정을 1초 미만인 0.72초 만에 완료하는 성과를 거두었다.

이번 연구 성과는 컴퓨터 구조 및 시스템 분야 세계 최고 권위의 국제학술대회인 ‘ACM International Conference on Architectural Support for Programming Languages and Operating Systems (ASPLOS) 2026’(미국 피츠버그 개최)에서 오는 3월 22일 발표될 예정이다.

해당 연구는 정식 발표 전임에도 불구하고 arXiv를 통해 공개된 프리프린트(preprint)가 Google Scholar 기준 30회 이상의 피인용 수를 기록하는 등, 학계에서는 이미 ‘동형암호 가속화의 새로운 기준’으로 공인받고 있다.

교신저자인 안정호 교수는 “이번 연구는 동형암호가 이론적 논의를 넘어 고성능 컴퓨팅 환경에서 실용적으로 활용될 수 있음을 증명했다는 데 의의가 있다”며, “연구 결과물인 라이브러리 소스코드는 학술대회 개최와 동시에 전 세계에 공개해 보안 컴퓨팅 산업 생태계 발전에 기여할 것”이라고 강조했다.

[그림설명]

‘Cheddar’ 라이브러리 구조, 핵심이 되는 core module, 동형암호의 재부팅(bootstrapping) 연산을 담당하는 boot module, deep neural network (DNN) 지원을 위한 DNN module 등으로 구성되어 있다.