한영선 교수는 시스템소프트웨어 기술을 활용하여 양자컴퓨터의 노이즈 문제를 해결하기 위한 양자오류저감 및 양자오류정정 연구를 수행하고 있으며, 금융, 바이오, 신소재 분야 양자머신러닝 기술을 연구하고 있다. 특히, 최근에는 양자-고전 하이브리드 최적화 컴파일러 개발에 주력하고 있으며, FTQC 환경에서의 대규모 양자컴퓨터용 소프트웨어 개발 환경, 비정형단백질 구조예측을 위한 NISQ 환경에서의 컴파일러 기반 양자오류저감 기술 등을 연구하고 있다.