AI, 물질 발굴 넘어 IND까지···"신약개발 판단 방식 통째로 바꾼다"

양자컴퓨팅, 시뮬레이션·최적화·머신러닝 잇는 '특화 모듈'로 결합

신영근 교수 "신약개발 난제 풀 '점쟁이'···화합물군별 로컬 모델 유효"

규제 대응도 생성형 AI 접목···"단순 결과보다 검증 근거와 판단 과정 남겨야"

경기도 성남시 판교 차바이오 컴플렉스에서 17일 열린 ODC26 오전 세션 참여자들이 기념촬영을 하고 있다. 사진=이병현 기자

AI와 양자컴퓨팅이 후보물질 탐색 단계를 넘어 약동학 예측, 비임상시험 설계, 임상시험계획(IND) 제출 자료 준비까지 신약개발 전주기로 보폭을 넓히고 있다. 양질의 대규모 데이터를 확보하기까지 막대한 비용과 시간이 소요되는 바이오산업 특성상, AI를 단순한 '결과 도출기'가 아닌 '판단 근거를 체계화하고 한정된 데이터를 연결하는 도구'로 활용해야 한다는 제언이 나왔다.

17일 경기도 성남시 판교 차바이오컴플렉스에서 열린 오가노이드 디벨로퍼 컨퍼런스(ODC26) 'AI가 이끄는 바이오테크의 미래' 세션에서는 박경덕 연세대 응용통계학과 교수, 신영근 충남대 약학대학 교수, 타일러 리 케이론 부사장이 연사로 나서 양자컴퓨팅과 AI의 바이오 R&D 접목 가능성과 실무적 당면 과제를 짚었다.

박경덕 연세대학교 응용통계학과 교수가 17일 경기도 성남 판교 차바이오컴플렉스에서 열린 ODC 2026에서 발표하고 있다. 사진=이병현 기자

박경덕 교수는 양자컴퓨팅을 기존 고전 컴퓨팅이나 범용 AI를 완전히 대체하는 기술이 아니라, 고난도 연산이 집중되는 특정 영역에 맞물리는 '하이브리드 특화 모듈'로 규정했다. 활용 영역은 크게 ▲분자 시뮬레이션 ▲조합 최적화 ▲머신러닝의 세 축으로 나뉜다.

박 교수는 "바이오엔지니어링 워크플로 전반은 여전히 기존 컴퓨팅 체계가 담당하겠지만, 양자컴퓨팅은 특정 난제를 해결하는 정밀하고 강력한 연산 도구로 자리 잡을 것"이라고 짚었다. 분자의 최소 에너지 상태를 계산하는 시뮬레이션이나, 복잡한 제약조건 속에서 최적의 분자 설계를 도출하는 거대 탐색 영역에 강점이 있다는 분석이다.

실제 연구진은 고전 컴퓨팅과 양자컴퓨팅을 결합한 하이브리드 알고리즘으로 분자 에너지 상태를 계산하고, SARS-CoV-2 스파이크 단백질처럼 막대한 조합을 계산해야 하는 코돈 최적화(Codon Optimization)와 리간드 기반 가상 스크리닝 등에 양자 기법을 시험 적용했다.

특히 바이오 분야 특유의 '작은 데이터(Small Data)' 한계를 극복할 대안으로 양자 머신러닝을 지목했다. 박 교수는 246개의 제한된 실험 데이터와 39개 특성을 활용한 예측 모델을 제시하며 "양자 알고리즘은 극도로 제한된 데이터 환경에서 기존 머신러닝 기법의 한계를 보완할 수 있다"며 "향후 목표 물성을 먼저 설정한 뒤 그에 부합하는 구조를 생성해내는 '역설계(Inverse Design)' 영역으로 확장이 가속화될 것"이라고 내다봤다.

신영근 충남대학교 약학대학 약학과 교수가 17일 경기도 성남 판교 차바이오컴플렉스에서 열린 ODC 2026에서 발표하고 있다. 사진=이병현 기자

신영근 교수는 AI를 신약개발의 시행착오를 선제적으로 줄이는 실무형 예측 도구로 제시했다. 신약 후보물질 선별 시 약효뿐만 아니라 흡수·분포·대사·배설(ADME)과 약동학(PK) 프로파일을 종합적으로 동시 최적화해야 하는데, 전통 방식은 막대한 시간과 비용이 소모된다.

신 교수는 오가노이드(장기유사체) 기반 데이터와 머신러닝 예측 모델을 결합하면 동물실험 의존도를 획기적으로 낮추면서 개발 기간을 단축할 수 있다고 봤다.

신 교수는 이를 '점쟁이(fortune teller)'에 빗대어 설명했다. 그는 "신약개발 현장에서 가장 절실한 것은 10년 뒤 블록버스터가 될 약물의 구조를 지금 짚어줄 수 있는 점쟁이의 존재"라며 "현실에 그런 존재가 없다면 그 역할을 가장 근접하게 수행할 수 있는 실무적 수단이 바로 AI"라고 말했다.

다만 만능형 거대 단일 모델에 의존하기보다는, 특정 모핵 중심의 사내 데이터를 기반으로 한 '로컬 특화 모델' 구축이 현실적이라고 강조했다. 글로벌 빅파마가 특정 화합물군에 맞춤형 모델을 적용해 예측력을 높이듯, 표적 스캐폴드(Scaffold)별로 세분화된 모델을 설계해야 현업에서 실효성을 발휘한다는 설명이다.

AI의 쓰임새는 인허가 규제 대응 영역으로도 빠르게 확산하고 있다. 신 교수는 항체약물접합체(ADC)와 같은 복합 모달리티 의약품의 IND 패키지를 준비할 때 규제 가이드라인과 기존 허가 선례를 AI로 추출·분석하는 프로세스를 제시했다. 직접 비임상 데이터 패키지 구성을 시험 질의한 결과, 관련 규제 요건과 독성·PK 평가 항목이 실제 미국 식품의약국(FDA) 제출 기준에 준하는 수준으로 체계화됐다는 점을 강조했다.

타일러 리(Tyler Lee) 케이론 부사장(VP)이 17일 경기도 성남 판교 차바이오컴플렉스에서 열린 ODC 2026에서 'AI가 이끄는 바이오테크의 미래' 세션을 진행하고 있다. 사진=이병현 기자

타일러 리 부사장은 AI가 생성한 최종 결과물보다 그 판단에 도달하기까지의 '데이터 추적성(Traceability)'과 '무결성 체계'를 확립하는 데 방점을 찍었다. 데이터 확보가 어렵고 정제 비용이 큰 바이오 분야일수록 선행 실험 데이터와 규제 데이터가 사내에 재사용 가능한 규격으로 축적되어야 한다는 지적이다.

리 부사장은 "근거를 만드는 작업 자체보다 이를 자산화해 축적하는 프로세스에서 실패하는 경우가 많다"며 "한정된 데이터로 내린 전문가의 판단 이력을 재가공 가능한 형태로 보존하지 못하는 것이 업계의 공통적 맹점"이라고 꼬집었다.

생성형 AI의 고질적 난제인 환각(Hallucination)과 출처 왜곡을 방지하기 위해서도 체계적 검증 파이프라인이 필수적이다. AI가 원천 실험 데이터와 근거 문헌, 규제 항목, 초안 문장을 1대 1로 정밀하게 매핑하도록 설계하고, '입증 데이터 부재' 상태를 명확히 고지하도록 해야 규제 당국의 신뢰를 얻을 수 있다는 것이다.

아울러 AI가 판단에 개입한 비중과 오류 발생 시의 파급력까지 감사 로그 형태로 관리해야 한다는 기준을 제시했다.

이날 세션 참가자들은 AI와 인간 전문가 사이의 명확한 역할 분담을 최종 과제로 꼽았다. 특히 AI는 규제 선례 분석과 제출 서류 초안 등 데이터 집약적 작업을 효율화하되, 데이터의 과학적 타당성 검증과 추가 시험 여부 결정, 최종 제출 승인은 전문 연구진의 검증 영역으로 엄격히 남겨야 한다는 데 의견을 모았다.