자기지도학습을 통한 세포 형태 분석의 혁신: 신약 개발 스크리닝 정확도 향상과 범용성 입증

고함량 이미징 (HCI) 과 세포 페인팅은 화합물이나 유전자 조작에 의한 세포의 형태 변화를 가시화하여 신약 후보의 히트 식별 및 작용 기전 (MoA) 규명에 필수적인 기술입니다. 그러나 기존의 분석 기법인 CellProfiler 는 세포 분할 (segmentation) 과 수동 설계된 특징량 추출에 의존하여 처리의 비효율성, 편향 위험, 확장성 한계라는 과제를 안고 있었습니다. 한편, 지도학습 모델은 라벨 데이터 부족으로 인해 일반화 성능이 제한되는 경향이 있었습니다.

본 연구는 JUMP-CP 데이터셋 (약 11 만 9 천 화합물, 177 만 이미지) 의 전체 미주석 데이터를 사용하여 학습된 자기지도학습 (SSL) 기반 기초 모델 (DINO, MAE, DINOv2) 을 대규모로 평가했습니다. 그 결과, 최상위 성능을 보인 SSL 모델은 화합물의 재현성 검색 및 작용 기전 규명에서 기존 CellProfiler 를 능가하는 성능을 입증했습니다. 특히 DINO 와 DINOv2 는 서로 다른 실험 배치 및 세포 종류 간에 뛰어난 일반화 능력을 보이며, 라벨 없이도 생물학적으로 의미 있는 특징을 학습할 수 있음을 증명했습니다.

연구에서는 대조 학습 (DINO), 마스크 기반 생성 학습 (MAE, iTPN), 그리고 하이브리드 학습 (DINOv2) 의 3 가지 주요 SSL 메커니즘을 비교 평가했습니다. 모델은 미주석 화학적 교란 데이터로 사전 학습된 후, 라벨이 있는 데이터셋 (JUMP-Target2, EU-OPENSCREEN 등) 을 사용하여 제로샷 또는 퓨샷 학습으로 평가되었습니다.

• 세포 분할 및 수동 특징량 추출 없이 생 이미지에서 직접 특징 표현을 학습하는 엔드 투 엔드 파이프라인 구축.
• 배치 효과 감소를 위해 sphering, MAD 정규화, Harmony 를 결합한 후처리 전략 최적화.
• 다양한 세포주 (MCF-7, HepG2, U2OS 등) 와 실험 사이트 간 모델의 견고성과 일반화 능력 검증.

이 연구는 신약 개발 프로세스에서 고함량 스크리닝의 효율화에 큰 시사점을 제공합니다. 라벨링된 데이터가 부족한 초기 단계 스크리닝이나 신규 화합물의 작용 기전 예측에서, DINOv2 와 같은 SSL 모델은 기존 기법보다 높은 정확도로 화합물을 클러스터링하고 생물학적으로 관련된 신호를 추출할 수 있습니다. 이를 통해 고처리량 신약 파이프라인 내 히트 선정 정확도 향상 및 독성 예측 조기화가 기대됩니다.

본 논문에서 입증된 고급 이미지 분석 기술은 Cyagen 이 제공하는 다양한 세포 모델 및 유전자 편집 모델 평가에 활용 가능합니다. 특히 유전자 녹아웃 (ALB 인간화 마우스 모델) 또는 녹인 (HTT 인간화 마우스 모델) 모델에서의 세포 수준 표현형 변화를 기존 기법보다 민감하고 객관적으로 검출하는 도구로 활용될 수 있습니다. 또한, CRO 서비스 내 전임상 연구 데이터 분석 기반으로 AI 기반 형태 프로파일링을 도입하면 연구의 재현성과 신뢰성을 크게 향상시킬 수 있습니다.

본 연구는 자기지도학습이 세포 형태 프로파일링의 새로운 표준이 될 수 있음을 보였습니다. 라벨 없이 학습 가능한 기초 모델은 신약 연구의 데이터 분석 병목 현상을 해소하고, 더 효율적이고 고정밀한 화합물 스크리닝을 실현합니다. 향후 이 기술과 고품질 세포 모델 및 전임상 평가 서비스의 연계가 신약 개발 가속화에 필수적입니다.