Sawo0150의 블로그입니다.

팀 프로젝트 - 2024 SNU FastMRI Challenge 프로젝트

소개

본 프로젝트는 2024 SNU FastMRI Challenge의 일환으로, undersampled K-space 데이터를 기반으로 고해상도 MRI 이미지를 생성하는 모델을 개발하는 것입니다. 8GB GPU VRAM 제한을 고려해 모델 경량화 전략을 활용했으며, 최신 SOTA 모델인 PromptMR을 적용하여 높은 성능을 구현했습니다.

기간 / 인원, 역할

  • 대회 일정: 24.06 ~ 23.08.23
  • 인원: 3인 팀 프로젝트

Language / Tool (Library) / OS

  • Language: Python
  • Library/Tool: Pytorch
  • OS: Ubuntu 20.04 LTS, Jupiter Notebook server

HardWare

  • Ubuntu 22.04 Desktop (RTX 4070) - 개인 기숙사 컴퓨터
  • 주피터 노트북 서버 (GTX 1080) - 서울대 정보화본부 제공

결과

  • Leaderboaard 최종순위 : 10위/144팀 (수상X)image-20241110015053552

기타 정보

Base Model

image-20241110014248688

PromptMR 모델 적용

  • PromptMR 모델 구조:
    • Paper with Code 사이트를 통해 SOTA 모델을 Follow하여 프로젝트에 빠르게 적용시켰습니다.
    • MRI Reconstruction on fastMRI Knee Val 8x

    image-20241110014155214

사용한 Model 경량화 전략

1. Gradient Checkpointing – VRAM Memory

  • 기존 역전파 방법: 많은 가중치를 저장해야 하므로 높은 VRAM 메모리가 필요함.

  • Gradient Checkpointing 방법: 가중치를 저장하지 않고 네트워크 전파만으로 계산하여 VRAM 메모리 사용을 줄임.

    imgimg

2. Gradient Accumulation – VRAM memory

  • 효과: 배치 크기 감소로 메모리 절약 가능.

  • 설정: 배치 크기를 1로 설정하여 메모리 사용량 최소화.

    image-20241110014849885

3. Mixed precision Training – Arithmetic speed

  • FP16 시스템: 빠른 계산이 가능하지만, 역전파 시 오류가 발생할 수 있음.

  • 스케일링 사용: 데이터를 FP16 형식으로 저장하고, 계산은 FP32 형식으로 수행하여 빠른 연산과 오류 감소를 동시에 달성.

    image-20241110014921752

4. Sens_map – VRAM memory

  • 개선 방식:

    • 모든 코일 데이터를 한 번에 계산하는 방식(X)

  • 각 코일 이미지를 하나씩 추가하여 계산하는 방식(O)

    image-20241110014939208

전체 모델 설명 Video

최종 결과

  • Leaderboaard 최종순위 : 10위/144팀 (수상X)image-20241110015056658

댓글남기기

참고