RTX PRO 6000 96GB
로컬 생성 AI의 천장을 실측하다
이미지 13장 · 영상 3편 · 케이팝 곡 1곡 · 117B급 언어모델 1개를 사내 GPU 노드 한 대에서 직접 돌렸다. 잘 되는 것과 안 되는 것을 가감 없이 그대로 기록한 실측 결과.
이미지 생성 — 4개 모델, 같은 GPU에서
같은 노드, 같은 프롬프트 계열. 모델을 바꾸자 속도·화질·한글 렌더링 결과가 크게 갈렸다. 카드 우상단 숫자는 실제 측정된 생성 시간이다.
FLUX.2-dev
32B · 파라미터 최상위 클래스
Krea 2
RedCraft · 2026년 오픈 모델 화제작
Z-Image Turbo
IntoRealism · 체크포인트
Illustrious
One obsession v23 체크포인트
영상 생성 — Wan 2.2 14B fp16
720p·5초 클립 한 편에 16.5분. 정지 이미지 대비 자릿수가 다른 연산량이 VRAM 82.2GB로 그대로 드러난다.
관절·리듬 일관성 실증
도심 항공뷰 카메라 워크
오픈소스 인물 표현 최강 실증
음악 생성 — ACE-Step 3.5B
95초 분량 케이팝 곡을 한국어 가사 포함으로 통째로 뽑아내는 데 걸린 시간, 12초.
생성 소요 12초 (한국어 가사 포함)
모델 ACE-Step 3.5B
한국어 가사가 실제로 노래에 얹혀 나온다 — 재생해서 직접 확인 (별도 가사 텍스트는 정확도 미검증으로 지면에 옮기지 않음)
LLM 추론 — gpt-oss-120b
117B MoE(Mixture-of-Experts, 필요한 전문가 서브네트워크만 골라 쓰는 구조) 모델을 통째로 GPU 메모리에 상주시킨 채 돌린 결과.
117B MoE · 96GB 중 59GiB만 써도 상주 가능 — 이미지·영상 워크로드와 동시 운용 여지가 남는다
왜 96GB인가
생성 AI 모델은 파라미터·활성값·캐시를 한꺼번에 VRAM에 올려야 돌아간다. 소비자용 24~32GB로는 아예 못 돌리는 조합이 있다는 뜻이다.
정직한 한계 — 안 되는 것도 그대로 기록한다
실측이라는 말에 책임을 지려면 성공 사례만큼 실패도 남겨야 한다.
FLUX.2 한글 렌더링 실패 — 06_hangul_neon 이미지에서 한글 오탈자 발생
Wan 2.2 랜드마크 부정확 — 서울 드론 샷에서 남산타워 형상 재현 실패
Civitai 갤러리 메타 API 미제공 — meta가 None으로 반환되어 제작자 권장 세팅을 수동 적용
Anima 아키텍처 비호환 — 동일 배치에서 실행 오류(exec) 확인
일부 리얼리즘 톱 모델 접근 제한 — 로그인 토큰이 필요해 이번 라운드에서 제외