연구실 NAS AI 스토리지 구축 가이드 6단계 — GPU 서버 연동부터 RAG까지

대학교 연구실에서 NAS를 처음 도입할 때 대부분의 목적은 파일 서버입니다. 그런데 최근 LLM과 AI 활용이 늘면서 연구실 NAS AI 스토리지로서의 역할이 주목받고 있습니다. 논문 데이터와 실험 결과뿐 아니라 모델 가중치, 벡터DB, 학습 데이터셋까지 중앙에서 관리해야 하는 시대가 된 것입니다.

클라우드 GPU 비용은 예산을 넘기고, 데이터를 외부로 보내기 어려운 경우도 많습니다. 이때 GPU 서버가 AI 추론을 처리하고, NAS가 모든 데이터의 중앙 저장소 역할을 하는 구조가 답이 될 수 있습니다. 이 글에서는 연구실 NAS AI 스토리지 구축에 필요한 하드웨어 선택, 볼륨 설계, RAG 활용까지 6단계로 정리합니다.

연구실 NAS AI 스토리지가 필요한 이유

  • 개인 외장하드에 데이터가 분산되어 있어 졸업 후 사라집니다.
  • 공용 PC의 특정 폴더에 데이터가 쌓이다가 포맷 한 번에 날아갑니다.
  • Google Drive·OneDrive 무료 용량을 넘기면 개인 결제로 이어집니다.
  • LLM 모델 파일(수십 GB)을 여러 연구원이 각자 다운로드해 저장 공간을 낭비합니다.
  • RAG용 벡터DB가 로컬 노트북에만 있어 다른 사람이 재현할 수 없습니다.
  • GPU 서버를 교체하거나 포맷하면 모델과 데이터를 처음부터 다시 세팅해야 합니다.

NAS 한 대로 이 문제 대부분을 정리할 수 있습니다. 핵심은 AI 추론은 GPU 서버가 담당하고, 모든 영속 데이터는 NAS에 저장하는 구조를 처음부터 설계하는 것입니다.

GPU 서버 + NAS 분리 구조

이 글에서 다루는 구조의 핵심을 먼저 정리하겠습니다.

역할담당 장비하는 일
AI 추론·학습GPU 서버 (또는 고사양 워크스테이션)LLM 추론, 임베딩 생성, 파인튜닝
데이터 저장시놀로지 NAS모델 파일, 벡터DB, 데이터셋, 논문, 실험 결과 보관
연결 방식NFS / SMB 마운트GPU 서버에서 NAS 볼륨을 네트워크 드라이브로 마운트

GPU 서버는 연산에 집중하고, NAS는 저장에 집중합니다. GPU 서버를 포맷하거나 교체해도 NAS에 저장된 모델·데이터·벡터 인덱스는 그대로 남습니다. 새 서버에서 NAS를 다시 마운트하면 바로 작업을 이어갈 수 있습니다.

NAS 하드웨어 선택 기준

NAS는 AI 추론을 직접 하지 않으므로 CPU 성능보다는 디스크 용량, 네트워크 속도, 안정성이 선택 기준입니다. Synology Plus 시리즈 제품 목록에서 사양을 비교해볼 수 있습니다.

항목기준
베이 수4베이 이상 권장 (볼륨 분리를 위해)
네트워크2.5GbE 이상 (대용량 모델 전송 시 1GbE는 병목)
RAM4~8GB (Docker 서비스 없이 파일 서빙만 할 경우)
대표 모델DS925+, DS1525+, DS1825+

GPU 서버와 NAS 사이에 대용량 모델 파일(4~70GB)이 오가므로, 가능하면 10GbE 또는 2.5GbE 환경을 권장합니다. 1GbE 환경에서도 동작하지만, 70B급 모델을 처음 로드할 때 수 분이 걸릴 수 있습니다.

스토리지 설계 — 용도별 볼륨 분리

단일 볼륨에 모든 데이터를 넣으면 용량 관리와 백업 정책을 분리하기 어렵습니다. 처음부터 볼륨과 공유 폴더를 목적별로 나눠두는 것이 좋습니다.

공유 폴더용도백업 우선순위
research논문, 실험 결과, 코드, 보고서최우선 — 복구 불가능한 연구 데이터
ai-modelsLLM 모델 파일 (Ollama weights, GGUF 등)낮음 — 재다운로드 가능
vectordb벡터DB 데이터 (ChromaDB 등)높음 — 재구축 비용 큼
datasets파인튜닝·학습 데이터셋높음 — 직접 구축한 데이터
logs추론 로그, 실험 결과 아카이브중간 — 실험 재현성 확보
backup백업 전용 (관리자만 접근)—

AI 모델 파일은 Hugging Face나 Ollama에서 재다운로드할 수 있으므로 백업 순위를 낮추고, 직접 구축한 벡터DB 인덱스와 연구 데이터를 우선 백업합니다. 이렇게 분리하면 Hyper Backup에서 폴더별로 스케줄을 다르게 설정할 수 있습니다.

NAS가 AI·LLM 스토리지가 되는 구조

이 섹션이 핵심입니다. 연구실 NAS AI 스토리지 구조에서 NAS는 네 가지 역할을 담당합니다.

1. LLM 모델 파일 공유 저장소

Ollama 같은 LLM 실행 도구는 모델 파일을 기본적으로 GPU 서버 로컬에 저장합니다. 이 저장 경로를 NAS 마운트 포인트로 변경하면 연구실 전체가 모델을 공유할 수 있습니다. Llama 3 8B(약 4.7GB), Mistral 7B(약 4.1GB), Qwen2.5 72B(약 40GB) 같은 모델을 연구원마다 따로 다운로드하지 않아도 됩니다.

GPU 서버에서 NAS를 NFS로 마운트한 뒤, Ollama의 모델 저장 경로를 해당 마운트 포인트로 지정하면 됩니다. 한 번 다운로드한 모델은 NAS에 영구 저장되고, GPU 서버를 교체하더라도 마운트만 다시 잡으면 즉시 사용할 수 있습니다.

2. 벡터DB 데이터 영속 저장

ChromaDB 같은 벡터DB를 Docker로 운영할 때 데이터 저장 경로를 NAS 볼륨으로 지정하면 컨테이너가 재시작되거나 GPU 서버가 바뀌어도 벡터 인덱스가 유지됩니다. 연구원 A가 구축한 논문 RAG 인덱스를 연구원 B가 그대로 쓸 수 있습니다.

3. 학습·파인튜닝 데이터셋 관리

파인튜닝용 데이터셋, 전처리 스크립트, 체크포인트 파일을 NAS에 버전별로 보관합니다. 대용량 데이터셋은 Synology Snapshot으로 특정 시점을 보존해두면 실수로 덮어써도 복구할 수 있습니다.

4. 추론 로그·결과 아카이빙

GPU 서버의 추론 결과를 NAS 공유 폴더에 직접 기록하도록 설정하면, 실험 재현성을 확보하기 쉽습니다. 날짜별 디렉토리 구조로 저장하고 Synology Drive로 팀원과 공유하면 별도 협업 도구 없이 결과를 검토할 수 있습니다.

GPU 서버에서 AI 스택 구성

GPU 서버에 Docker를 설치하고, Ollama(LLM 추론) + Open WebUI(웹 인터페이스) + ChromaDB(벡터DB)를 함께 구성하는 것이 일반적입니다. 이때 핵심은 모든 영속 데이터의 저장 경로를 NAS 마운트 포인트로 지정하는 것입니다.

이렇게 구성하면 다음과 같은 장점이 있습니다.

  • GPU 서버를 포맷해도 데이터가 유지됩니다 — 모델, 벡터 인덱스, 설정이 전부 NAS에 있으므로 서버 재설치 후 Docker만 다시 올리면 복구됩니다.
  • 서버 교체가 간단합니다 — 새 GPU 서버에 NAS를 마운트하고 같은 구성을 실행하면 됩니다.
  • 여러 서버에서 모델을 공유할 수 있습니다 — GPU 서버가 2대 이상일 때 같은 NAS 모델 폴더를 마운트하면 모델을 중복 다운로드하지 않아도 됩니다.

RAG: NAS 문서를 AI 지식베이스로 활용하기

연구실 NAS에 쌓인 논문 PDF, 실험 보고서, 내부 매뉴얼을 RAG(검색 증강 생성) 파이프라인의 입력으로 쓸 수 있습니다. 연구실 NAS AI 스토리지의 실질적 활용 사례 중 하나입니다.

Open WebUI RAG 기능

Open WebUI는 자체 RAG 기능을 제공합니다. 채팅 화면에서 PDF를 업로드하면 해당 문서를 참고해서 답변합니다. 관리자 패널에서 문서 디렉토리를 NAS 마운트 경로로 지정하면 NAS의 연구 자료를 일괄 색인할 수도 있습니다.

자동 색인 파이프라인

LangChain 같은 프레임워크를 사용하면 NAS 특정 폴더에 논문이 추가될 때 자동으로 벡터 인덱스에 반영하는 파이프라인을 구성할 수 있습니다. 임베딩 연산은 GPU가 처리하고, 결과 벡터는 NAS에 저장됩니다. 이 과정을 GPU 서버의 스케줄러로 매일 실행하면 모든 데이터가 외부로 나가지 않고 연구실 내부에서 처리됩니다.

활용 예시

  • “지난 연구에서 사용한 전처리 방법이 뭐였지?” → 해당 논문에서 관련 부분을 찾아 요약해줍니다
  • “A 기법과 B 기법의 성능 비교한 자료 있어?” → 벡터DB에서 관련 논문을 검색해 비교합니다
  • “이전에 비슷한 조건으로 실험한 적 있어?” → 과거 실험 보고서에서 유사 사례를 검색합니다
  • “이 연구실에서 주로 사용하는 분석 도구가 뭐야?” → 연구실 매뉴얼에서 답변합니다 (신입 온보딩)

GPU 서버 구성 참고

NAS와 연동할 GPU 서버의 사양 기준을 간단히 정리합니다. 이 글의 초점은 NAS 쪽이지만, GPU 서버 스펙이 모델 선택에 직접 영향을 주므로 함께 참고하시기 바랍니다.

GPU VRAM실행 가능 모델용도
8GB (RTX 4060)Llama 3.2 3B, Phi-3 mini 3.8B기본 질의응답, 문서 요약
12GB (RTX 4070)Llama 3.1 8B, Mistral 7B범용 추론, RAG 검색
24GB (RTX 4090)Llama 3.1 8B (FP16), Qwen2.5 14B고품질 추론, 파인튜닝
48GB (A6000)Llama 3.1 70B (Q4), Mixtral 8x7B대규모 모델, 연구용
80GB (A100/H100)70B+ FP16, 다중 모델 동시 로드연구소급 워크로드

어떤 GPU를 사용하든 모델 파일 자체는 NAS에 저장됩니다. GPU 서버는 추론 시 NAS에서 모델을 읽어와 VRAM에 로드하고, 결과를 다시 NAS에 기록하는 구조입니다.

파일 서버 기본 기능 설정

AI 활용과 별개로 연구실 파일 서버 기본 설정은 갖춰야 합니다.

폴더 구조 예시

NAS 공유 폴더를 용도별로 나누면 관리가 편해집니다. 일반적으로 아래와 같이 구성합니다.

폴더용도
research논문 PDF(연도별), 실험 데이터(프로젝트별), 코드 저장소 미러, 보고서·발표자료
ai-modelsLLM 모델 파일, 체크포인트 (GPU 서버에서 NFS 마운트)
vectordbChromaDB 등 벡터DB 영속 데이터
datasets학습·파인튜닝 데이터셋
logs추론 로그, 실험 결과 아카이브
home개인 폴더 (본인만 접근)
backup백업 전용 (관리자만 접근)

권한 관리

  • 제어판 → 사용자 및 그룹에서 교수/연구원/학생 계정을 그룹으로 분리합니다. 자세한 방법은 시놀로지 NAS 권한 관리 글을 참고하세요.
  • AI 모델 폴더는 쓰기 권한을 관리자와 AI 담당 연구원에게만 부여하고, 나머지는 읽기 전용으로 설정합니다.
  • 개인 폴더는 본인 외 접근을 차단합니다.
  • 졸업하는 연구원의 데이터는 archive 폴더로 이동 후 계정을 비활성화합니다.

Synology Drive

Synology Drive를 설치하면 연구원 PC에 클라이언트를 설치하고 지정 폴더를 자동 동기화할 수 있습니다. Google Drive처럼 사용하되 데이터는 연구실 내부에 남습니다.

백업

Hyper Backup으로 외부 드라이브 또는 클라우드(B2, S3)에 주기적으로 백업합니다. 위에서 정리한 백업 우선순위대로 연구 데이터와 벡터DB를 우선 백업하고, AI 모델 파일은 백업에서 제외하거나 주기를 길게 잡아도 됩니다. USB 외장 하드 백업이 필요하다면 시놀로지 NAS USB 외장 하드 백업 설정 방법을 참고하세요.

클라우드 vs 연구실 NAS 비교

항목클라우드 (AWS, GCS)GPU 서버 + 연구실 NAS
LLM 모델 저장S3 저장 가능, 전송 비용 발생NAS에 무제한 저장, 전송 비용 없음
벡터DBPinecone 등 관리형 서비스 (월 비용)ChromaDB 직접 운영 (추가 비용 없음)
GPU 추론시간당 과금 (A100: 시간당 수천 원)자체 GPU 서버 (초기 투자 후 무제한)
데이터 보안계약·정책에 따라 다름물리적으로 연구실 내부
비용 구조사용량 기반, 누적 시 고비용초기 하드웨어 투자 후 유지비 낮음
추론-데이터 간 지연네트워크 지연 (수십~수백 ms)LAN 내부 (1ms 이하)
서버 교체인스턴스 재생성 필요NAS 마운트만 다시 연결

장기 운영 비용과 데이터 보안을 동시에 고려하면 GPU 서버 + NAS 구조가 유리한 경우가 많습니다. 특히 미발표 논문, IRB 심의 대상 데이터 등 외부 반출이 제한된 연구 데이터를 다룰 때 온프레미스 구조가 필수인 경우도 있습니다.

주의사항

  • NFS 보안 설정은 필수입니다 — NFS 공유는 IP 제한 없이 열면 교내 네트워크 전체에서 접근 가능해집니다. 허용 IP 대역을 GPU 서버로만 제한하세요.
  • 네트워크 대역폭을 확인하세요 — 1GbE 환경에서 70B급 모델을 NFS로 로드하면 초기 로딩에 수 분이 걸립니다. 자주 사용하는 모델은 GPU 서버 로컬 SSD에 캐시해두는 방법도 있습니다.
  • UPS는 필수입니다 — 정전 시 NAS가 비정상 종료되면 벡터DB 인덱스가 손상될 수 있습니다. 무정전 전원장치(UPS)를 반드시 연결하세요.
  • 스냅샷을 활성화하세요 — 벡터DB 데이터는 인덱스가 손상되면 재구축 비용이 큽니다. 해당 볼륨에 Synology Snapshot을 활성화해 최소 7일치 이력을 유지하세요.
  • DSM 업데이트 시 NFS 설정을 확인하세요 — DSM 메이저 업데이트 후 NFS 권한 설정이 초기화되는 경우가 있습니다. 업데이트 후 GPU 서버에서 마운트가 정상인지 확인하세요.
  • 저작권·라이선스를 확인하세요 — 다운로드한 LLM 모델 가중치에는 각각 라이선스가 있습니다(Llama 3는 Meta 라이선스, Mistral은 Apache 2.0 등). 연구 목적 사용 범위를 확인하시기 바랍니다.

마무리

연구실 NAS는 이제 단순한 파일 서버가 아닙니다. GPU 서버와 결합하면 모델 가중치를 공유하고, 벡터 인덱스를 영속 저장하고, 학습 데이터를 중앙 관리하는 연구실 NAS AI 스토리지 인프라의 핵심이 됩니다. GPU 서버는 교체하거나 포맷해도 NAS에 저장된 모든 AI 자산이 그대로 남아 있으므로, 연구의 연속성을 보장할 수 있습니다.

GPU 서버 + NAS 구성이나 연구실 맞춤 AI 인프라에 대해 상담이 필요하시다면 상담 문의를 통해 연락해 주세요.

NAS 구매·설치·세팅, 전문가에게 맡기세요
모델 선정부터 초기 세팅, 외부 접속, 백업 구성까지 원스톱으로 도와드립니다.