[홈서버] Docker on NAS로 Plex 미디어 서버 구축 가이드

집에 NAS(Network Attached Storage, 네트워크 저장소) 한 대 두고 영화나 드라마, 가족 사진까지 한 번에 정리하고 싶다는 생각, 한 번쯤 해보셨을 겁니다. 저도 홈랩(Home Lab, 집에서 운영하는 개인 실험실) 굴리면서 가장 먼저 손댄 게 바로 Docker on NAS 환경이었거든요. 처음엔 “그냥 NAS 앱스토어에서 설치하면 되는 거 아닌가?” 싶었는데, 실제로 써보니까 업데이트 관리나 볼륨(volume, 데이터 저장 경로) 분리, 백업, 마이그레이션까지 생각하면 컨테이너(container, 격리된 실행 환경)로 올리는 쪽이 훨씬 편하더라고요.

특히 Plex는 미디어 서버 입문용으로 정말 많이 선택되는데, 처음 세팅할 때는 라이브러리 경로, 권한, 네트워크 설정에서 헷갈리기 쉽습니다. 저도 처음엔 스캔이 안 돼서 한참 헤맸고, 나중엔 파일명 규칙 때문에 메타데이터까지 꼬였었네요. 이번 글에서는 제가 직접 해보며 정리한 Docker on NAS 기반 Plex 미디어 서버 구축 흐름을, 너무 복잡하지 않게 실전 위주로 풀어보겠습니다.

NAS, Docker, Plex, 클라이언트 기기 간 연결 구조를 한눈에 보여주는 개요 이미지입니다.

1. 왜 Docker on NAS로 Plex를 올리냐는 질문부터

쉽게 말해 Docker on NAS는 “NAS 위에 앱을 깔되, 운영체제와 적당히 분리해서 관리하는 방식”입니다. 이 방식의 장점은 생각보다 큽니다. NAS 제조사 전용 패키지보다 유연하고, 나중에 다른 장비로 옮길 때도 편하거든요. 제가 예전에 패키지 방식으로만 쓰다가 장비 교체할 때 설정 백업이 꼬여서 고생했었는데, 컨테이너로 분리하고 나서는 훨씬 수월했습니다.

• 설정과 데이터를 분리하기 쉽습니다.
• 업데이트 롤백이 상대적으로 단순합니다.
• 다른 서비스와 격리되어 충돌 위험이 줄어듭니다.
• 재배포가 쉬워 홈랩 운영이 깔끔해집니다.

반대로 단점도 있습니다. 권한 매핑(user/group mapping), 네트워크 모드, 저장 경로를 이해하지 못하면 설치는 됐는데 실제로는 아무것도 안 돌아가는 상황이 생깁니다. 여기서 중요한 포인트! 컨테이너는 만능이 아니라, 구조를 이해하고 쓰면 편하고 모르고 쓰면 더 복잡해지는 도구입니다.

2. Plex와 컨테이너 개념, 여기서 한 번 정리하고 가겠습니다

Plex는 미디어 파일을 스캔해서 라이브러리를 만들고, TV나 모바일, 웹 브라우저에서 재생할 수 있게 해주는 플랫폼입니다. 쉽게 말해 “내가 가진 파일로 직접 넷플릭스 비슷한 개인 미디어 서버를 만드는 느낌”에 가깝습니다.

여기서 자주 나오는 용어를 헷갈리지 않게 정리해보면 이렇습니다.

처음엔 이게 뭔가 싶었는데, 실제로 써보니까 핵심은 딱 두 가지더라고요. 설정 파일은 따로 보존하고, 미디어 폴더는 읽기 쉬운 경로로 명확히 연결하는 것. 이 두 가지만 잡아도 절반은 끝납니다.

3. 구축 전에 준비할 것: 폴더 구조와 권한 설계

실전 들어가기 전에 먼저 폴더 구조를 잡겠습니다. 저는 NAS에서 애플리케이션 설정과 실제 미디어 데이터를 분리하는 편입니다. 나중에 백업하거나 다른 장비로 옮길 때 진짜 편하거든요.

1. 애플리케이션 설정용 폴더를 만듭니다.
2. 영화, 드라마, 음악 등 미디어 폴더를 구분합니다.
3. Plex가 읽을 수 있는 권한을 확인합니다.
4. 트랜스코딩용 임시 폴더를 별도로 둡니다.

예시 구조는 아래처럼 잡으면 무난합니다.

/volume1/docker/plex/config
/volume1/docker/plex/transcode
/volume1/media/movies
/volume1/media/tv
/volume1/media/music

만약 NAS 경로가 다르면 본인 환경에 맞게 바꾸시면 됩니다. 중요한 건 이름보다 역할 분리입니다. 제가 예전에 config랑 media를 한 폴더에 뒤섞어놨다가 백업 정책이 꼬여서 한 번 크게 정리한 적이 있었습니다. 그 뒤로는 무조건 분리합니다.

권한은 왜 중요할까요?

Plex 컨테이너가 미디어 폴더를 읽지 못하면 라이브러리 스캔 자체가 실패합니다. 웹 화면은 멀쩡하게 뜨는데 파일이 안 보이는 경우가 딱 이 케이스입니다. NAS 제조사 UI에서 공유 폴더 권한을 주거나, Linux 계열 셸이 가능하면 소유자와 그룹을 정리해두세요.

4. Docker Compose로 Plex 컨테이너 배포하기

이제 본격적으로 올려보겠습니다. 저는 단일 실행 명령보다 Docker Compose를 선호합니다. 이유는 간단한데요. 나중에 다시 봐도 구조가 남고, 수정도 쉽고, 백업 문서처럼 쓸 수 있거든요.

services:
  plex:
    image: lscr.io/linuxserver/plex:latest
    container_name: plex
    network_mode: host
    environment:
      - PUID=1000
      - PGID=1000
      - TZ=Asia/Seoul
      - VERSION=docker
    volumes:
      - /volume1/docker/plex/config:/config
      - /volume1/docker/plex/transcode:/transcode
      - /volume1/media/movies:/movies
      - /volume1/media/tv:/tv
      - /volume1/media/music:/music
    restart: unless-stopped

몇 가지 설명을 붙이면 좋겠습니다.

• network_mode: host는 Plex에서 자주 쓰는 방식입니다. 기기 탐색(discovery)이나 스트리밍 연결에서 편한 경우가 많습니다.
• PUID / PGID는 파일 권한 맞출 때 중요합니다.
• /config는 Plex 설정과 라이브러리 정보가 저장되는 핵심 경로입니다.
• /transcode는 변환 작업 중 임시 파일을 두는 공간입니다.

실행은 아래처럼 하면 됩니다.

docker compose up -d

실행 후에는 로그를 확인해보세요.

docker compose logs -f plex

여기서 에러 없이 올라오고, NAS IP 기준으로 Plex 웹 초기 설정 화면이 열리면 일단 절반은 성공입니다. 드디어 됐다! 싶은 순간이 여기더라고요.

컨테이너 볼륨 연결과 호스트 네트워크 구성을 이해하기 쉽게 보여주는 설정 이미지입니다.

5. Plex 초기 설정과 라이브러리 구성, 여기서 품질이 갈립니다

Plex 웹 UI에 들어가면 서버 이름을 정하고 라이브러리를 추가하게 됩니다. 여기서 대충 해도 돌아가긴 하는데, 나중에 정리가 엉망이 되기 쉽습니다. 제가 직접 해보니 폴더 구조와 파일명 규칙이 정말 중요하더라고요.

라이브러리 등록 팁

1. 영화와 TV 시리즈는 라이브러리를 분리합니다.
2. 각 라이브러리에 맞는 루트 폴더만 지정합니다.
3. 폴더명과 파일명은 가능한 일관되게 유지합니다.
4. 한글 파일명만으로 안 풀릴 때는 영문 원제 병기를 고려합니다.

예를 들면 영화는 /movies, 시리즈는 /tv 식으로 나누는 편이 좋습니다. 한 폴더에 다 몰아넣으면 스캐너가 헷갈릴 수 있거든요. 처음엔 귀찮아 보여도 나중에 메타데이터가 깔끔하게 붙는 걸 보면 왜 이렇게 하는지 이해가 되실 겁니다.

트랜스코딩 최적화는 어떻게 볼까요?

모든 환경에서 무조건 트랜스코딩이 필요한 건 아닙니다. 클라이언트가 원본을 직접 재생(Direct Play, 원본 그대로 재생)할 수 있으면 서버 부담이 줄어듭니다. 그래서 저는 무조건 성능 튜닝부터 하기보다, 먼저 원본 파일 형식과 클라이언트 재생 능력을 확인하는 쪽을 권합니다.

• 가능하면 자주 쓰는 기기에서 직접 재생되는 파일 형식을 늘립니다.
• 트랜스코딩 임시 폴더는 여유 공간이 있는 저장소에 둡니다.
• 동시 재생 사용자가 많으면 CPU 사용률을 함께 봅니다.
• 하드웨어 가속(Hardware Acceleration, 하드웨어 기반 인코딩/디코딩)은 지원 환경에서만 검토합니다.

여기서 중요한 포인트! 성능 최적화는 설정 몇 줄보다도 내가 어떤 파일을 어떤 기기에서 주로 재생하느냐가 더 크게 좌우합니다.

6. ⚠️ 실제로 많이 겪는 문제와 해결법

이 섹션은 이론보다 실전입니다. 저도 여기서 삽질 좀 했습니다. 특히 Plex와 컨테이너 조합은 설치보다 트러블슈팅이 더 중요합니다.

문제 1. 웹은 열리는데 미디어가 안 보입니다

대부분 권한 문제이거나, 라이브러리 경로를 컨테이너 내부 기준으로 잘못 넣은 경우입니다.

• NAS 폴더 권한을 다시 확인합니다.
• Compose의 마운트 경로와 Plex 라이브러리 경로가 일치하는지 봅니다.
• 예: 호스트의 /volume1/media/movies를 컨테이너에서 /movies로 마운트했다면, Plex에는 /movies를 등록해야 합니다.

문제 2. 메타데이터가 엉뚱하게 붙습니다

파일명 규칙 문제일 가능성이 큽니다. 시리즈 시즌 표기나 연도 표기가 빠져 있으면 인식이 흔들립니다. 저도 예전에 파일명 뒤에 릴리즈 그룹명이 너무 길게 붙어서 매칭이 꼬였던 적이 있었습니다.

• 영화는 제목과 연도를 분리합니다.
• 시리즈는 시즌/에피소드 표기를 일관되게 맞춥니다.
• 폴더를 장르별이 아니라 콘텐츠 타입별로 나눕니다.

문제 3. 재생은 되는데 버벅입니다

이건 저장소 속도, 네트워크, 클라이언트 코덱 지원, 트랜스코딩 부하가 복합적으로 엮입니다. 그래서 저는 한 번에 모든 걸 바꾸지 않고 아래 순서로 확인합니다.

1. 같은 파일을 다른 기기에서 재생해봅니다.
2. 서버 자원 사용률을 확인합니다.
3. 직접 재생인지 트랜스코딩인지 Plex 대시보드에서 확인합니다.
4. 트랜스코딩 폴더 위치와 여유 공간을 봅니다.

문제 4. 업데이트 후 설정이 꼬일까 걱정됩니다

그래서 /config 백업이 중요합니다. 이 경로만 잘 보존해도 복구 난도가 확 내려갑니다. 실제로 써보니까 컨테이너 자체보다 설정 데이터가 더 중요하더라고요.

7. 결과 검증: 제대로 구성됐는지 확인하는 체크리스트

세팅이 끝났다면 감으로 끝내지 말고 검증을 해보세요. 홈랩은 “되는 것처럼 보이는데 사실 안 되는 상태”가 은근 많습니다.

1. Plex 웹 UI에 정상 로그인되는지 확인합니다.
2. 영화/TV/음악 라이브러리가 각각 보이는지 확인합니다.
3. 썸네일과 메타데이터가 정상적으로 붙는지 확인합니다.
4. 같은 네트워크의 TV, 모바일, 브라우저에서 각각 재생 테스트를 해봅니다.
5. 컨테이너 재시작 후에도 설정이 유지되는지 봅니다.

추가로 저는 아래 명령으로 컨테이너 상태를 꼭 확인합니다.

docker ps
docker inspect plex
docker compose logs --tail=100 plex

이렇게 보면 실행 상태, 볼륨 마운트, 최근 오류를 빠르게 점검할 수 있습니다. 문제 생겼을 때 가장 먼저 봐야 하는 건 화려한 대시보드보다도 로그인데요. 이건 정말 경험상 그렇습니다.

라이브러리 인식, 재생 상태, 서버 동작 여부를 확인하는 결과 화면 예시입니다.

8. 운영 최적화 팁: 오래 편하게 쓰려면

여기부터는 구축 이후 이야기입니다. 한 번 올리고 끝이 아니라, 계속 편하게 쓰려면 운영 습관이 중요합니다.

혹시 이런 경험 있으신가요? 평소엔 멀쩡했는데 어느 날 라이브러리 갱신이 멈추거나, 새 파일이 안 뜨는 경우요. 대체로 원인은 복잡하지 않더라고요. 저장 공간 부족, 권한 변경, 경로 오타, 또는 업데이트 후 재시작 누락 같은 기본적인 이슈가 많습니다. 그래서 저는 화려한 자동화보다 단순하고 추적 가능한 운영 방식을 더 선호합니다.

9. 정리와 FAQ: Docker on NAS로 Plex를 시작하려는 분께

Docker on NAS 환경에서 Plex를 운영하는 핵심은 대단한 튜닝이 아니라, 경로 분리, 권한 정리, 로그 확인입니다. 저도 처음엔 컨테이너만 올리면 끝일 줄 알았는데, 실제로는 운영 구조를 깔끔하게 만드는 쪽이 훨씬 중요하더라고요. 근데 한 번 구조를 잡아두면 정말 편합니다. 장비를 바꾸거나 다른 미디어 서버 도구를 시험해볼 때도 훨씬 유연해지거든요.

다음 단계로는 리버스 프록시(Reverse Proxy, 역방향 프록시) 붙이기, HTTPS 적용, 자동 백업, 그리고 다른 컨테이너 서비스와의 연동까지 가보셔도 좋습니다. 이전 글에서 Docker 기초를 다뤘다면 그 흐름으로 이어 보셔도 좋고, 다음 글에서는 NAS 홈랩 운영 관점에서 백업 전략도 다뤄볼 예정입니다.

자주 묻는 질문

• Q. NAS 기본 앱으로 설치하면 안 되나요?
  A. 됩니다. 다만 이식성과 관리 편의성을 생각하면 컨테이너 방식이 장기적으로 유리한 경우가 많습니다.
• Q. Docker Compose가 꼭 필요할까요?
  A. 필수는 아니지만, 재현성과 문서화 측면에서 추천합니다.
• Q. Plex가 꼭 정답인가요?
  A. 아닙니다. 하지만 입문 난이도와 생태계 면에서 여전히 많이 선택되는 편입니다.

운영 방식의 차이와 선택 포인트를 한 장으로 정리한 요약 이미지입니다.

정리하면 이렇습니다. Plex를 NAS에 올릴 때는 설치 자체보다 구조가 중요하고, 구조를 잡을 때는 Docker on NAS 방식이 꽤 강력합니다. 처음 세팅만 조금 공들여두면 이후 운영은 훨씬 편해집니다. 저도 여러 번 갈아엎고 나서야 이 결론에 도달했는데, 지금은 새 장비로 옮길 때도 부담이 많이 줄었네요. 이 글이 같은 삽질을 줄이는 데 도움이 되었으면 좋겠습니다.