관리자를 위한 대시보드. GPU 워크로드 관리를 쉽게.

내 GPU가 잘 돌아가고 있는지, 우리 팀 예산은 알맞게 쓰이고 있는지 궁금하셨죠? 이제 분산된 정보를 찾느라 헤맬 필요 없어요. 새롭게 출시된 대시보드에서 꼭 필요한 정보를 바로 확인해 보세요.

• 홈 대시보드: 내 워크로드 상태, GPU 사용량, 시간당 비용을 한곳에서 확인해요.
• 조직 대시보드 (관리자용): 팀별 GPU 사용률과 누적 비용, 안 쓰고 켜둔 워크로드를 한눈에 관리해요.
• 워크스페이스 상세 지표: VRAM 사용량과 GPU 온도 등 성능 지표를 더 직관적으로 보여드려요.

왜 만들었나요?

GPU는 비싼 자원이에요. 하지만 그만큼 효율적으로 쓰고 있는지 확인하기는 어려웠어요.

개인 사용자는 워크스페이스마다 들어가 로그를 보거나 nvidia-smi 같은 명령어를 직접 쳐야 했어요. "내 학습이 정상적으로 되고 있나?", "VRAM이 부족해서 터지진 않을까?" 늘 신경 써야 했죠.

관리자의 고민은 더 컸어요. 전체 GPU 사용률이나 팀별 예산 소모 속도를 실시간으로 알 수 없었어요. 리소스가 낭비되고 있어도 바로잡기 어려웠죠.

수많은 사용자 분들의 목소리를 듣고, 이런 불편함을 해결하기 위해 대시보드를 준비했어요.

무엇이 달라졌나요?

홈 대시보드

로그인하면 가장 먼저 만나는 화면이에요. "지금 내 워크로드는 어떻게 돌아가고 있지?" 한눈에 보여드릴게요.

요약 카드

맨 위에서 내 작업의 건강 상태를 빠르게 짚어드려요.

• 실행 중인 워크로드: 현재 켜져 있는 내 워크로드 개수예요.
• 사용 중인 GPU: 내가 지금 할당받아 쓰고 있는 GPU 개수예요.
• GPU 사용률: 실행 중인 전체 워크스페이스의 평균 GPU 사용률이에요. (최근 1시간 기준)
• 발생 비용: 지금 이 순간 시간당 얼마를 쓰고 있는지 알려드려요.

워크로드 목록

내 모든 워크로드를 하나의 표로 정리했어요. 팀이나 상태별로 골라볼 수도 있어요.

목록에서는 이름, 상태, 팀, GPU 사양, 사용률, 시간당 비용을 보여드려요.

만약 GPU 사용률이 1시간 내내 낮은 워크로드가 있다면, 눈에 띄게 표시해 알려드릴게요.

유휴 워크로드 알림

GPU 사용률이 1시간 동안 낮은 워크로드가 있다면 표에 눈에 띄게 표시해 드려요.

조직 대시보드

관리자 권한이 있다면 Manage > Organization > Dashboard에서 볼 수 있어요. "우리 조직의 GPU와 예산, 잘 쓰이고 있을까?" 여기서 답을 찾아보세요.

유휴 워크로드 알림

3시간 동안 GPU를 전혀 안 쓴(0%) 워크로드가 있다면, 맨 위에 알림을 띄워드려요.

Review를 누르면 유휴 워크로드만 모아서 볼 수 있어요.

요약 카드

• 실행 중인 워크로드: 조직 전체에서 켜져 있는 워크로드 개수예요.
• 사용 중인 GPU: 조직 전체에서 할당받은 GPU 개수예요.
• 조직 GPU 사용률: 조직 전체 워크로드의 평균 GPU 사용률이에요.
• 조직 발생 비용: 우리 조직의 전체 시간당 비용이에요.

비용 추이 차트

조직의 크레딧 사용 흐름을 팀별로 보여드려요. 기간을 선택해 어느 팀이 예산을 얼마나 썼는지 투명하게 파악해 보세요.

팀별 세부 현황

팀마다 GPU를 얼마나 효율적으로 쓰는지 표로 정리했어요.

• Team / User: 설명: 팀 이름이에요. > 아이콘을 누르면 소속 팀원별 상세 사용량까지 볼 수 있어요.
• GPUs in Use: 설명: 이 팀(또는 유저)에 할당된 총 GPU 개수예요.
• Avg Utilization(1h): 설명: 평균 사용률이에요. 초록색(90% 이상), 회색(30~90%), 주황색(30% 미만)으로 직관적으로 표시해 드려요.

워크로드 목록

팀, 유저, 유휴 상태별로 필터링해서 볼 수 있어요. 각 항목은 다음을 보여드려요.

• 이름, 팀, 유저
• GPU 사양
• GPU 사용률 (최근 1시간 평균)
• VRAM 사용량
• 실행 시간

워크스페이스 지표 — 더 깊이 있는 분석

워크스페이스 상세 화면의 Metrics 탭이 더 똑똑해졌어요.

새로운 차트와 필터

• VRAM 사용량: 비디오 메모리 사용량을 보여드려요. 95% 이상이 계속되면 OOM(Out of Memory) 에러가 날 수 있으니 주의하세요.
• GPU 온도: GPU 온도를 모니터링해요. 85°C가 계속 넘으면 성능이 강제로 떨어질 수 있어요.
• 시간 필터: 1시간부터 최대 7일까지 원하는 기간을 골라볼 수 있어요.
• 레이아웃 변경: 차트를 2개씩 볼지, 1개씩 크게 볼지 선택할 수 있어요.

지표를 읽는 팁

• GPU 사용률: 확인해야 할 점: 30% 미만이 계속된다면 사양을 낮추는 걸 추천해요.
• VRAM 사용량: 확인해야 할 점: 95% 이상이면 사양을 올리거나 배치 크기를 줄여보세요.
• GPU 온도: 확인해야 할 점: 85°C가 계속 넘으면 성능이 강제로 떨어질 수 있어요.
• CPU 사용률: 확인해야 할 점: CPU만 높고 GPU가 낮다면 데이터 로딩 속도에 문제가 있을 수 있어요.
• Memory Usage: 확인해야 할 점: 내 워크로드가 사용 중인 시스템 RAM 용량이에요.
• Network I/O: 확인해야 할 점: 워크스페이스에 오고 가는 데이터양이에요.

상황에 맞는 맞춤형 팁

Metrics 탭에 들어올 때, GPU 사용률에 따라 딱 맞는 팁을 띄워드려요.

낮은 사용률 (< 30%)

GPU 사용률이 30% 미만이에요. 비용을 아끼고 싶다면 잠시 멈추고 사양을 낮춰보세요.

높은 사용률 (> 90%)

GPU를 100% 활용하고 계시네요! 리소스가 더 필요하거나 메모리 부족이 걱정된다면 사양을 높여보세요.

어디서 볼 수 있나요?

• 홈 대시보드: 로그인 후 왼쪽 사이드바의 Home
• 조직 대시보드: Manage > Organization > Dashboard (관리자 전용)
• 워크스페이스 지표: 각 워크스페이스 상세 화면의 Metrics 탭

마치며

새로운 대시보드는 모델을 학습하는 엔지니어부터 조직 예산을 관리하는 리더까지, 모두에게 꼭 필요한 정보를 제공합니다.

지금 바로 로그인해서 왼쪽 사이드바의 Home을 확인해 보세요.

• 홈 대시보드 가이드
• 조직 대시보드 가이드
• 워크스페이스 지표 가이드

의견이나 궁금한 점이 있다면 언제든 support@vessl.ai로 편하게 알려주세요.

여러분의 더 나은 학습 환경을 응원합니다! 🚀