Always On

NVIDIA driver, CUDA toolkit 업그레이드 작업(+이전 버전 제거)

ls /usr/local/cuda-XY/bin/ 에서cuda_uninstaller 파일이 보이면 runfile로 설치했던 것. dpkg 명령어를 사용하여 deb 패키지 관리자 설치 여부를 확인dpkg -l | grep nvidia 1-1. toolkit runfile로 설치했을 때 toolkit 제거sudo /usr/local/cuda-x.x/bin/cuda-uninstaller 1-2. Driver runfile로 설치했을 때 driver 제거sudo /usr/bin/nvidia-uninstall 2-1. rpm,deb 패키지로 설치했을 때 제거sudo dnf remove # RHEL8/CentOS8sudo yum remove ..

사전체크(H100/H200 시스템에 대해서)▪︎ 기본 구성GPU : H200 × 8CPU : Intel Xeon × 2Memory : 2TBOS Disk : M.2 NVMe (RAID1)Data Disk : U.2 NVMe × 8 (RAID0)NetworkOSFP (InfiniBand / Cluster)Ethernet (Storage / Mgmt)BMC (RJ45)▪︎ 물리 정보8U 장비무게 약 130kg→ 혼자 작업 불가→ 레일 설치 필수▪︎ 전원PSU 6개 (4+2 redundancy)최소 3개 있어야 부팅 가능A/B 전원 분리 연결▪︎ 공기 흐름Front → Back (기본 구조)Cold aisle → Hot aisle 맞춰 설치→ 방향 틀리면 냉각 안됨▪︎ 전면 확인Power LED1Hz 깜빡임 ..

OS 버전lsb_release -acat /etc/*releaseOS / 커널 버전 확인드라이버나 CUDA 문제 있을 때 먼저 봄CPUlscpu코어 수, 아키텍처 확인NUMA 구조도 같이 확인 가능GPUnvidia-smiGPU 사용률 / 온도 / 프로세스 확인이상 있으면 여기서 거의 바로 보임MEMORYfree -h메모리 사용량 확인부족하면 바로 문제 생김IP / 네트워크ip -br a인터페이스랑 IP 상태 확인DISK사용량df -h디스크 꽉 찼는지 확인전체 구조lsblk 디스크 / 파티션 / RAID 확인Dockernvidia-docker versionGPU docker 정상인지 확인CUDAnvcc -VCUDA 버전 확인cuDNNcat /usr/include/cudnn_version.h | grep C..

앞 글에서는 Supermicro 워크스테이션 서버 기본 설치 과정을 정리했다.2026.03.09 - [🔧 Engineering/📁 GPU & Hardware] - Supermicro 워크스테이션 서버 설치 정리 (Ubuntu / RAID / 초기 설정) Supermicro 워크스테이션 서버 설치 정리 (Ubuntu / RAID / 초기 설정)Supermicro 워크스테이션 서버를 설치하면서 진행했던 과정을 정리해보려고 한다.Ubuntu 기반 서버였고, BIOS 설정부터 RAID 구성, Ubuntu 설치 후 기본 패키지 설정까지 진행했다.신입이라 아직 하나씩mandoog.tistory.com이번 글에서는 GPU가 장착된 서버에서 추가로 필요한 설정을 정리해보려고 한다.GPU 서버에서는 기본 OS 설치 ..

1. ISO USB 생성 및 Flash1) balenaEtcher로 ISO USB 생성NVIDIA 제공 ISO 다운로드balenaEtcher로 USB에 이미지 writehttps://developer.nvidia.com/embedded/jetpack/downloads NVIDIA JetPack SDK Downloads and NotesAccess the latest resources for JetPack SDK and Jetson Linux.developer.nvidia.com 2) USB 삽입 후 최초 부팅전원 인가 시 처음 화면에서:shell 화면으로 진입됨여기서 reset 실행3) USB 플래시 및 부팅 – GUI 방식다음 경로 선택:Jetson Thor Options→ Flash Jetson AG..

GPU 서버를 운영하다 보면 가장 먼저 확인하게 되는 명령어가 nvidia-smi 다.실제로 GPU 서버 점검 방법의 기본은 이 명령어를 정확히 읽는 것에서 시작한다.1. nvidia-smi란?nvidia-smi는 NVIDIA GPU 상태를 확인하는 CLI 도구다.GPU 서버에서 가장 기본이 되는 점검 명령어이며, GPU 인식 여부, 온도, 사용률, 메모리 상태 등을 확인할 수 있다.기본 실행:nvidia-smi 2. 기본 화면에서 봐야 할 핵심 항목① Driver Version / CUDA Version드라이버 정상 로드 여부 확인CUDA 버전 호환성 점검 시 중요② GPU Name장착된 GPU 모델 확인인식이 안 되면 하드웨어/드라이버 문제 가능성③ Temperature (Temp)일반적으로 30~8..