Python

쿠버네티스

[쿠버네티스] 서비스 어카운트 생성 및 파드 내부에서 사용

1. 서비스 어카운트 야믈 생성 (yamls/for_sa/create-sa.yaml) apiVersion: v1 kind: ServiceAccount metadata: name: test-sa namespace: default automountServiceAccountToken: true automountServiceAccountToken: true --> 서비스 어카운트를 명시하면서 파드를 생성 시 명시된 서비스 어카운트의 토큰이 자동으로 파드에 마운트됨 2. 롤 야믈 생성 (yamls/for_sa/pod-reader-role.yaml) apiVersion: rbac.authorization.k8s.io/v1 kind: Role metadata: name: pod-reader namespace: def..

딥러닝

[딥러닝] pytorch를 사용하여 GPU로 모델 학습 시 런타임 에러

문제 상황학습 시작 시 아래와 같은 에러 발생RuntimeError: device >= 0 && device  환경- OS: Ubuntu 20.04.6 LTS- Python: v3.8.10- Torch: v2.0.1- CUDA: v11.7- GPU: A100 * 2 (MIG 적용) 해결- Single GPU 학습환경변수 CUDA_VISIBLE_DEVICES를 0으로 세팅해주니 해결됨export CUDA_VISIBLE_DEVICES=0 - Multi GPU 학습아직 CUDA 11과 12는 하나의 프로세스에 오직 하나의 MIG 인스턴스만 사용할 수 있으므로 불가능...참고로 CUDA 11부터 A100 MIG, CUDA 12부터 H100 MIG 사용이 가능함  참고 1: https://github.com/py..

파이썬

[파이썬] 도커 컨테이너 정보 출력

import docker 필요한 라이브러리 임포트 (https://docker-py.readthedocs.io/en/stable) def add_unit(mem: float) -> str: if mem > 1024**3: mem = round(mem / 1024**3, 2) mem = f"{mem}GiB" elif mem > 1024**2: mem = round(mem / 1024**2, 2) mem = f"{mem}MiB" elif mem > 1024: mem = round(mem / 1024, 2) mem = f"{mem}KiB" else: mem = round(mem, 2) mem = f"{mem}Byte" return mem 데이터 단위를 붙여주기 위한 함수 client = docker.Docke..

파이썬

[파이썬] GPU 정보 출력

import GPUtil 필요한 라이브러리 임포트 (https://github.com/anderskm/gputil) def add_unit(mem: float) -> str: if mem > 1024: mem = round(mem / 1024, 2) mem = f"{mem}GiB" else: mem = round(mem, 2) mem = f"{mem}MiB" return mem 데이터 단위를 붙여주기 위한 함수 for gpu in GPUtil.getGPUs(): gpu_util = f"{gpu.load}%" mem_total = add_unit(gpu.memoryTotal) mem_used = add_unit(gpu.memoryUsed) mem_used_percent = f"{round(gpu.memor..

파이썬

[파이썬] Selenium과 Threading을 이용하여 구글 이미지 크롤링

import os import re import time import socket from urllib.request import urlretrieve from urllib.error import HTTPError, URLError from selenium import webdriver from selenium.common.exceptions import ( ElementClickInterceptedException, NoSuchElementException, ElementNotInteractableException, ) from PIL import Image from pygame import mixer from datetime import date from concurrent.futures import..

IntegerString
'Python' 태그의 글 목록