AI시대의 소프트웨어 아키텍처

  • 홈
  • 태그
  • 방명록

H100 1

T4, V100, A100, H100 GPU의 성능 차이 및 클라우드 인스턴스 비교

T4, V100, A100, H100은 모두 NVIDIA의 데이터 센터용 GPU이며, 주로 인공지능(AI), 딥러닝, 고성능 컴퓨팅(HPC) 작업에 사용됩니다. 각 GPU는 성능과 기능 면에서 차이가 있으며, 세대가 올라갈수록 일반적으로 성능이 향상됩니다. 아래는 각 GPU의 주요 성능 차이점과 용도에 대한 비교입니다.  1. NVIDIA T4   - 세대: Turing 아키텍처   - 메모리: 16GB GDDR6   - 성능: FP32 기준으로 약 8.1 TFLOPS, INT8에서는 약 130 TOPS   - 사용처: 주로 추론(inference) 작업에 적합하며, 특히 전력 소모가 적고 비용 대비 효율이 높아 클라우드 서비스에서 널리 사용됩니다.   - 장점: 에너지 효율이 좋아 소규모 또는 중간 규..

클라우드 2024.11.03
이전
1
다음
더보기
프로필사진

AI시대의 소프트웨어 아키텍처

software-archi-with-ai 님의 블로그 입니다.

  • 분류 전체보기 (62)
    • AI Service (7)
    • Technical Architecture (9)
    • Application Architecture (0)
    • Architecture Pattern (17)
    • AI모델 훈련 기법 (3)
    • AI모델 학습 데이터셋 (1)
    • AI모델 소개 (3)
    • SW Architecture Model (1)
    • AI모델 Fine-Tuning (2)
    • 클라우드 (14)
    • 파이썬 (3)
    • 전자정부 프레임워크 (1)

Tag

SW Architecture, 오블완, poeaa, pattern, 컨테이너화 기술, 서버리스, AI서비스, 티스토리챌린지, 아키텍처 패턴, fine-tuning, 워크로드, MS, sw architect, architecture pattern, RLHF, ai service, 클라우드, Azure, AI, 파이썬, MSA, AWS, AI모델, 가상화 기술, SW아키텍처, 파인튜닝, tpmc, 인스턴스, GCP, Rag,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/11   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바