AI시대의 소프트웨어 아키텍처

  • 홈
  • 태그
  • 방명록

A100 1

T4, V100, A100, H100 GPU의 성능 차이 및 클라우드 인스턴스 비교

T4, V100, A100, H100은 모두 NVIDIA의 데이터 센터용 GPU이며, 주로 인공지능(AI), 딥러닝, 고성능 컴퓨팅(HPC) 작업에 사용됩니다. 각 GPU는 성능과 기능 면에서 차이가 있으며, 세대가 올라갈수록 일반적으로 성능이 향상됩니다. 아래는 각 GPU의 주요 성능 차이점과 용도에 대한 비교입니다.  1. NVIDIA T4   - 세대: Turing 아키텍처   - 메모리: 16GB GDDR6   - 성능: FP32 기준으로 약 8.1 TFLOPS, INT8에서는 약 130 TOPS   - 사용처: 주로 추론(inference) 작업에 적합하며, 특히 전력 소모가 적고 비용 대비 효율이 높아 클라우드 서비스에서 널리 사용됩니다.   - 장점: 에너지 효율이 좋아 소규모 또는 중간 규..

클라우드 2024.11.03
이전
1
다음
더보기
프로필사진

AI시대의 소프트웨어 아키텍처

software-archi-with-ai 님의 블로그 입니다.

  • 분류 전체보기 (62)
    • AI Service (7)
    • Technical Architecture (9)
    • Application Architecture (0)
    • Architecture Pattern (17)
    • AI모델 훈련 기법 (3)
    • AI모델 학습 데이터셋 (1)
    • AI모델 소개 (3)
    • SW Architecture Model (1)
    • AI모델 Fine-Tuning (2)
    • 클라우드 (14)
    • 파이썬 (3)
    • 전자정부 프레임워크 (1)

Tag

파인튜닝, tpmc, MS, 티스토리챌린지, AI모델, Azure, AWS, MSA, 컨테이너화 기술, SW Architecture, 가상화 기술, 인스턴스, sw architect, RLHF, 오블완, SW아키텍처, poeaa, ai service, 아키텍처 패턴, 워크로드, pattern, 서버리스, GCP, AI서비스, AI, 파이썬, architecture pattern, fine-tuning, 클라우드, Rag,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/11   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바