AI시대의 소프트웨어 아키텍처

1. 웹 애플리케이션 서버 구체적 예시:- 소규모 스타트업의 웹사이트: t3.medium (2 vCPU, 4 GiB 메모리)  - 예상 tpmC: 5,000 - 10,000- 중간 규모 전자상거래 플랫폼: m5.xlarge (4 vCPU, 16 GiB 메모리)  - 예상 tpmC: 20,000 - 40,000   2. 데이터베이스 서버 구체적 예시:- 중소기업 CRM 시스템의 MySQL: r5.xlarge (4 vCPU, 32 GiB 메모리)  - 예상 tpmC: 100,000 - 150,000- 대규모 데이터 웨어하우스: x1.16xlarge (64 vCPU, 976 GiB 메모리)  - 예상 tpmC: 1,500,000 - 2,000,000 참고: 데이터베이스 워크로드에서 tpmC는 매우 관련성 높은..

I.     클라우드 환경에서 인스턴스 패밀리 선택시 고려사항 (TA관점에서 실제 시스템 구축시 활용) 1. 워크로드의 특성을 정확히 파악하는 것이 중요합니다. CPU, 메모리, 스토리지, 네트워크 요구사항을 모두 고려해야 합니다.2. 현재의 요구사항뿐만 아니라 향후 확장 가능성도 고려해야 합니다. 예를 들어, 웹 애플리케이션 서버의 경우 초기에는 T3 인스턴스로 시작하더라도 트래픽이 증가하면 M5로 마이그레이션할 계획을 세울 수 있습니다. (인스턴스명은 AWS 인스턴스 기준임)3. 비용 효율성도 중요한 고려사항입니다. 예를 들어, 데이터베이스 서버의 경우 R5 인스턴스가 적합하지만, 예산 제약이 있다면 초기에는 M5 인스턴스로 시작하고 점진적으로 업그레이드할 수 있습니다. (인스턴스명은 AWS 인스턴스..

클라우드(AWS 예시) 환경에서의 인스턴스 용량 산정 Process 1. 인스턴스 유형 이해:   AWS는 다양한 인스턴스 유형을 제공합니다. 각 유형은 CPU, 메모리, 스토리지, 네트워크 성능 등의 조합으로 구성됩니다. 예를 들어:   - 범용 인스턴스 (예: t3, m5)   - 컴퓨팅 최적화 인스턴스 (예: c5)   - 메모리 최적화 인스턴스 (예: r5)   - 스토리지 최적화 인스턴스 (예: i3, d2) 2. 워크로드 분석:   - 애플리케이션의 리소스 요구사항을 분석합니다.   - CPU, 메모리, 스토리지, 네트워크 사용량을 모니터링합니다.   - 피크 시간대의 사용량과 평균 사용량을 고려합니다. 3. 성능 메트릭 설정:   - CPU 사용률, 메모리 사용률, 디스크 I/O, 네트워크 ..

아래는 클라우드 업계 상위 10개 회사에 대한 정보이며, 기준 시점은 2024년 4월입니다.  위 정보에 대한 주요 출처들은 다음과 같습니다: 1. Gartner, IDC, Forrester 등의 시장 조사 기관 보고서2. 각 회사의 공식 재무 보고서 및 실적 발표3. Statista, MarketsandMarkets 등의 시장 데이터 제공 업체4. Bloomberg, Reuters 등 금융 뉴스 매체의 산업 분석 기사5. Synergy Research Group의 클라우드 시장 분석 보고서 자료 활용시 고려사항 : 클라우드 시장은 빠르게 변화하고 있어서, 정보를 활용하기 전에 정보의 목적에 맞게 가급적 최신 정보를 확인하는 것이 중요합니다.

AWS(Amazon Web Services)는 다양한 서버 인스턴스 유형을 제공하여 고객이 워크로드에 맞는 최적의 성능과 비용 효율성을 선택할 수 있도록 하고 있습니다. AWS 인스턴스는 크게 EC2(Elastic Compute Cloud) 서비스를 통해 제공되며, 각 인스턴스는 다양한 인스턴스 타입으로 분류됩니다. 이 인스턴스 타입은 CPU, 메모리, 스토리지, 네트워크 성능을 기준으로 설계되어 다양한 용도에 맞게 선택할 수 있습니다. 아래는 AWS에서 제공하는 주요 인스턴스 타입과 그 유형에 대한 설명입니다. 1. 범용 인스턴스 (General Purpose Instances) 범용 인스턴스는 CPU, 메모리, 네트워크 자원의 균형이 잘 맞는 인스턴스 유형입니다. 다양한 애플리케이션에서 사용될 수 있..

DB 서버의 하드웨어 용량을 산정하는 것은 시스템 성능과 안정성을 보장하는 데 매우 중요합니다. CPU, 메모리, 디스크와 같은 자원의 적절한 용량을 산정하기 위해서는 시스템의 트래픽, 데이터 처리 요구 사항, 예상되는 성장 등을 고려해야 합니다. 아래는 DB 서버의 각 하드웨어 구성 요소에 대한 용량 산정 방법을 구체적으로 설명합니다. 1. CPU 용량 산정 CPU 용량은 DB 서버에서 트랜잭션을 처리하고 쿼리를 실행하는 데 매우 중요한 요소입니다. CPU 용량을 산정할 때는 다음 요소들을 고려해야 합니다. # 1.1 트랜잭션 수(TPM: Transactions Per Minute)   - 예상되는 초당 또는 분당 트랜잭션 수(TPM 또는 TPS)에 따라 CPU 요구사항이 결정됩니다. 트랜잭션 수가 많..

IT 시스템 구축 시, TPMC(Total Transactions per Minute, Commit)는 시스템 성능 요구 사항을 평가할 때 중요한 지표입니다. 단위 업무 시스템별로 필요한 TPMC는 해당 시스템이 처리해야 하는 거래량을 정의하고, 시스템의 성능을 결정하는 데 도움이 됩니다. TPMC를 구하는 방식은 다음과 같은 절차로 이루어집니다.  1. 단위 업무 시스템 정의 및 업무 분석   - 먼저 구축할 단위 업무 시스템(예: 주문 관리 시스템, 재고 관리 시스템, 결제 시스템 등)을 명확히 정의합니다.   - 각 시스템의 주요 트랜잭션을 파악하고, 해당 트랜잭션이 발생하는 빈도를 추정합니다.  예를 들어, 주문 관리 시스템에서는 "주문 생성", "주문 취소", "주문 조회" 같은 트랜잭션이 있을..

오늘은 클라우드 환경에서 MSA(MicroService Architecture)구현시 가장 Popular하게 사용되는 쿠버네티스를 활용한 AI서비스 구현 사례에 대하여 구체적 예시를 통하여 알아보겠습니다.쿠버네티스를 활용하여 AI 서비스를 구현할 때, 다양한 서비스 아키텍처와 워크플로우가 가능합니다. 아래에 구체적인 AI 서비스 구현 예시를 들어보겠습니다. I.      예시 1 : 이미지 분류 서비스서비스 설명 : 사용자가 이미지를 업로드하면, 해당 이미지를 분석하여 카테고리를 분류해주는 AI 기반 이미지 분류 서비스입니다. 이 서비스는 딥러닝 모델을 이용하여 다양한 이미지 데이터셋을 학습한 후, 실시간으로 이미지를 분류하는 기능을 제공합니다. 쿠버네티스 활용 방법 :1. 모델 학습 환경 구축:   -..

AI 학습용 서버의 용량을 산정할 때는 여러 요소를 고려해야 합니다. AI 모델을 학습시키는 데 필요한 자원은 학습 데이터의 크기, 모델의 복잡성, 학습 알고리즘, 그리고 원하는 성능 수준에 따라 크게 달라지기 때문입니다. 용량 산정 시 고려해야 할 주요 요소와 산정 방법은 다음과 같습니다.I.     AI학습용 서버 용량 산정시 고려사항 1. 데이터셋 크기   - 데이터 저장 공간: AI 학습용 데이터셋은 보통 이미지, 텍스트, 오디오 등의 다양한 형태로 존재하며, 이들의 크기에 따라 저장 공간이 결정됩니다. 예를 들어, 이미지 데이터셋은 파일 크기가 크고, 텍스트 데이터셋은 상대적으로 작습니다.     - 예시: 100GB의 이미지 데이터를 처리하는 경우, 최소한 그 데이터를 저장할 수 있는 용량이 ..

과적합(overfitting)과 과소적합(underfitting)은 머신러닝 모델의 성능을 평가할 때 중요한 개념입니다. 이 두 현상은 모델이 학습 데이터에 대한 일반화 능력에 영향을 미치며, 각각의 발생 기준과 해결 방법을 이해하는 것이 중요합니다. 여기서 말하는 "일반화 능력"은 모델이 학습 데이터에만 국한되지 않고, 새로운 데이터에도 적절하게 반응할 수 있는 능력을 의미합니다. 즉, 학습 데이터로 훈련된 모델이 처음 보는 상황이나 데이터에 대해서도 정확한 예측을 할 수 있는 능력입니다. 일반화 능력에 영향을 미치는 두 가지 대표적인 현상이 “과적합(overfitting)”과 “과소적합(underfitting)”입니다.   1. 과적합 (Overfitting)과적합은 모델이 학습 데이터에 너무 잘 맞..