AI시대의 소프트웨어 아키텍처

IT 시스템 구축 시, TPMC(Total Transactions per Minute, Commit)는 시스템 성능 요구 사항을 평가할 때 중요한 지표입니다. 단위 업무 시스템별로 필요한 TPMC는 해당 시스템이 처리해야 하는 거래량을 정의하고, 시스템의 성능을 결정하는 데 도움이 됩니다. TPMC를 구하는 방식은 다음과 같은 절차로 이루어집니다.  1. 단위 업무 시스템 정의 및 업무 분석   - 먼저 구축할 단위 업무 시스템(예: 주문 관리 시스템, 재고 관리 시스템, 결제 시스템 등)을 명확히 정의합니다.   - 각 시스템의 주요 트랜잭션을 파악하고, 해당 트랜잭션이 발생하는 빈도를 추정합니다.  예를 들어, 주문 관리 시스템에서는 "주문 생성", "주문 취소", "주문 조회" 같은 트랜잭션이 있을..

오늘은 클라우드 환경에서 MSA(MicroService Architecture)구현시 가장 Popular하게 사용되는 쿠버네티스를 활용한 AI서비스 구현 사례에 대하여 구체적 예시를 통하여 알아보겠습니다.쿠버네티스를 활용하여 AI 서비스를 구현할 때, 다양한 서비스 아키텍처와 워크플로우가 가능합니다. 아래에 구체적인 AI 서비스 구현 예시를 들어보겠습니다. I.      예시 1 : 이미지 분류 서비스서비스 설명 : 사용자가 이미지를 업로드하면, 해당 이미지를 분석하여 카테고리를 분류해주는 AI 기반 이미지 분류 서비스입니다. 이 서비스는 딥러닝 모델을 이용하여 다양한 이미지 데이터셋을 학습한 후, 실시간으로 이미지를 분류하는 기능을 제공합니다. 쿠버네티스 활용 방법 :1. 모델 학습 환경 구축:   -..

AI 학습용 서버의 용량을 산정할 때는 여러 요소를 고려해야 합니다. AI 모델을 학습시키는 데 필요한 자원은 학습 데이터의 크기, 모델의 복잡성, 학습 알고리즘, 그리고 원하는 성능 수준에 따라 크게 달라지기 때문입니다. 용량 산정 시 고려해야 할 주요 요소와 산정 방법은 다음과 같습니다.I.     AI학습용 서버 용량 산정시 고려사항 1. 데이터셋 크기   - 데이터 저장 공간: AI 학습용 데이터셋은 보통 이미지, 텍스트, 오디오 등의 다양한 형태로 존재하며, 이들의 크기에 따라 저장 공간이 결정됩니다. 예를 들어, 이미지 데이터셋은 파일 크기가 크고, 텍스트 데이터셋은 상대적으로 작습니다.     - 예시: 100GB의 이미지 데이터를 처리하는 경우, 최소한 그 데이터를 저장할 수 있는 용량이 ..