AI시대의 소프트웨어 아키텍처

삼성전자의 Bixby 음성 비서 fine-tuning 사례:1. Fine-tuning 목적 : 삼성전자는 자사의 AI 음성 비서 Bixby의 한국어 이해 및 응답 능력을 향상2. 데이터 수집 방법 :   a) 사용자 로그 분석 : Bixby 사용자들의 실제 음성 명령과 질문 데이터를 수집. 사용자 동의 하에 이루어졌으며, 개인정보 보호를 위해 익명화 처리되었음   b) 크라우드소싱 : 다양한 연령대와 방언을 가진 한국인 참가자들을 모집하여 특정 시나리오에 따른 음성 명령을 녹음하게 함   c) 전문가 생성 데이터 : 언어학자와 AI 전문가들이 한국어의 특성을 반영한 다양한 문장과 표현을 작성   d) 공개 데이터셋 활용 : 한국어 음성 인식 관련 공개 데이터셋을 활용하여 기본 모델 훈련3. 데이터 전처리..

최근 들어서 국내의 주요 기업 및 공공기관의 시스템 구축 프로젝트에 AI를 활용한 서비스 구축부분이 주요 요구사항으로 자리를 잡고 있는 추세입니다. 이에 따라서 AI활용 서비스 구현에 대한 주요 체크포인트를 아래와 같이 정리하여 작성 하였으니, 실무 프로젝트를 진행하는 분들은 참고 자료로 활용하시기 바랍니다. 1. 모델 및 아키텍처 선정 : 이 단계에서 기업의 주된 요구사항은 데이터 보안 및 서비스의 안정성에 초점이 맞추어 지며,     실제 구축 사례는 위 표에서 보는것과 같이 a) Cloud환경에서 기업용 chatGPT 사용 b) Cloud 환경에서 Llama와 같은 맞춤형 AI 사용 c) On-Premise 환경에서 맞춤형 AI 사용과 같은 형태로 진행되고 있습니다. 2. Fine tuning & ..