DevelopmentNote

이번에는 가상의 서비스로 AI 영화 리뷰 감성 분석 웹 서비스를 선정해보았다.이 서비스는 사용자가 영화 리뷰를 입력하면 AI 모델이 해당 리뷰를 분석하여긍정 리뷰인지, 부정 리뷰인지를 예측해주는 서비스이다.지금까지 학습한 Docker, 추론 최적화, Streamlit, FastAPI를 활용한다고 가정하면전체 아키텍처는 다음과 같이 구성할 수 있다.1. 전체 서비스 구조서비스는 크게 네 부분으로 나눌 수 있다.사용자 화면: StreamlitAPI 서버: FastAPIAI 모델 추론 서버: ONNX 또는 TensorRT 기반 모델배포 환경: Docker와 클라우드 서버전체 흐름은 다음과 같다.사용자 ↓Streamlit 웹 화면 ↓FastAPI 서버 ↓AI 모델 추론 ↓분석 결과 반환 ↓Streaml..

AI & Python Lab/Concept Notes 2026. 6. 29. 02:51

AI 모델을 실제 서비스에서 사용하려면 단순히 모델을 실행하는 코드만 작성하는 것이 아니라,사용자 요청을 받고 모델 추론 결과를 응답하는 API 서버 구조를 만들어야 한다.FastAPI는 Python 기반의 웹 프레임워크로, AI 모델을 API 형태로 제공할 때 많이 사용된다.특히 기능별로 코드를 나누면 유지보수와 확장이 쉬워진다.1. 전체 폴더 구조 예시FastAPI를 활용한 AI 모델 API 서버는 다음과 같이 구성할 수 있다.project/│├── app/│ ├── main.py│ ├── api/│ │ └── predict.py│ ├── core/│ │ └── config.py│ ├── models/│ │ └── model_loader.py│ ├── schem..

AI & Python Lab/Concept Notes 2026. 6. 29. 02:50

AI 모델을 실제 사용자가 사용할 수 있게 하려면 웹 애플리케이션 형태로 만드는 과정이 필요하다.Streamlit은 Python 코드만으로 간단하게 웹 화면을 만들 수 있어 AI 모델 실습이나 프로토타입 제작에 많이 사용된다.Streamlit에서 AI 모델을 웹 애플리케이션에 통합할 때는 보통 다음 세 가지 단계를 거친다.모델 로드사용자 입력결과 출력1. 모델 로드 단계모델 로드는 학습이 완료된 AI 모델을 웹 애플리케이션에서 사용할 수 있도록 불러오는 단계이다.예를 들어 PyTorch 모델이라면 .pth 파일을 불러오고,ONNX 모델이라면 .onnx 파일을 불러와 추론할 수 있는 상태로 준비한다.이 단계에서는 모델을 한 번만 불러오도록 처리하는 것이 중요하다.사용자가 입력할 때마다 모델을 다시 불러오면..

AI & Python Lab/Concept Notes 2026. 6. 29. 02:48

딥러닝 모델을 실제 서비스에 적용할 때는 모델을 더 빠르고 가볍게 만들기 위해 양자화나 모델 경량화를 진행한다.하지만 모델을 줄였다고 해서 바로 서비스에 적용하면 안 된다.모델 크기와 속도는 좋아졌지만, 정확도나 안정성이 떨어질 수 있기 때문이다.따라서 경량화 후에는 반드시 여러 가지 테스트와 확인 절차가 필요하다.1. 기존 모델과 성능 비교하기가장 먼저 해야 할 일은 경량화 전 모델과 경량화 후 모델의 성능을 비교하는 것이다.예를 들어 이미지 분류 모델이라면 정확도, F1-score, 오차율 등을 비교할 수 있다.감성 분석 모델이라면 Accuracy, Precision, Recall, F1-score 같은 지표를 확인할 수 있다.중요한 것은 단순히 모델이 실행되는지 확인하는 것이 아니라,기존 모델과 비..

AI & Python Lab/Concept Notes 2026. 6. 29. 02:45

딥러닝 모델을 실제 서비스에 배포할 때는 모델의 크기와 추론 속도가 중요하다.이때 사용하는 대표적인 최적화 기법 중 하나가 양자화(Quantization) 이다.양자화는 모델의 가중치나 연산에 사용되는 숫자의 정밀도를 낮추는 방법이다.예를 들어 FP32 형식의 값을 INT8처럼 더 가벼운 형식으로 바꾸면 모델 크기와 연산량을 줄일 수 있다.양자화 방식에는 대표적으로 Post-Training Quantization(PTQ) 과 Quantization-Aware Training(QAT) 이 있다.1. Post-Training Quantization이란?Post-Training Quantization은 말 그대로 학습이 끝난 모델을 나중에 양자화하는 방식이다.이미 학습이 완료된 모델을 가져와서 추가 학습 없이..

AI & Python Lab/Concept Notes 2026. 6. 29. 02:43

딥러닝 모델을 학습할 때는 보통 PyTorch, TensorFlow 같은 프레임워크를 사용한다.하지만 실제 서비스에 모델을 적용할 때는 학습한 그대로 사용하는 것보다 ONNX, TensorRT 같은 포맷으로 변환하는 경우가 많다.그 이유는 모델을 더 빠르고 가볍게 실행하기 위해서이다.1. 다양한 환경에서 모델을 실행하기 위해PyTorch로 학습한 모델은 기본적으로 PyTorch 환경이 있어야 실행할 수 있다.하지만 실제 서비스에서는 서버, 웹, 모바일, 임베디드 기기 등 다양한 환경에서 모델을 실행해야 한다.ONNX는 서로 다른 딥러닝 프레임워크 사이에서 모델을 호환할 수 있게 해주는 중간 포맷이다.즉, PyTorch에서 만든 모델을 ONNX로 변환하면 다른 실행 환경에서도 비교적 쉽게 사용할 수 있다...

AI & Python Lab/Concept Notes 2026. 6. 29. 02:43

Docker를 공부하다 보면 가장 먼저 헷갈리는 개념이 있습니다. 바로 이미지(Image)와 컨테이너(Container)입니다. 여기에 조금 더 나아가면 Docker Compose와 Kubernetes라는 개념도 등장합니다.처음에는 모두 비슷해 보이지만, 실제 역할은 서로 다릅니다. 이번 글에서는 Docker 이미지와 컨테이너의 차이, Docker Compose가 유용한 상황, 그리고 Kubernetes가 Docker와 어떤 관계를 가지는지 정리해보겠습니다.1. Docker 이미지와 컨테이너의 차이Docker 이미지는 애플리케이션을 실행하기 위해 필요한 파일, 라이브러리, 실행 환경, 설정 등을 하나로 묶어 놓은 실행 템플릿입니다.반면 Docker 컨테이너는 이 이미지를 바탕으로 실제 실행된 프로세스 환..

AI & Python Lab/Concept Notes 2026. 6. 12. 22:38

최근 RAG 시스템은 단순한 검색 → 생성 구조를 넘어서,스스로 판단하고 도구를 선택하는 Agent 기반 구조로 발전하고 있습니다.특히 LangChain, LangGraph, LlamaIndex 같은 프레임워크에서는Agent가 전체 RAG 흐름을 제어하는 핵심 컴포넌트 역할을 합니다.Agent 기반 RAG 구조 한눈에 보기 핵심 차이:기존 RAG → 정해진 순서대로 동작 (Pipeline)Agent 기반 RAG → 상황에 따라 스스로 행동을 결정즉,RAG는 정보를 가져오고, Agent는 어떻게 가져올지 결정한다RAG에서 Agent란 무엇인가?정의Agent는 문제를 해결하기 위해어떤 작업을 할지 결정하고어떤 도구를 사용할지 선택하며필요하면 여러 단계를 반복 수행하는의사결정 중심 컴포넌트입니다.예를 들어..

AI & Python Lab/Concept Notes 2026. 5. 2. 16:53