랩: AI 제품 리뷰어 만들기

감성 분석으로 제품 리뷰를 분류하고, 임베딩으로 주제별 클러스터링하고, 실행 가능한 기능을 추출하며, 맥락을 아는 응답을 생성하는 AI 파이프라인을 만드는 실습 랩이에요. 전부 로컬에서 실행돼요.

출처: 문서

본문

Jarvis라는 가상의 AI 제품을 위한 완전한 피드백 분석 파이프라인을 만들어볼게요. Docker Model Runner를 통해 로컬 LLM과 임베딩 모델을 실행하는 Node.js 코드를 작성하게 되는데, API 키도, 클라우드 구독도, 데이터가 내 컴퓨터 밖으로 나가는 일도 전혀 없어요.

랩 시작하기

랩스페이스를 시작해볼게요:

$ docker compose -p labspace -f oci://dockersamples/labspace-creating-ai-product-reviewer up -d

브라우저에서 http://localhost:3030 을 열어주세요.

실습을 마치면 랩스페이스를 정리해요:

$ docker compose -p labspace down

배우게 될 내용

이 Labspace를 마치면 다음과 같은 것들을 완료하게 돼요:

Docker Model Runner의 OpenAI 호환 API로 LLM을 로컬에서 실행하기
OpenAI SDK와 Compose 의 models: 통합을 사용해 Node.js 앱을 Docker Model Runner에 연결하기
저온(low-temperature) LLM 분류로 감성 분석 수행하기
임베딩과 코사인 유사도를 사용해 의미적으로 관련된 피드백을 클러스터링하기
response_format: { type: 'json_object' } 로 LLM에서 구조화된 데이터 추출하기
추출된 제품 기능을 바탕으로 리뷰에 맥락을 아는 응답 생성하기

모듈

#	모듈	설명
1	Introduction	파이프라인 개요 및 Docker Model Runner 설정
2	Project Setup & Docker Model Runner	스타터 프로젝트 탐색 및 Compose 모델 통합 연결
3	Generating Synthetic Feedback	LLM으로 테스트 데이터용 현실적인 제품 리뷰 생성
4	Sentiment Analysis	저온 생성으로 리뷰를 긍정·부정·중립으로 분류
5	Embeddings & Semantic Clustering	벡터 임베딩과 코사인 유사도로 관련 리뷰 그룹화
6	Features & Responses	실행 가능한 기능 추출 및 맥락을 아는 리뷰 응답 생성
7	Wrap-up	기법 요약 및 파이프라인 확장 아이디어

더 알아보기 (Learn more)

Docker Model Runner
RAG
프롬프트 엔지니어링