책소개
프로덕션에서 통하는 LLM 애플리케이션은 무엇이 다른가설계에서 운영까지, 개발 전 과정의 기준을 제시한다이 책은 오늘날 AI를 다루는 기업이 직면한 가장 큰 과제, 즉 프로토타입에서 프로덕션으로의 전환을 다룬다. LangChain 생태계의 최신 변화를 반영해 전면 개정되었으며, 엔터프라이즈 환경에서 AI 시스템을 개발·배포·확장하는 방법을 담았다. 특히 다중 에이전트 아키텍처, 견고한 LangGraph 워크플로, 고급 RAG 파이프라인에 중점을 두었다.에이전틱 시스템 구축을 위한 디자인 패턴을 다루고, 복잡한 작업을 처리하는 다중 에이전트 구성을 실제로 구현한다. 테스트·평가·배포에 관한 내용도 대폭 확장하여 최신 LLM 애플리케이션의 요구에 대응하며, 안전장치와 책임 있는 개발 원칙을 갖춘 AI 시스템의 설계 방법까지 제시한다. 또한 RAG 관련 내용을 보강하여 하이브리드 검색·리랭킹·팩트체크 파이프라인을 통해 출력 정확도를 높이는 방법을 안내한다.기존 워크플로를 확장하든 다중 에이전트 시스템을 처음부터 설계하든, 이 책은 프로덕션 수준의 LLM 애플리케이션 개발에 필요한 기술적 깊이와 실용적인 지침을 제공한다.
저자소개
15년 이상의 실무 경험을 갖춘 AI 구현 전문가다. 첼시 AI 벤처스(Chelsea AI Ventures)의 설립자로서 중소기업이 엔터프라이즈급 AI 솔루션을 구현해 실질적인 투자수익을 거두도록 돕는 데 주력하고 있다. 그가 구현한 시스템은 수백만 달러 규모의 사기 피해를 예방했으며, 트랜잭션을 0.3초 미만의 지연 시간으로 처리한다. 계산신경과학이라는 학문적 배경을 바탕으로 슈퍼컴퓨팅 뇌 모델 연구부터 기술력과 비즈니스 전략을 결합한 프로덕션 시스템 구축까지 두루 섭렵하여, 실용적인 AI 애플리케이션 분야에서 남다른 깊이의 전문성을 발휘하고 있다.
목차
1장. 생성형 AI의 부상: 언어 모델에서 에이전트로 최신 LLM 기술 동향 ____모델 비교 ____LLM 공급자 현황 ____라이선싱 단순 모델에서 에이전틱 애플리케이션으로의 진화 과정 ____기존 LLM의 한계 ____LLM 애플리케이션 이해 ____AI 에이전트 이해 LangChain 소개 ____원시 LLM의 문제점 ____LangChain이 에이전트 개발을 지원하는 방법 ____LangChain 아키텍처 살펴보기 ________생태계 ________모듈식 설계 및 종속성 관리 ________LangGraph, LangSmith 및 동반 도구들 ________서드파티 애플리케이션과 시각적 도구 요약 복습문제 2장. LangChain 첫걸음 이 책에 대한 종속성 설정 ____API 키 설정 LangChain의 빌딩 블록 살펴보기 ____모델 인터페이스 ________LLM 상호작용 패턴 ________개발 테스트 ________채팅 모델과 작업 ________추론 모델 ________모델 동작 제어 ________애플리케이션을 위한 매개변수 선택 ____프롬프트와 템플릿 ________채팅 프롬프트 템플릿 ____LangChain 표현 언어(LCEL) ________LCEL을 이용한 간단한 워크플로 ________복잡한 체인의 예 로컬 모델 실행 ____Ollama 시작하기 ____로컬에서 Hugging Face 모델 작업 ____로컬 모델을 위한 팁 멀티모달 AI 애플리케이션 ____텍스트-이미지 변환 ________OpenAI를 통한 DALL-E 사용 ________Stable Diffusion 사용 ____이미지 이해 ________Gemini 2.5 Pro 사용 ________GPT-4 Vision 사용 요약 복습문제 3장. LangGraph로 워크플로 구축 LangGraph의 기본 원리 ____상태 관리 ____리듀서 ____그래프 구성하기 ____제어된 출력 생성 ________출력 파싱 ________오류 처리 프롬프트 엔지니어링 ____프롬프트 템플릿 ____제로샷과 퓨샷 프롬프팅 ________프롬프트 연결 ________동적 퓨샷 프롬프팅 ____사고의 체인 ____자기 일관성 제한된 컨텍스트 창으로 작업하기 ____긴 동영상 요약 메모리 메커니즘의 이해 ____채팅 기록 트리밍 ____데이터베이스에 기록 저장하기 ____LangGraph 체크포인트 요약 복습문제 4장. 지능형 RAG 시스템 구축 색인에서 지능형 검색까지 RAG 시스템의 컴포넌트 ____RAG 도입 시기 임베딩에서 검색까지 ____임베딩 ____벡터 저장소 ________벡터 저장소 비교 ________벡터 저장소에 대한 하드웨어 고려사항 ________LangChain의 벡터 저장소 인터페이스 ____벡터 인덱싱 전략 RAG 파이프라인 분석 ____문서 처리 ________청킹 전략 ________검색 시스템 ____고급 RAG 기술 ________하이브리드 검색: 시맨틱 검색과 키워드 검색의 조합 ________리랭킹 ________쿼리 변환: 더 나은 쿼리를 통한 검색 개선 ________검색 결과 처리: 검색된 정보 가치 극대화 ________응답 향상: 생성 출력 개선 기법 ________수정 RAG ________에이전틱 RAG ________적절한 기술 선택하기 기업 문서 채팅봇 개발 ____문서 로딩 ____언어 모델 설정 ____문서 검색 시스템 ____상태 그래프 설계 ____사용자 인터페이스를 위해 Streamlit과 통합 ____평가 및 성능 고려사항 RAG 시스템 문제 해결 요약 복습문제 5장. 지능형 에이전트 구축 도구의 기본 개념 ____LangChain의 도구 ____REACT 도구의 정의 ____내장된 LangChain 도구 ____사용자 정의 도구 ________파이썬 함수를 도구로 래핑하기 ________실행 가능한 컴포넌트로부터 도구 생성하기 ________Structured Tool 또는 BaseTool 서브클래스 생성 ____오류 처리 고급 도구 호출 기능 워크플로에 도구 통합 ____제어된 생성 ________공급업체에서 제공하는 제어된 생성 ____ToolNode ____도구 호출 패러다임 에이전트의 정의와 작동 원리 ____계획 및 해결 에이전트 요약 복습문제 6장. 고급 애플리케이션 및 다중 에이전트 시스템 에이전틱 아키텍처 ____에이전틱 RAG 다중 에이전트 아키텍처 ____에이전트의 역할과 전문화 ____합의 메커니즘 ____통신 프로토콜 ________시맨틱 라우터 ________상호작용 구조화 ____LangGraph 스트리밍 ____핸드오프 ________공유 메시지 목록을 통한 통신 ____LangGraph 플랫폼 적응형 시스템 구축 ____동적 행동 조정 ____인간 참여 추론 경로 탐색 ____ToT ____MCTS로 ToT 트리밍하기 에이전트 메모리 ____캐시 ____저장소 요약 복습문제 7장. 소프트웨어 개발 및 데이터 분석 에이전트 소프트웨어 개발에서의 LLM 활용 ____개발의 미래 ____구현 시 고려사항 ____코드 LLM의 진화 ____코드 LLM 벤치마크 ____LLM 기반 소프트웨어 공학 접근 ____보안 및 위험 관리 전략 ____LLM 생성 코드 검증 프레임워크 ____LangChain 통합 LLM을 사용한 코드 작성 ____구글의 생성형 AI ____Hugging Face ____Anthropic ____에이전틱 접근법 ____문서 RAG ____저장소 RAG 데이터 과학을 위한 LLM 에이전트 적용 ____ML 모델 학습 ________파이썬 실행이 가능한 에이전트 설정 ________에이전트에게 신경망 구축 요청 ________에이전트 실행 및 결과 ____데이터셋 분석 ________판다스 데이터프레임 에이전트 생성 ________데이터셋에 대한 질문하기 요약 복습문제 8장. 평가와 테스트 평가의 중요성 ____안전성과 정렬 ____성능과 효율성 ____사용자 및 이해관계자 가치 ____LLM 평가를 위한 합의 구축 평가 대상: 핵심 에이전트 능력 ____작업 수행 능력 평가 ____도구 사용 능력 평가 ____RAG 평가 ____계획 및 추론 능력 평가 평가 방법: 방법론과 접근법 ____자동화된 평가 접근법 ____인간 참여 평가 ____시스템 수준 평가 프로덕션 환경에서의 LLM 에이전트 평가 ____결과의 정확성 평가 ____톤과 간결성 평가 ____출력 형식 평가 ____에이전트 궤적 평가 ____사고의 체인 추론 평가 오프라인 평가 ____RAG 시스템 평가 ____LangSmith에서 벤치마크 평가 ____Hugging Face의 데이터셋과 Evaluate 라이브러리를 이용한 벤치마크 평가 ____이메일 추출 평가 요약 복습문제 9장. 프로덕션 적용 가능한 LLM 배포 및 관찰 가능성 LLM 애플리케이션의 보안 고려사항 LLM 애플리케이션 배포 ____FastAPI를 활용한 웹 프레임워크 배포 ____Ray Serve로 확장 가능한 배포 ________인덱스 구축 ________인덱스 서빙 ________애플리케이션 실행 ____LangChain 애플리케이션 배포 시 고려사항 ____LangGraph 플랫폼 ________LangGraph CLI를 활용한 로컬 개발 ____서버리스 배포 옵션 ____UI 프레임워크 ____MCP ____인프라 고려사항 ________배포 모델 선택 가이드 ________모델 서빙 인프라스트럭처 LLM 애플리케이션 관찰 방법 ____LLM 애플리케이션 운영 지표 ____응답 추적 ____환각 감지 ____편향 감지 및 모니터링 ________LangSmith ____관찰 가능성 전략 ____LLM 애플리케이션의 지속적 개선 LangChain 애플리케이션 비용 관리 ____LangChain에서의 모델 선택 전략 ________계층화된 모델 ________캐스케이딩 모델 ____출력 토큰 최적화 ____그 밖의 전략 ____비용 모니터링 및 분석 요약 복습문제 10장. 생성형 모델의 미래: 규모 확장을 넘어서 생성형 AI의 현주소 확장의 한계와 새로운 대안 ____확장 가설에 대한 도전 ____빅테크 대 소기업 ____확장의 한계와 대안적 접근법의 부상 ________규모 확장(기존 접근법) ________소형화(효율성 혁신) ________분산 처리(확장형 접근법) ____훈련 데이터 품질의 진화 ____기술 발전을 통한 민주화 ____사후 훈련 단계를 위한 새로운 확장 법칙 경제 및 산업의 변화 ____산업별 변화와 경쟁 구도 ____직업의 진화와 변화가 가져올 영향 ________단기적 영향(2025~2035) ________중기적 영향(2035~2045) ________장기적 변화(2045년 이후) ____경제적 분배와 형평성 고려사항 508 사회적 영향 ________허위 정보와 사이버 보안 ________저작권 및 출처 표기 문제 ________규제 및 실행 과제 요약
.jpg)