LLM

12 posts

• [AI/ML] 어휘와 토크나이저

  Updated:2026년 6월 28일

  LLM이 텍스트를 처리하는 기본 단위인 토큰과 어휘집의 개념을 살펴보고, 토크나이저가 문장을 모델 입력으로 변환하는 과정을 단계별로 정리합니다.

• [AI Agent] RAG Preview(3주차)

  Updated:2026년 4월 18일

  토큰 제한과 할루시네이션 문제를 해결하는 RAG(검색-증강-생성)의 개념과 구조를 소개합니다. 청킹, 임베딩, 벡터 저장소를 통한 의미론적 검색과 LangChain, LlamaIndex 등 주요 프레임워크를 다룹니다.

• [AI Agent] Prompt Engineering 리뷰(2주차)

  Updated:2026년 6월 28일

  Zero-shot, Few-shot, Chain-of-Thought, Self-Consistency 등 프롬프트 엔지니어링 기법을 순차적으로 적용하여 LLM 정답률을 개선하는 방법과, Reasoning 모델의 등장으로 달라진 프롬프트 설계 패러다임을 다룹니다.

• [AI Agent] LLM 기초 정리

  Updated:2026년 6월 28일

  LLM의 작동 원리와 모델 선택 기준을 이해하고, 구조화된 출력과 프롬프트 분리를 통해 안정적인 AI 시스템을 구축하는 방법을 다룹니다.

• [LLM] VLM으로 표를 정확히 추출하기

  Updated:2026년 3월 2일

  Bedrock의 Qwen3-VL 모델로 PDF 테이블을 추출할 때 rowspan/colspan 병합 셀 처리 오류를 프롬프트 개선으로 해결하는 방법을 소개합니다.

• [SageMaker] SageMaker Jumpstart를 사용한 LLM Fine Tuning - Supervised fine tuning (SFT)

  2025년 7월 30일

  Sagemaker를 활용하여 Fine-tuning을 수행하였습니다.

• [SageMaker] SageMaker Jumpstart를 사용한 LLM Fine Tuning - DAFT(Domain-Agnostic Fine-Tuning)

  2025년 7월 30일

  Sagemaker를 통해 LLM 모델을 파인튜닝하고 테스트합니다.

• [SageMaker] SageMaker Jumpstart Evaluation(Ground Truth)을 구성하여 사람이 LLM 평가하기

  2025년 7월 30일

  Sagemaker Ground Truth 기능을 활용해 휴먼 피드백을 실행합니다.

• [SageMaker] SageMaker Jumpstart의 Custom dataset을 통해 LLM 평가하기

  Updated:2025년 7월 30일

  Sagemaker 환경에서 Custom dataset을 통해 모델의 성능을 평가합니다.

• [SageMaker] SageMaker Jumpstart의 Public Datasets를 통해 LLM 평가하기

  2025년 7월 30일

  Sagemaker를 통해 LLM 모델의 성능을 평가할 수 있습니다.

• [RAG] 성능 측정 방식 테스트

  Updated:2025년 5월 31일

  RAG 성능 평가를 위한 프레임워크 Deepeval을 통해 검색과 생성 성능을 정밀 측정하고, 서비스 품질과 사용자 만족도를 향상시킬 수 있습니다.

• Llamaindex Cookbook을 활용한 GenAI 기본 패턴 정리

  2025년 4월 15일

  Llamaindex와 Llama3로 RAG, Text-to-SQL, 에이전트 등 GenAI 핵심 패턴 구축 방법을 학습하고 테스트합니다. 실용적인 AI 앱 개발 방법을 익혀보세요.