bj.choi - notes
RSS FeedAI 에이전트와 LLM 시스템을 만들고 운영하며 배운 것을 짧게 기록합니다.
Recent Posts
- Updated:
Mid-training은 Fine-tuning처럼 정답 응답을 맞추는 단계가 아니라, 터미널 모델에 필요한 능력 분포와 데이터 흐름을 다시 조정하는 continued training 단계다.
- Updated:
AI Agent 과정을 정리합니다. LLM 기초와 프롬프트 엔지니어링에서 시작해 RAG, Evaluation, Agent 설계, Observability, Cost, Security, Fine-tuning까지 운영 가능한 AI 시스템을 만들기 위해 필요한 흐름을 되짚습니다.
- Updated:
LLM의 Pre-training과 Post-training 차이를 정리하고 Fine-tuning의 목적, 데이터 구조와 설계 방법을 정리했습니다.
- Updated:
LLMOps 관점에서 AI 시스템의 보안 위험을 데이터 오염, 프롬프트 인젝션, jailbreaking, guardrail, 모델 정렬과 안전 학습까지 연결해 정리합니다.
- Updated:
AWS Summit 2026 발표를 준비하며 자료를 만들고 리허설을 거쳐 무대에 오르기까지의 과정, 발표 당일의 시행착오와 발표 이후 느낀 점을 정리했습니다.
- Updated:
AI Agent의 LLM 비용이 커지는 원인을 LLM, 애플리케이션, 인프라 관점에서 정리하고 비용 최적화 기준을 제시합니다.