RAG 기초 (0) - Introduction
RAG 기초 시리즈 소개와 진행 순서, 실습 환경과 시리즈 내내 쓸 예제 문서 준비를 다룹니다.
RAG 기초 시리즈 소개와 진행 순서, 실습 환경과 시리즈 내내 쓸 예제 문서 준비를 다룹니다.
따라 하면서 완성하는 AWS 인프라 구축 입문 후기입니다. 직접 실습을 따라가며 책 구성, 좋았던 점과 아쉬운 점을 정리했습니다.
prompt caching으로 반복되는 앞부분의 비용을 줄이는 방법과 캐시가 깨지는 원인, 프롬프트를 코드처럼 관리하는 방식과 시리즈 전체의 함정을 정리합니다.
예시용 데이터와 채점용 데이터를 나누고 정답이 있는 작업과 없는 작업을 각각 채점하는 harness를 작성하며 LLM judge를 붙이는 방법을 다룹니다.
블로그에 서평 카테고리를 시작하는 글입니다. 서평을 쓰기로 한 이유와 앞으로 어떤 기준으로 정리할지를 적었습니다.
단계적 사고 유도 프롬프트가 adaptive thinking으로 바뀐 지점을 정리하고 effort 단계별 정확도와 토큰 사용량을 직접 측정합니다.
프롬프트로 부탁한 JSON이 깨지는 상황을 확인하고 output_config의 json_schema와 tool use로 형식을 강제하는 방법과 스키마 제약을 다룹니다.
정답이 붙은 문의 분류 데이터셋을 만들고 zero-shot과 few-shot 프롬프트의 정확도를 직접 채점해 비교하며, 예시를 고르는 기준을 정리합니다.
모호한 지시가 만드는 문제를 확인하고 역할, 대상, 길이, 형식, 금지사항을 채워 넣는 순서와 XML 태그로 입력을 구획하는 방법을 다룹니다.
messages 요청의 항목별 의미와 응답의 content block 구조, max_tokens와 thinking의 관계, usage로 토큰과 비용을 확인하는 방법을 다룹니다.