책 [핸즈온 LLM] 중요한 문단
사전 훈련 모델의 장점은 대부분의 훈련이 이미 완료되었다는 것입니다. 특정 작업을 위한 미세 튜닝은 일반적으로 컴퓨팅 자원과 데이터를 적게 사용합니다. 또한 BERT 같은 모델은 거의 모든 단계에서 임베딩을 생성합니다. 따라서 BERT 모델을 특정 작업에서 미세 튜닝할 필요 없이 특성 추출기로 사용할 수 있습니다.이 책의 많은 부분에서 BERT와 같은 인코더 기반 모델을 사용합니다. 수년간 분류, 클러스터링, 시맨틱 검색과 같은 일반적인 작업에 사용되었으며 여전히 사용되고 있습니다. 핸즈온 LLM핸즈온 LLM 작품소개: LLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모ridibooks..
