VirtualDever

책 [핸즈온 LLM] 중요한 문단

언어의 일관성에 대한 높은 임곗값과 평균 이상의 사실 생성이 가능해지면서 새로운 문제가 발생하기 시작했습니다. 일부 사용자들이 모델의 사실 생성 능력을 신뢰하기 시작했습니다. 한 예로, 2023년 초 일부 언어 모델이 구글 킬러라는 평가를 받았습니다. 오래지 않아 전문 사용자들은 생성 모델만으로는 신뢰할 만한 검색 엔진이 되지 않는다는 것을 알았습니다. 이는 검색과 LLM을 결합한 RAG의 등장으로 이어졌습니다. 핸즈온 LLM핸즈온 LLM 작품소개: LLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모ridibooks.com

책 [고혈압, 3개월에 약 없이 완치하기] 좋아하는 문단

혈압이 원인이 아니라면 왜 혈압약을 복용하는데 증세가 좋아질까요?그것은 병원에 가서 진단을 받고 혈압약을 처방받는 행위 자체가 내몸을 안정시키는 효과가 있기 때문입니다.또한 혈압이 높으면 다른 합병증이 생길까 봐 불안했던 마음이, 약을 복용하면서 안심되는 것도 증세가 좋아지는 이유 중 하나지요.혈압만 떨어뜨려서는 증세가 좋아지지 않습니다.느끼는 고협압은 그 원인인 내몸의 예민함과 불안을 치료하면 자연히 완치됩니다. 고혈압, 3개월에 약 없이 완치하기고혈압, 3개월에 약 없이 완치하기 작품소개: “한국인의 고혈압은 서양인과 다르다”대한민국 유명 인사들의 몸맘삶 주치의 유태우 박사의 한국형 고혈압 완치 훈련!흔히 고혈압은 ‘완치’가ridibooks.com

책 [핸즈온 LLM] 중요한 문단 : 비용 문제

LLM 훈련과 미세 튜닝은 매우 많은 비용이 듭니다. 그래서 강력한 GPU가 없는 사람들을 GPU-거지 라고 부릅니다. 이런 말은 대규모 모델을 훈련하기 위해 컴퓨팅 자원을 두고 벌이는 경쟁을 잘 보여 줍니다. 예를 들어, Llama 2 모델 패밀리를 만들기 위해 메타는 A100-80GB GPU를 사용했습니다. 이 GPU,를 대여하는데 시간 당 1.5달러가 든다고 가정하면, 이런 모델을 만드는데 든 총 비용은 5백만 달러가 넘을 것입니다. 이 책은 GPU-거지를 위한 책입니다! 비싼 GPU나 많은 예산이 없이 실행할 수 있는 모델을 사용합니다. 이를 위해 구글 코랩 인스턴스에서 실행할 수 있도록 코드를 작성했습니다. 이 글을 쓰는 시점에 구글 코랩의 무료 인스턴스는 16GB VRAM을 가진 T4 GPU를..

책 [핸즈온 LLM] 중요한 문단

사전 훈련 모델의 장점은 대부분의 훈련이 이미 완료되었다는 것입니다. 특정 작업을 위한 미세 튜닝은 일반적으로 컴퓨팅 자원과 데이터를 적게 사용합니다. 또한 BERT 같은 모델은 거의 모든 단계에서 임베딩을 생성합니다. 따라서 BERT 모델을 특정 작업에서 미세 튜닝할 필요 없이 특성 추출기로 사용할 수 있습니다.이 책의 많은 부분에서 BERT와 같은 인코더 기반 모델을 사용합니다. 수년간 분류, 클러스터링, 시맨틱 검색과 같은 일반적인 작업에 사용되었으며 여전히 사용되고 있습니다. 핸즈온 LLM핸즈온 LLM 작품소개: LLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모ridibooks..

책 [핸즈온 LLM] 하드웨어 및 소프트웨어 요구사항

생성 모델을 실행하는 작업은 일반적으로 컴퓨팅 자원을 많이 소모하므로 GpU가 장착된 컴퓨터가 필요합니다. 모든 독자가 이런 컴퓨터를 보유하지는 않기 때문에 이 책의 모든 예제는 온라인 플랫폼인 구글 코랩에서 실행할 수 있도록 만들었습니다. 이 글을 쓰는 시점에 코랩에서 제공하는 NVIDIA GPU (T4)를 무료로 사용해 코드를 실행할 수 있습니다. 이 GPU는 16GB의 VRAM (GPU의 메모리)이 탑재되었습니다. 이는 책의 예제를 실행하기 위해 필요한 최소한의 VRAM 용량입니다. 핸즈온 LLM핸즈온 LLM 작품소개: LLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모ridibo..

책 [토익 시험 전에 알아야 할 모든것] 좋아하는 문구

이해가 안 되었는데 왜 넘어가냐고?그게 무슨 공부냐고?이유는 이렇다.지금까지 내 경험상 당장 이해가 안 가는 것은 오래 붙들고 있다고 해서 해결되는 경우가 드물었다.왜냐하면 그건 그 부분에만 국한된게 아니라 다른 여러 부분과 복합적으로 연결되어 있기 때문이다.따라서 일단 끝까지 가보면 이해가 안 되던 부분의 실마리가 풀리는 경우가 많다.그래서 무조건 끝까지 가라는 거다.설령 이해가 덜 되었어도 말이다.

책 [시작의 기술] 좋아하는 문구

언제나 아름답지만은 않을 것이다.늘 즐겁지도 않을 것이다.하지만 당신은 할 수 있다.현실을 호도하거나 여러분의 기분을 잠시 좋게 해주려고 하는 말이 아니다.여러분이 지나온 기록을 보라.당신은 정말로 잘 해내왔다.늘 그래왔듯이 당신은 해결할 것이다.그 때도 해냈고, 이번에도 해낼 것이다.

책 [시작의 기술] 좋아하는 문구

종종 해결책이 보이지 않는 것은 문제에 너무 가까이 있기 때문일 때가 있다.조금만 초점을 뒤로 물려라. 초점을 많이 뒤로 물려서 큰 그림을 봐라.이게 바로 심리학자들이 '인지적 재구성'이라고 부르는 것과 비슷한 현상이다.이렇게 하면 문제가 당신 인생에 제시되는 방식이 바뀐다.

책 [시작의 기술] 좋아하는 문구

한발을 내딛어라.당신 자신을 믿어라.승리할 수 있는 당신의 능력에 자신을 온전히 던져라.자신이 새롭고 흥미진진한 방식으로 승리할 수 있게 도전을 허락하라.당신의 위대함을 끌어내라.내 말을 따라하라."나는 이기게 되어 있다."

특히 밀리터리 프레스는 하루에 70번 정도한거 같다.그리고 스쿼트는 가끔씩 하였다.산책 하면서 하체 운동을 매일 하기 때문이다.단백질 보충제도 하루도 안 빠지고 계속 먹었다. 그랬더니 몸무게 앞자리가 바뀐 것이다!드디어 몸무게 89kg 찍었다.