머신 러닝 Q & AI: 7.1.5 시퀀스 병렬화 -2

더북(TheBook)

머신 러닝 Q & AI

더북(TheBook)

Home 1부 신경망과 딥러닝 CHAPTER 1 임베딩, 잠재 공간, 표현 SECTION 1.1 임베딩 SECTION 1.2 잠재 공간 SECTION 1.3 표현 SECTION 1.4 연습문제 SECTION 1.5 참고 CHAPTER 2 자기 지도 학습 SECTION 2.1 자기 지도 학습 vs 전이 학습 SECTION 2.2 레이블이 없는 데이터 활용하기 SECTION 2.3 자기 예측 및 대조적 자기 지도 학습 SECTION 2.4 연습문제 SECTION 2.5 참고 CHAPTER 3 퓨-샷 학습 SECTION 3.1 데이터셋과 용어 SECTION 3.2 연습문제 CHAPTER 4 로터리 티켓 가설 SECTION 4.1 로터리 티켓 훈련 과정 SECTION 4.2 실제적 영향과 한계 SECTION 4.3 연습문제 SECTION 4.4 참고 CHAPTER 5 데이터로 과대적합 줄이기 SECTION 5.1 대표적인 방법 5.1.1 추가 데이터 수집 5.1.2 데이터 증강 5.1.3 사전 훈련 SECTION 5.2 다른 방법 SECTION 5.3 연습문제 SECTION 5.4 참고 CHAPTER 6 모델을 변경하여 과대적합 줄이기 SECTION 6.1 일반적인 방법 6.1.1 규제 6.1.2 작은 모델 6.1.3 작은 모델에 대한 주의 사항 6.1.4 앙상블 방법 SECTION 6.2 다른 방법 SECTION 6.3 규제 기법 선택하기 SECTION 6.4 연습문제 SECTION 6.5 참고 CHAPTER 7 다중 GPU 훈련 패러다임 SECTION 7.1 훈련 패러다임 7.1.1 모델 병렬화 7.1.2 데이터 병렬화 7.1.3 텐서 병렬화 7.1.4 파이프라인 병렬화 7.1.5 시퀀스 병렬화 SECTION 7.2 추천 SECTION 7.3 연습문제 SECTION 7.4 참고

▲ 그림 7-3 긴 입력을 여러 GPU로 나누는 시퀀스 병렬화

추천 도서와 신규 콘텐츠를 먼저 받아보세요

엄선한 추천 도서와 신규 콘텐츠를 이메일로 보내드립니다.
새로운 책이 등록될 때마다 소식을 받아보세요.

머신 러닝 Q & AI(이하 '책')의 저작권은 세바스찬 라시카에게 있습니다.
책의 출판권 및 배타적발행권과 전자책의 배타적전송권은 (주)도서출판 길벗에 있습니다.
책의 내용을 복제하여 블로그, 웹사이트 등에 게시할 수 없습니다.
- 링크 및 SNS 공유는 허용합니다.
책의 내용을 변경할 수 없습니다.
책의 내용을 상업적으로 사용할 수 없습니다.
책의 내용을 어떠한 형태로든 재배포할 수 없습니다.

TheBook by Gilbut | 오류 신고 및 문의

| 서비스 약관 | 개인정보취급방침