Deep Learning NLP: Training GPT-2 from scratch
Understand the history of GPT-2 and Transformer Architecture Basics
Learn the requirements for a custom training set
Learn how to use functions available in public repositories to fine-tune or train GPT-2 on custom data and generate text
In this 1-hour long project-based course, we will explore Transformer-based Natural Language Processing. Specifically, we will be taking a look at re-training or fine-tuning GPT-2, which is an NLP machine learning model based on the Transformer architecture. We will cover the history of GPT-2 and it's development, cover basics about the Transformer architecture, learn what type of training data to use and how to collect it, and finally, perform the fine tuning process. In the final task, we will discuss use cases and what the future holds for Transformer-based NLP. I would encourage learners to do further research and experimentation with the GPT-2 model, as well as other NLP models! Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
개발할 기술
단계별 학습
작업 영역이 있는 분할 화면으로 재생되는 동영상에서 강사는 다음을 단계별로 안내합니다.
Introducing GPT-2
Intro to Transformers
Gathering a Dataset
Training and Fine Tuning our Model
Use Cases and the Future
안내형 프로젝트 진행 방식
작업 영역은 브라우저에 바로 로드되는 클라우드 데스크톱으로, 다운로드할 필요가 없습니다.
분할 화면 동영상에서 강사가 프로젝트를 단계별로 안내해 줍니다.
자주 묻는 질문
자주 묻는 질문
안내 프로젝트를 구매하면 어떤 혜택이 있습니까?
데스크톱과 모바일에서 안내 프로젝트를 이용할 수 있습니까?
안내 프로젝트 강사는 누구입니까?
작업 완료 후 안내 프로젝트에서 해당 작업을 다운로드할 수 있습니까?
환불 규정은 어떻게 되나요?
재정 지원을 받을 수 있나요?
안내 프로젝트를 청강하고 동영상 일부를 무료로 볼 수 있습니까?
이 안내 프로젝트를 수행하려면 경험이 얼마나 필요합니까?
소프트웨어를 별도로 설치하지 않아도 바로 웹 브라우저를 통해 이 안내 프로젝트를 완료할 수 있습니까?
안내 프로젝트를 통해 어떤 학습 경험을 할 수 있습니까?
궁금한 점이 더 있으신가요? 학습자 도움말 센터를 방문해 보세요.
Coursera Footer
