🤗 Transformers 노트북

🤗 Transformers 노트북

여기에서 Hugging Face가 제공하는 공식 노트북 목록을 찾을 수 있습니다. 또한 커뮤니티가 만든 흥미로운 콘텐츠도 여기에 나열하고 싶습니다.

출처: 문서

본문

여기에서 Hugging Face가 제공하는 공식 노트북 목록을 찾을 수 있습니다.

또한 커뮤니티가 만든 흥미로운 콘텐츠를 여기에 나열하고 싶습니다. 🤗 Transformers를 활용한 노트북을 작성했고 여기에 나열되길 원한다면, Community notebooks 아래에 포함될 수 있도록 Pull Request를 열어 주세요.

Hugging Face의 노트북 🤗

문서 노트북

문서의 아무 페이지나 Colab의 노트북으로 열 수 있습니다(해당 페이지에 직접 버튼이 있습니다). 필요하다면 여기에도 나열되어 있습니다.

노트북	설명
라이브러리 빠른 둘러보기	Transformers의 다양한 API 소개
작업 요약	Transformers 라이브러리의 모델을 작업별로 실행하는 방법
데이터 전처리	토크나이저로 데이터를 전처리하는 방법
사전 훈련 모델 파인튜닝	Trainer로 사전 훈련 모델을 파인튜닝하는 방법
토크나이저 요약	토크나이저 알고리즘 간의 차이점
다국어 모델	라이브러리의 다국어 모델 사용 방법

PyTorch 예시

자연어 처리[[pytorch-nlp]]

노트북	설명
토크나이저 훈련	자신만의 토크나이저를 훈련하고 사용하는 방법
언어 모델 훈련	transformers를 쉽게 시작하는 방법
텍스트 분류 모델 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 어떤 GLUE 작업에서든 파인튜닝하는 방법
언어 모델링 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 causal 또는 masked LM 작업에서 파인튜닝하는 방법
토큰 분류 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 토큰 분류 작업(NER, PoS)에서 파인튜닝하는 방법
질문 응답 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 SQUAD에서 파인튜닝하는 방법
객관식 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 SWAG에서 파인튜닝하는 방법
번역 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 WMT에서 파인튜닝하는 방법
요약 파인튜닝	데이터를 전처리하고 사전 훈련 모델을 XSUM에서 파인튜닝하는 방법
처음부터 언어 모델 훈련	커스텀 데이터에서 Transformer 모델을 효과적으로 훈련하는 모든 단계 강조
텍스트 생성 방법	transformers로 언어 생성에 다양한 디코딩 방법을 사용하는 방법
Reformer	Reformer가 언어 모델링의 한계를 어떻게 확장하는지

컴퓨터 비전[[pytorch-cv]]

노트북	설명
이미지 분류 파인튜닝 (Torchvision)	Torchvision으로 데이터를 전처리하고 Image Classification에서 사전 훈련된 Vision 모델을 파인튜닝하는 방법
이미지 분류 파인튜닝 (Albumentations)	Albumentations로 데이터를 전처리하고 Image Classification에서 사전 훈련된 Vision 모델을 파인튜닝하는 방법
이미지 분류 파인튜닝 (Kornia)	Kornia로 데이터를 전처리하고 Image Classification에서 사전 훈련된 Vision 모델을 파인튜닝하는 방법
OWL-ViT로 제로샷 객체 탐지 수행	텍스트 쿼리로 이미지에서 제로샷 객체 탐지를 수행하는 방법
이미지 캡셔닝 모델 파인튜닝	커스텀 데이터셋에서 이미지 캡셔닝을 위해 BLIP를 파인튜닝하는 방법
Transformers로 이미지 유사도 시스템 구축	이미지 유사도 시스템을 구축하는 방법
시맨틱 분할로 SegFormer 모델 파인튜닝	데이터를 전처리하고 Semantic Segmentation에서 사전 훈련된 SegFormer 모델을 파인튜닝하는 방법
비디오 분류로 VideoMAE 모델 파인튜닝	데이터를 전처리하고 Video Classification에서 사전 훈련된 VideoMAE 모델을 파인튜닝하는 방법

오디오[[pytorch-audio]]

노트북	설명
영어 음성 인식 모델 파인튜닝	데이터를 전처리하고 TIMIT에서 사전 훈련된 Speech 모델을 파인튜닝하는 방법
어떤 언어로든 음성 인식 모델 파인튜닝	데이터를 전처리하고 Common Voice에서 다국어로 사전 훈련된 음성 모델을 파인튜닝하는 방법
오디오 분류 모델 파인튜닝	데이터를 전처리하고 Keyword Spotting에서 사전 훈련된 Speech 모델을 파인튜닝하는 방법

생물학적 시퀀스[[pytorch-bio]]

노트북	설명
사전 훈련된 단백질 모델 파인튜닝	단백질을 토큰화하고 대규모 사전 훈련된 단백질 "언어" 모델을 파인튜닝하는 방법
단백질 폴드 생성	단백질 시퀀스에서 완전한 단백질 모델과 PDB 파일로 가는 방법
Nucleotide Transformer 모델 파인튜닝	DNA를 토큰화하고 대규모 사전 훈련된 DNA "언어" 모델을 파인튜닝하는 방법
LoRA로 Nucleotide Transformer 모델 파인튜닝	메모리 효율적인 방식으로 더 큰 DNA 모델을 훈련하는 방법

기타 모달리티[[pytorch-other]]

노트북	설명
확률적 시계열 예측	커스텀 데이터셋에서 Time Series Transformer를 훈련하는 방법

유틸리티 노트북[[pytorch-utility]]

노트북	설명
모델을 ONNX로 export	ONNX를 통해 모델을 export하고 추론 워크로드를 실행하는 방법 강조

Optimum 노트북

🤗 Optimum은 🤗 Transformers의 확장으로, 대상 하드웨어에서 최대 효율로 모델을 훈련하고 실행할 수 있게 하는 일련의 성능 최적화 도구를 제공합니다.

노트북	설명
텍스트 분류를 위해 ONNX Runtime으로 모델 양자화	ONNX Runtime을 사용해 어떤 GLUE 작업이든 모델에 정적 및 동적 양자화를 적용하는 방법
ONNX Runtime으로 텍스트 분류 모델 파인튜닝	ONNX Runtime을 사용해 데이터를 전처리하고 어떤 GLUE 작업이든 모델을 파인튜닝하는 방법
ONNX Runtime으로 요약 모델 파인튜닝	ONNX Runtime을 사용해 데이터를 전처리하고 XSUM에서 모델을 파인튜닝하는 방법

커뮤니티 노트북

커뮤니티가 개발한 더 많은 노트북은 여기에서 볼 수 있습니다.

더 알아보기 (Learn more)