【Python】GPT-2のファインチューニングに向けての準備 | ムノログ 合同会社ムジンケイカクプロのITノウハウブログ
Pythonと機械学習

【Python】GPT-2のファインチューニングに向けての準備

python Pythonと機械学習

Colaboratory環境でテストが終わり、意図せず何度もgit cloneを繰り返したりしたので、データ永続化のためにローカルへ作業を移行。

ただ、Linux環境をカットしたので、Windows環境にて以降実施。

!git clone https://github.com/huggingface/transformers
%cd transformers
!pip install .
!pip install sentencepiece
!pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cpu
!pip install -r python\gpt2\transformers/examples/pytorch/language-modeling/requirements.txt
#ファイルパスはご自身の環境へ変更