環境 Google Colob A100 準備 ライブラリをインストールします !pip install transformers==4.32.0 accelerate tiktoken einops transformers_stream_generator==0.0.4 scipy torchvision pillow tensorboard matplotlib 実行 ft16やbf16は対応していないっ…

はじめに Qwen/Qwen-72Bが公開されたのですが、動かせるGPU RAMがないため 以下の7B版を動かしてみます huggingface.co 環境 Goolgle Colob 準備 ライブラリをインストールします !pip install transformers==4.32.0 accelerate tiktoken einops scipy trans…