はじめに 環境 準備 推論 推論に必要なリソース はじめに 今更ですが、CALM2のAWQ版を動かしてみます。 huggingface.co 環境 Google Colob A100 (GPU RAMを25GB使うため、無料枠だと無理でした) 準備 必要なライブラリの追加します !pip -q install --upgrad…