2024-04-01から1ヶ月間の記事一覧

Ubuntu 22.02の開発環境構築手順

AI

初めに 開発環境 詳細 現状の確認 システムの最新化 NVIDEA ドライバーのインストール CUDA toolkitのインストール システムの再起動 パスの追加 cuda toolkitの確認 初めに 開発環境 Ubuntu 22.02 詳細 現状の確認 lspci | grep -i nvidia システムの最新化…

datasets経由でoscar-corpus/OSCAR-2301をダウンロードする

初めに 開発環境 ライブラリのインストール データセットのダウンロード 初めに テキストのコーパスとして以下のoscar-corpus/OSCAR-2301があります。こちらをダウンロードするコードのメモになります huggingface.co 開発環境 Ubuntu 22.02 ライブラリのイ…

bertモデルを使ってlivedoorニュースの分類をする

AI

初めに 環境 準備 ライブラリのインストール データの取得と整理 モデルの学習 モデルの評価 モデルの保存とhuggingfaceへのアップロード 追加学習をしたモデルを使って分類 初めに 色々LLMを触ってきて、ちゃんと?bertを触ったことがないので以下の記事を自…

LinuxでnvitopでGPU・CPU・メモリの監視をする

初めに 開発環境 詳細 初めに CLI上でメモリやGPUの使用量を監視するためのコマンドは以下のようなものがあります top(CPUとメモリ) htop(CPUとメモリ) nvidia-smi(GPUがメイン) github.com 公式のReadMeを見ると以下のように見えるとのことです 開発環境 Ub…