2023-12-18から1日間の記事一覧

fish-speechをCLIで動かす

AI

はじめに 環境 ライブラリのインストール モデルのダウンロード サンプル音声の作成 サンプル音声からプロンプトを作成する テキストからトークンを作成する 音声を作成する 使用リソース 所感 はじめに Bert-VITS2やDALL-E XなどTTSライブラリが増えてきて…

TheBloke/Mixtral-Fusion-4x7B-Instruct-v0.1-GGUFを動かす

AI

環境 準備 推論 回答 環境 L4 GPU 準備 # TheBloke/Mixtral-Fusion-4x7B-Instruct-v0.1-GGUF # llama.cppのmixtralブランチをクローン(mergeが済んだら「-b mixtral」不要) !git clone -b mixtral https://github.com/ggerganov/llama.cpp %cd llama.cpp !…

TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUFを動かす

AI

環境 実行 準備 推論 結果 ログ 環境 L4 GPU(GPU RAM 24GB) 実行 モデルをロードしてから、推論を実行します 準備 # llama.cppのmixtralブランチをクローン(mergeが済んだら「-b mixtral」不要) !git clone -b mixtral https://github.com/ggerganov/llama…