2023-11-28から1日間の記事一覧

berkeley-nest/Starling-LM-7B-alphaをStreamで動かしてみる

AI

初めに 環境 準備 推論 推論速度 推論時 GPU RAM 自然言語処理とは何か まどマギで一番可愛いキャラはなんですか? 日本で一番高い山はなんですか? 初めに (非商用ですが)性能がいいとのことなので、実際に試してみます Introducing new (synthetic) RLHF D…