こんにちは。この記事では、私が実際に RTX3060 12GB 搭載PCでローカルLLMを動かしてみた方法を、初心者向けにわかりやすく紹介します。難しいことは抜きにして「まずは動かす」ことをゴールにしています。 必要なものと簡単な説明 Windows PC(RTX3060 12GB ...
EasyNovelAssistantは、ローカルで動かせるLLMを使いやすいようにしたUIです。 EasyForgeなどを開発されているzutanさんが提供しています。 手順に沿ってインストールしたところ、以下のエラーがでて生成ができまでんした。 [例外] KoboldCpp.generate(): HTTPConnectionPool(host ...
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する