こんにちは。この記事では、私が実際に RTX3060 12GB 搭載PCでローカルLLMを動かしてみた方法を、初心者向けにわかりやすく紹介します。難しいことは抜きにして「まずは動かす」ことをゴールにしています。 必要なものと簡単な説明 Windows PC(RTX3060 12GB ...
EasyNovelAssistantは、ローカルで動かせるLLMを使いやすいようにしたUIです。 EasyForgeなどを開発されているzutanさんが提供しています。 手順に沿ってインストールしたところ、以下のエラーがでて生成ができまでんした。 [例外] KoboldCpp.generate(): HTTPConnectionPool(host ...