AI_NovelGenerator 提速10章长篇小说生成从4小时压到2小时【免费下载链接】AI_NovelGenerator使用ai生成多章节的长篇小说自动衔接上下文、伏笔项目地址: https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator你设定 10 章、每章 3000 字点完生成去泡了杯茶。回来发现还卡在第 3 章——AI_NovelGenerator 这个长篇小说生成器默认配置下一章要串起 6 次大模型调用。你以为在等模型在想其实一半时间花在排队上。为什么默认配置慢一章要排队六次模型调用一章 AI_NovelGenerator 不是一问到底。看 novel_generator/chapter.py 的流水线先总结前三章让模型生成检索关键词再对每组关键词做向量化Embedding文本向量化并从 Chroma开源向量数据库里捞片段让模型过滤知识最后才动笔写正文。定稿时还要为全局摘要和角色状态各调一次。合计 6 次串行大模型调用外加多次向量化调用。这像一道菜要经过六个灶台依次传菜每个灶台只坐一个厨师。出菜时间不取决于最快的那个灶而是六个灶的耗时之和。默认配置下最长的正文灶台坐的是 Pro 强模型每做一次向量化还要跑一趟云端。short_summary summarize_recent_chapters(...) # ① 总结前三章 search_response invoke_with_cleaning(adapter, search_prompt) # ② 生成检索关键词 for group in keyword_groups: # ③ 每组关键词一次向量化检索 context get_relevant_context_from_vector_store(...) filtered_context get_filtered_knowledge_context(...) # ④ 知识过滤 chapter_content invoke_with_cleaning(adapter, prompt_text) # ⑤ 正文最长时间花在哪拆开看很清楚。正文调用最重3000 字的输出模型是一个字一个字吐的强模型也要好几分钟。辅助任务输出只有几十个字但云端接口每次都有网络往返四次加起来又是几十秒。向量化调用单次很轻却散落在每个灶台最烦的是每组检索都会重新加载一次向量库。从克隆到跑通一条流水线把速度提上来 拉代码、装依赖。git clone https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator cd AI_NovelGenerator pip install -r requirements.txt依赖清单锁在 requirements.txt 里chromadb、langchain 一次装齐比逐个补包稳。生成一份能用的 config.json填上 API key。cp config.example.json config.jsonconfig.example.json 已经给好完整结构api_key 和 base_url 填完即可运行。把最重的调用搬去本地 Ollama本地大模型运行时拉一个对话模型给正文再拉一个向量化模型。ollama serve ollama pull qwen2.5:14b ollama pull nomic-embed-text在 config.json 里把正文任务的 interface_format 填 ollama、base_url 指向 http://localhost:11434最长的正文调用就不再等云端往返。不走全本地的话把云端组合保持分层辅助任务用快模型只有正文用强模型。choose_configs: { architecture_llm: DeepSeek V4 Flash, chapter_outline_llm: DeepSeek V4 Flash, prompt_draft_llm: DeepSeek V4 Flash, final_chapter_llm: DeepSeek V4 Pro, consistency_review_llm: DeepSeek V4 Flash }config_manager.py 允许五个任务各自独立指定模型辅助任务输出短Flash 档几秒就回。收窄检索宽度把 embedding 配置里的 retrieval_k 从 4 改成 2。retrieval_k: 2关键词组最多 5 组每组一次向量化加一次向量库加载组数减半、备料时间直接减半。启动 GUI 开始生成。python main.py填好主题和章节【免费下载链接】AI_NovelGenerator使用ai生成多章节的长篇小说自动衔接上下文、伏笔项目地址: https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 AI_NovelGenerator 提速：10章长篇小说生成从4小时压到2小时
AI_NovelGenerator 提速10章长篇小说生成从4小时压到2小时【免费下载链接】AI_NovelGenerator使用ai生成多章节的长篇小说自动衔接上下文、伏笔项目地址: https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator你设定 10 章、每章 3000 字点完生成去泡了杯茶。回来发现还卡在第 3 章——AI_NovelGenerator 这个长篇小说生成器默认配置下一章要串起 6 次大模型调用。你以为在等模型在想其实一半时间花在排队上。为什么默认配置慢一章要排队六次模型调用一章 AI_NovelGenerator 不是一问到底。看 novel_generator/chapter.py 的流水线先总结前三章让模型生成检索关键词再对每组关键词做向量化Embedding文本向量化并从 Chroma开源向量数据库里捞片段让模型过滤知识最后才动笔写正文。定稿时还要为全局摘要和角色状态各调一次。合计 6 次串行大模型调用外加多次向量化调用。这像一道菜要经过六个灶台依次传菜每个灶台只坐一个厨师。出菜时间不取决于最快的那个灶而是六个灶的耗时之和。默认配置下最长的正文灶台坐的是 Pro 强模型每做一次向量化还要跑一趟云端。short_summary summarize_recent_chapters(...) # ① 总结前三章 search_response invoke_with_cleaning(adapter, search_prompt) # ② 生成检索关键词 for group in keyword_groups: # ③ 每组关键词一次向量化检索 context get_relevant_context_from_vector_store(...) filtered_context get_filtered_knowledge_context(...) # ④ 知识过滤 chapter_content invoke_with_cleaning(adapter, prompt_text) # ⑤ 正文最长时间花在哪拆开看很清楚。正文调用最重3000 字的输出模型是一个字一个字吐的强模型也要好几分钟。辅助任务输出只有几十个字但云端接口每次都有网络往返四次加起来又是几十秒。向量化调用单次很轻却散落在每个灶台最烦的是每组检索都会重新加载一次向量库。从克隆到跑通一条流水线把速度提上来 拉代码、装依赖。git clone https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator cd AI_NovelGenerator pip install -r requirements.txt依赖清单锁在 requirements.txt 里chromadb、langchain 一次装齐比逐个补包稳。生成一份能用的 config.json填上 API key。cp config.example.json config.jsonconfig.example.json 已经给好完整结构api_key 和 base_url 填完即可运行。把最重的调用搬去本地 Ollama本地大模型运行时拉一个对话模型给正文再拉一个向量化模型。ollama serve ollama pull qwen2.5:14b ollama pull nomic-embed-text在 config.json 里把正文任务的 interface_format 填 ollama、base_url 指向 http://localhost:11434最长的正文调用就不再等云端往返。不走全本地的话把云端组合保持分层辅助任务用快模型只有正文用强模型。choose_configs: { architecture_llm: DeepSeek V4 Flash, chapter_outline_llm: DeepSeek V4 Flash, prompt_draft_llm: DeepSeek V4 Flash, final_chapter_llm: DeepSeek V4 Pro, consistency_review_llm: DeepSeek V4 Flash }config_manager.py 允许五个任务各自独立指定模型辅助任务输出短Flash 档几秒就回。收窄检索宽度把 embedding 配置里的 retrieval_k 从 4 改成 2。retrieval_k: 2关键词组最多 5 组每组一次向量化加一次向量库加载组数减半、备料时间直接减半。启动 GUI 开始生成。python main.py填好主题和章节【免费下载链接】AI_NovelGenerator使用ai生成多章节的长篇小说自动衔接上下文、伏笔项目地址: https://gitcode.com/GitHub_Trending/ai/AI_NovelGenerator创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考