跳转至

LLM运行参数配置

在AILaw法律智能工作平台中,该页面用于精细调控大语言模型(LLM)的运行行为,确保AI文书生成、卷宗摘要、法律要点提取等核心功能既高效又稳定。您可设置单次请求的最大输入字符数(影响文书分析深度),以及系统同时处理的AI请求上限(影响多人协作时的响应速度)。合理配置能避免因超长文本导致模型报错,或因并发过高引发服务卡顿,从而保障案件办理全流程的顺畅运转。

LLM运行参数配置

操作步骤

  1. 在‘LLM 最大输入长度限制’输入框中,输入您希望单次发送给大模型的最大字符数(例如:5000表示最多5000个汉字/字母/标点;当前默认为8000),注意该值需小于所用LLM接口的实际支持上限(如通义千问支持32768字符,但平台建议保守设为8000以兼顾稳定性)
  2. 在‘LLM 最大并发数’输入框中,填写系统允许同时发起的AI请求路数(例如:设为10适用于小型律所低负载场景;设为30~50适用于大型团队批量处理卷宗文档),该数值直接影响‘文档模板+AI’模块中多人并行生成文书的速度与系统资源占用
  3. 确认两项参数无误后,点击页面右下角蓝色的‘保存’按钮(图标为磁盘+文字‘保存’),系统将实时生效新配置,无需重启服务或重新登录

注意事项

修改后立即生效,但需注意:① 该配置全局生效,影响所有用户在‘文档模板+AI’‘个人知识库’及‘卷宗生命周期管理’中触发的AI任务;② 若输入长度过大(如超过模型实际支持上限),可能导致‘AI建议生成失败’或‘卷宗摘要中断’;③ 并发数过高可能挤占‘远程扫描’模块的API配额,造成电子证据上传延迟;④ 建议先在测试案件中验证调整效果,再应用于正式案件流程。


页面路径:http://127.0.0.1:18000/management/page/llm_runtime_configuration_management/