并发设置
| 适用角色 | 更新日期 |
|---|---|
| 租户管理员 | 2026-06-01 |
功能概述
并发数决定了一个用户在同一时刻可以向模型发起多少个并行请求，是控制用量、保证服务稳定的重要参数。gahorouter 的并发分为两层：
- 租户并发上限：整个租户内，任何单个用户的并发数都不能超过这个值。该上限由 gahorouter 系统管理员统一设置和调整。
- 用户并发数：租户管理员在租户上限的范围内，为本租户下每个用户单独分配的并发数。
本手册介绍两种常见场景：
- 提升租户并发上限 —— 租户管理员如何联系 gahorouter 调额
- 分配用户并发数 —— 租户管理员如何为本租户内的用户调整并发数
前置条件
- 您是某个租户的租户管理员
- 已成功登录 gahorouter 控制台
名词解释
| 名词 | 含义 |
|---|---|
| 租户并发上限 | 一个租户内，任何单个用户的并发数允许达到的最大值 |
| 用户并发数 | 某个具体用户当前被允许的最大并行请求数 |
场景一：提升租户并发上限（联系我们调额）
功能说明
租户并发上限决定了您本租户下任何一个用户最多能设置多少并发。例如租户上限是 10，您就无法给任何用户分配超过 10 的并发数。
出于安全和资源管控考虑，租户管理员无法自行修改租户并发上限，必须联系 gahorouter 官方申请调额。
什么时候需要调额
出现以下任一情况时，建议申请提升租户并发上限：
- 您想给某个用户分配的并发数超过了当前租户上限，但业务确实需要
- 租户内多个用户经常反馈请求被限流，业务受影响
- 即将接入新业务、预计并发量显著上升
如何查看当前租户上限
当前版本的控制台界面不直接显示租户并发上限的数值，但您可以通过以下方式间接判断：
- 进入 用户管理 页面
- 点击任意用户行上的 编辑 按钮
- 在「并发数」字段下方，如果看到类似「上限 10，由系统管理员设置」的提示，其中的数字即为当前租户上限
如果没有显示上限提示，说明您所在的租户暂未设置具体上限，或者需要联系管理员确认。
操作步骤
- 整理您的调额需求，准备好以下信息：
- 租户名称
- 当前租户上限是多少（如已知）
- 希望调整到的目标数值
- 简要的业务背景（例如"新增客户、预计每秒 50 个并行调用"）
- 通过以下任一渠道联系 gahorouter：
- 提交工单 / 联系您对接的商务
- 发送邮件至 gahorouter 官方客服邮箱
- 通过官网公布的联系方式反馈
- 等待处理结果：gahorouter 工作人员核实需求后会在后台为您的租户调整并发上限。
- 调额生效后，您即可在「用户管理」中为用户分配更高的并发数。
业务规则
- 当管理员下调租户上限时，本租户内超过新上限的所有用户并发数会被自动同步下调至新上限，无需您手动调整
- 上调租户上限不会影响现有用户的并发数，需要您在「用户管理」中单独重新分配
注意事项
- 请在提交需求前确认业务确实存在并发瓶颈，避免过度申请
- 调额是一次性操作，每次都需要单独联系
场景二：为本租户内用户调整并发数
功能说明
在租户并发上限允许的范围内，租户管理员可以为本租户下的每个用户单独分配并发数，用来平衡不同用户之间的资源占用。
操作步骤
- 进入 用户管理 页面，页面会展示本租户下的所有用户。每一行末尾显示该用户当前的并发数。
- 在目标用户所在行，点击 编辑 按钮。
- 弹出「编辑用户」对话框，包含邮箱、用户名、并发数三个字段。
- 在「并发数」输入框中输入新的并发数（必须 ≥ 1，且 ≤ 租户上限）。字段下方会显示提示：上限 {数字}，由系统管理员设置，该数字即为本租户的并发上限。
- 点击 保存 按钮。
- 保存成功后，列表中该用户的并发数会立即刷新为新值。
字段说明
| 字段 | 是否必填 | 说明 | 示例 |
|---|---|---|---|
| 邮箱 | 是 | 用户登录账号，一般不建议修改 | user@example.com |
| 用户名 | 否 | 用户昵称，便于识别 | 张三 |
| 并发数 | 是 | 该用户被允许的最大并行请求数 | 5 |
业务规则
- 并发数必须大于 0
- 并发数不能超过租户上限。如果超出，保存时会弹出错误提示「并发数不能超过租户上限 X」
- 并发数的修改立即生效，下一次请求即按照新数值执行
- 通过邀请链接加入租户的新用户，默认并发数为 1，需要管理员手动调整
常见操作场景
- 新用户入职：先通过邀请链接或创建用户加入租户 → 再到「用户管理」编辑该用户的并发数
- 用户业务增长：直接在「用户管理」编辑用户，把并发数调高（仍需不超过租户上限）
- 用户业务收缩：把并发数调低，释放更多容量给其他用户
常见问题
Q1：为什么我看不到「并发上限」字段可以编辑？
A：租户并发上限属于平台级配置，只有 gahorouter 系统管理员可以修改。租户管理员在控制台界面看到的「并发数」字段都是针对单个用户的，不是租户上限。如需调整租户上限，请参考「场景一」联系我们。
Q2：我给用户设置了 20 的并发数，但提示超过租户上限？
A：说明您所在租户的当前上限小于 20。您有两个选择：
- 将用户并发数改到上限以内
- 联系 gahorouter 申请把租户上限提升到 20 以上（参考「场景一」）
Q3：系统管理员下调了租户上限，我的用户会怎样？
A：所有原本超过新上限的用户并发数会被自动下调到新上限。例如租户上限从 10 降到 5，原本并发是 8 的用户会被自动设置为 5，您无需手动处理。
Q4：刚创建的新用户默认并发数是多少？
A：通过租户管理员创建或邀请加入的新用户，默认并发数为 1。如需调整，请在「用户管理」中编辑。
Q5：并发数修改需要用户重新登录才能生效吗？
A：不需要。并发数的修改立即生效，下一次 API 请求就会按照新的并发数执行。
Q6：用户自己能修改自己的并发数吗？
A：不能。普通用户无权修改任何并发配置，只有租户管理员可以在「用户管理」中调整。
注意事项
- 并发数越高，瞬时资源占用越大，请结合业务实际需要合理分配，避免浪费
- 建议为核心业务用户分配较高并发，为测试或辅助账号分配较低并发
- 如果本租户用户数量较多，建议先梳理全租户的并发需求，再统一向 gahorouter 申请合适的租户上限
联系我们
如果在使用过程中遇到任何问题，请及时联系我们。