[Plugin] astrbot_plugin_llm_Output_audit

[Wyccotccy]

插件信息

插件信息

{
  "name": "astrbot_plugin_llm_Output_audit",
  "display_name": "大模型输入/输出审核插件",
  "desc": "一键阻止大模型被诱导输出违规消息",
  "author": "Wyccotccy",
  "repo": "https://github.com/Wyccotccy/astrbot_plugin_llm_Output_audit",
  "tags": [
    "输出控制"
  ],
  "social_link": "www.wyccotccy.cn"
}

插件检查清单

• 我的插件经过完整的测试
• 我的插件不包含恶意代码
• 我已阅读并同意遵守该项目的 行为准则。

[astrpluginreviewer]

🤖 AI代码审核报告 for astrbot_plugin_llm_Output_audit

您好！我已经对你提交的插件代码进行了初步自动化审核，作为初步参考:

main.py

1. 违禁正则只检测“首个命中”，可能漏拦截

   • 位置：_regex_check() 中 pattern.search(content)
   • 问题：search 只返回一个匹配结果；同一规则在文本中出现多个片段时，后续违规片段不会被检查。
   • 影响：可能出现“前一个片段被豁免、后一个片段违规但未检测到”的漏检。
   • 建议：对每条违禁规则使用 finditer（或循环 search）遍历全部命中，再逐个做豁免判断。

2. 白名单豁免匹配对象不合理，易误判

   • 位置：_regex_check() 中 allowed_pattern 对 match_text 做搜索
   • 问题：当前是用“违禁片段本身”去匹配白名单规则，而不是在原始 content 或命中上下文中判断。
   • 影响：依赖上下文的 allowed_regex 基本失效，导致本应放行的内容被拦截（误杀）。
   • 建议：对白名单规则在原文中做位置关联判断（如基于 span、上下文窗口、或同一原文匹配区域）。

3. 超时策略前后不一致：白名单超时被默认当作“不豁免”

   • 位置：_regex_check() 白名单循环里 except TimeoutError: continue
   • 问题：违禁规则超时会参考 fail_strategy，但白名单超时直接 continue，等同偏向 fail-close。
   • 影响：当配置为 fail-open 时，仍可能因白名单超时导致误拦截，行为与配置不一致。
   • 建议：白名单超时也应统一走 fail_strategy，至少保证策略语义一致。

4. 正则检测为串行执行，规则多时存在明显延迟放大

   • 位置：_regex_check() / _async_regex_search()
   • 问题：每条规则逐条 await，且每条有超时（默认 0.5s）；在规则数量较大时，总耗时线性累积。
   • 影响：高并发下响应延迟明显，可能被构造输入放大为性能瓶颈。
   • 建议：可分批并发执行（带并发上限），或引入快速预筛、规则分级，避免全量串行。

5. LLM JSON提取正则过于贪婪，易触发解析误判

   • 位置：_llm_check() 中 re.search(r'\{.*\}', cleaned_text, re.DOTALL)
   • 问题：.* 贪婪匹配可能吞掉多个 JSON 块或多余文本。
   • 影响：导致 json.loads 失败并触发 fail-close 拦截，误杀率上升。
   • 建议：使用非贪婪匹配 \{.*?\} 并加强结构校验，或采用更稳健的 JSON 抽取策略（如首个合法对象解析）。

6. 调试日志可能泄露敏感内容

   • 位置：_check_content() 中 debug_mode 分支记录 content[:100]
   • 问题：虽然有摘要脱敏设计，但 debug 模式仍直接落库部分原文。
   • 影响：日志系统可能保存用户敏感信息，带来合规与隐私风险。
   • 建议：debug 仅打印脱敏片段（掩码化）或可配置字段级脱敏，而非直接截断原文。

---

代码评审团

人物一：Linus Torvalds（直球暴躁流）
“你这正则流程能跑，但有点‘只看第一眼就下结论’——search 只看首个命中太草率。安全检测不能靠运气，全部命中都要过一遍，这才是工程，不是玄学。”

人物二：Steve Jobs（产品体验洁癖流）
“策略一致性就是用户体验的一部分。fail-open 配了却在白名单超时时悄悄变成 fail-close，这会让行为不可预测。一个系统要‘可解释’，而不是‘看起来差不多’。”

人物三：Tony Stark（高并发性能偏执流）
“串行正则 + 每条超时，像给每辆车都设了收费站。规则一多，延迟直接起飞。做个并发调度和分层筛查吧，别让审计模块变成整条链路的限速器。”

Disclaimer: 以上评审内容由 AI 自动生成，所涉及人物形象与现实无关，不代表真实人物观点。如果给出的建议无关痛痒请忽略。

---

🔍 审核摘要

统计信息

• 仓库文件总数: 1 个 Python 文件
• 已选择审核文件: 1 / 1
  已发送至 AI 审核的文件清单

main.py

---

此报告由AI自动生成，旨在提供初步反馈和改进建议，不能完全替代人工审核。最终决策以社区维护者的人工审核为准。目前自动审核（仓库地址）处于试验阶段，如遇问题请向维护者反馈。

当前仓库：Wyccotccy/astrbot_plugin_llm_Output_audit
剩余触发次数：4

[zouyonghe]

根据review再完善一下插件