ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

第5章 工具箱设计与安全(Tools Safety)

第5章 工具箱设计与安全(Tools  Safety)

=====未经允许,不得转载,侵权必究======

—— 构建可信、可审计、抗攻击的工具层

核心原则
“永不信任,始终验证”(Never Trust, Always Verify)
“最小能力原则”(Principle of Least Capability)


5.1 常见工具实现详解:从功能到安全闭环

5.1.1 文本检索(RAG / Vector DB)工具实现细节

对抗RAG注入攻击

  • 输入净化
    • 对查询文本执行 defang_urls()(将 http:// 转为 hxxp://
    • 移除控制字符(\x00-\x1f)防止分隔符注入
  • 输出沙箱化
    • 从向量库返回的文本需经 语义安全过滤器 重写:
返回列表