国家知识产权局信息显示,同方知网数字科技有限公司申请一项名为“一种大模型安全防护方法、系统及电子设备”的专利,公开号CN121682839A,申请日期为2025年11月。
专利摘要显示,本发明属于人工智能安全领域,公开了一种大模型安全防护方法、系统及电子设备。针对现有一刀切过滤或静态规则无法兼顾安全与效率的问题,提出敏感词硬过滤、注入检测及内容安全双模型初筛,计算模型输出结果的风险差与不确定性指标的综合风险得分,结合预设动态确定阈值,将用户请求分流至低风险、中风险和高风险三路处理。其中,低风险使用轻量模型快速验证,高风险直接拒绝,中风险则执行预先制定的自适应流式生成控制策略,采用自适应滑动窗口监控生成并触发早停和自修复。上述方案能够在满足提示词注入和有害内容识别准确率的同时显著降低平均延迟和计算成本,从而提高大模型的安全性和实用性。
天眼查资料显示,同方知网数字科技有限公司,成立于1999年,位于北京市,是一家以从事互联网和相关服务为主的企业。企业注册资本24340万人民币。通过天眼查大数据分析,同方知网数字科技有限公司共对外投资了8家企业,参与招投标项目10844次,财产线索方面有商标信息34条,专利信息349条,此外企业还拥有行政许可11个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯