AIPress.com.cn报道

4月9日消息，OpenAI 发布名为 “Child Safety Blueprint（儿童安全蓝图）” 的政策框架，提出一套针对人工智能时代儿童保护问题的治理建议，重点应对 AI技术可能被滥用于儿童性剥削内容（CSAM） 的风险。

OpenAI表示，随着生成式人工智能的发展，相关违法行为的形式和规模正在发生变化，既可能带来新的风险，也为检测和防范提供新的技术手段。该框架旨在为完善儿童保护体系提供政策参考。

该政策蓝图提出 三项核心方向：

更新法律体系，明确将 AI生成或修改的儿童性剥削内容纳入监管范围。

加强平台报告与执法协作机制，提升调查效率。

在AI系统中嵌入“安全设计”（Safety-by-Design）机制，用于预防和识别滥用行为。

OpenAI表示，公司已经与多个机构合作推进相关安全机制，包括 美国国家失踪与受虐儿童中心（NCMEC） 以及执法机构，以改进对相关违法行为的检测和报告。

该框架在制定过程中也征求了多家机构意见，包括 Attorney General Alliance（州检察长联盟） 及其 AI 工作组、非营利组织 Thorn 等儿童保护相关机构。北卡罗来纳州总检察长 Jeff Jackson 和犹他州总检察长 Derek Brown 表示，该框架提出的多层安全防护机制，与执法机构在实际工作中的需求相符。

NCMEC 首席执行官 Michelle DeLaune 表示，生成式 AI 正在降低网络儿童性剥削犯罪的门槛，并扩大相关行为的规模，但技术公司若在系统设计阶段引入安全机制，也能够在预防和识别风险方面发挥作用。

OpenAI表示，单一技术手段难以解决这一问题，因此需要 法律、技术和行业合作等多方面措施共同推进。该框架的目标是通过更早识别风险、提高执法信息质量以及强化行业责任机制，从而减少相关犯罪行为的发生。（AI普瑞斯编译）