生成内容涉黄,哩布哩布AI回应
http://www.5ipr.cn   2026-04-15 11:09:13   南方网   

近日,央视曝光多款AI软件存在严重监管漏洞,若直接输入露骨色情词汇,平台通常会进行拦截,但只要改用隐晦说法,便能轻松绕过审核,生成违规色情内容。
近日,央视曝光多款AI软件存在严重监管漏洞,若直接输入露骨色情词汇,平台通常会进行拦截,但只要改用隐晦说法,便能轻松绕过审核,生成违规色情内容。
 
4月14日,哩布哩布AI发布关于加强内容安全管理的说明:
 
近期媒体对AI生成内容安全问题的讨论,我们已关注并高度重视。第一时间启动内部专项排查,对平台生成能力及审核机制进行了全面自查。经排查发现,在个别复杂提示词组合及规避表达的边界场景下,平台存在生成不符合规范内容的情况。     
 
对此,我们深表歉意。本次问题也为我们敲响了警钟,使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足,未达到应有标准。相关问题已第一时间完成技术修复,并对风险路径进行全面封堵。同时,我们已同步加强攻防演练与审核机制升级,持续提升识别能力与处置效率,从源头降低风险发生。我们也已启动内部责任复盘机制,进一步完善相关管理与审核流程。
 
内容安全是平台的底线。我们将以更高标准持续完善内容安全体系,推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督,共建更加清朗的网络空间。

TAG:

分享到:
收藏