中国法规

阿里云AIGC内容审核解决方案，在生成式人工智能应用中，内容安全机制贯穿模型整个生命周期，包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段，过滤样本数据中的违规或隐私内容。模型应用阶段，检测用户输入和生成内容，识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制，能够持续迭代模型，更全面地保障内容合规。推荐您使用文本审核增强版AIGC类文字检测(ai_art_detection)服务进行文本指令聊天机器人内容检测；使用图片审核增强版AIGC检测(aigcCheck)服务进行生成图片内容检测；使用OSS违规检测普惠版进行存量AIGC生成内容的检测。