瑞莱智慧发布全新AI安全平台RealSafe3.0

【瑞莱智慧发布全新AI安全平台RealSafe3.0】7月7日，清华大学人工智能研究院孵化企业瑞莱智慧RealAI在2023WAIC上发布了全新人工智能安全平台RealSafe3.0，该平台功能与OpenAI提出的“自动对齐研究员”类似，通过自动化的训练方法优化大模型。相较上一版本，RealSafe3.0新增了对通用大模型的评测，在评测维度上，它已覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度，且未来还会持续扩增测评维度的数量。据瑞莱智慧联合创始人、算法科学家萧子豪介绍，除评测功能外，RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，可帮助用户修复模型中的问题。(界面新闻)