清华系AI公司瑞莱智慧获新一轮融资,推进安全可控大模型落地

集微网消息,近日,瑞莱智慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱智慧将继续加速通用人工智能安全基座产品研发,并不断推进安全可控的大模型商业化落地。

2018年7月,瑞莱智慧依托清华大学人工智能研究院发起设立,聚焦安全、可靠、可控的第三代人工智能,着力打造人工智能安全基础设施,提供以 AI 安全为核心能力的 AI 平台产品与行业解决方案。

目前,瑞莱智慧已推出“大模型安全基座”与“AI 生成内容检测基座”两条产品线,分别对应人工智能内生与衍生安全风险。

据悉,大模型安全基座基于博弈对抗技术打造,能针对当前大模型幻觉、输出有害内容等风险做出综合有效的自动化可控性评测,并可以通过知识嵌入、领域能力增强、模型围栏等手段,使模型在严肃场景的表现更加可控。针对对抗样本攻击、模型后门攻击、数据逆向攻击等人工智能特有的安全挑战,可提供端到端的 AI 红队对抗安全性测评,并提升模型抗攻击能力。基于该安全基座,可直接面向严肃场景打造更加可控的行业大模型系统应用,实现大模型落地。

AI 生成内容检测基座基于贝叶斯深度学习技术开发,能够精准判断图像、视频、音频、文本等各类内容是否由人工智能生成,防止虚假信息的广泛传播,同时能够满足人脸识别等需要可信内容输入的场景需求,涵盖互联网 AIGC 内容标注、多媒体 AIGC 合成鉴定、人脸识别系统防 AIGC 攻击、AIGC 文章检测等功能,可遏制因人工智能被恶用、滥用所带来的不良影响。

据悉,瑞莱智慧解决方案已成功在基础设施、政府、金融等领域实现快速的产品化和商业化落地。(校对/韩秀荣)


夕夕海 » 清华系AI公司瑞莱智慧获新一轮融资,推进安全可控大模型落地

发表回复