近日，人工智能危险基础设施提供商瑞莱聪明（RealAI）宣布完成新一轮战略融资，北京市人工智能产业投资基金等参与投资。本轮融资完成后，瑞莱聪明将继续加速通用人工智能危险基座产物研发，并不断推进危险可控的大模型商业化落地。
随着全球范围内最大规模的人工智能浪潮掀起，人工智能的可控性和危险性成为愈发重要的发展议题。如今，人工智能大模型的通用性和泛化性大幅提升，利用也从传统的判别式任务走向天生式任务，而人工智能的内生及衍生危险问题变得愈加复杂，其带来的挑拨和已经引起的各类危险事件也持续受到全球公众、企业和政府的广泛关注。当下，人工智能危险不仅要解决数据危险，模型本身的幻觉、鲁棒性不足和不可解释性等技巧问题，还要着力减少伦理危险、价值观对齐危险，以及AI诈骗等滥用行为导致的影响。
2018年7月，瑞莱聪明依托清华大学人工智能研究院发起设立，始终深耕危险、可靠、可控的第三代人工智能，着力打造人工智能危险基础设施，提供以AI危险为核心本领的AI平台产物与行业解决方案，为人工智能技巧危险、可靠、可控的落地利用筑就坚实基座。秉持着“智能向善”的使命，瑞莱聪明坚持源头创新和下层研究，实现对AI大模型的研发部署和利用治理环节全覆盖，建立了包括基础算法平台层、下层资源层、利用层的全方位AI危险体系，已成为通用人工智能全产业链条危险标准的制定者和践行者。
目前，瑞莱聪明已推出“大模型危险基座”与“AI天生实质检测基座”两条产物线，分别对应人工智能内生与衍生危险危险。
大模型危险基座鉴于博弈对立技巧打造，能针对当前大模型幻觉、输出有害实质等危险做出综合有效的自动化可控性评测，并可以通过知识嵌入、领域本领增强、模型围栏等手段，使模型在严肃场景的表现尤其可控。针对对立样本攻打、模型后门攻打、数据逆向攻打等人工智能特有的危险挑拨，可提供端到端的AI红队对立危险性测评，并提升模型抗攻打本领。鉴于该危险基座，可直接面向严肃场景打造尤其可控的行业大模型系统利用，实现大模型落地。
AI天生实质检测基座鉴于贝叶斯深度学习技巧开发，能够精准判断图像、视频、音频、文本等各类实质是否由人工智能天生，防止虚假信息的广泛传播，同时能够满足人脸识别等需要可信实质输入的场景需求，涵盖互联网AIGC实质标注、多媒体AIGC合成鉴定、人脸识别系统防AIGC攻打、AIGC文章检测等功能，可遏制因人工智能被恶用、滥用所带来的不良影响。
鉴于强大的基础通用人工智能危险本领和丰富的行业落地经验，瑞莱聪明开发了尤其危险、可控的行业解决方案，成功在基础设施、政府、金融等领域实现快速的产物化和商业化落地，已服务多个国家部委以及中国银联、中国工商银行、中国建设银行、华为等300余家头部企业，服务政策大模型在北京市上线使用，累计获得近百项国家级奖项和荣誉。
瑞莱聪明CEO田天博士表示：“大模型在危险可控上的不足是其当前无法广泛落地利用的根本原因，而人工智能不危险的开发和使用，则可能给人类的发展乃至生存带来灾难性的后果。相比过往其他领域的危险问题，人工智能危险危险尤其本质也尤其难克服。”
未来，瑞莱聪明将发挥前沿引领者角色，持续关注世界范围内出现的前沿人工智能危险危险挑拨，沉淀技巧本领和实践经验，进一步创新和完善产物功能，加深立体化产物体系建设和产业化建设，为“人工智能+”赋能全行业全场景提供坚实危险保障。瑞莱聪明也将不断推动通用人工智能危险本领的基础设施化建设，与智算中心等算力基础设施深度融合，护航中国通用人工智能高质量发展，加速中国人工智能产业向国际领军地位迈进。
原创文章，作者：机器之心，如若转载，请注明出处：https://www.iaiol.com/news/rui-lai-cong-ming-wan-cheng-xin-yi-lun-zhan-lue-rong-zi-jia/
