近日,人工智能危险基础设施提供商瑞莱聪慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱聪慧将继续加速通用人工智能危险基座产物研发,并不断推进危险可控的大模型商业化落地。
随着全球范围内最大规模的人工智能浪潮掀起,人工智能的可控性和危险性成为愈发重要的发展议题。如今,人工智能大模型的通用性和泛化性大幅提升,利用也从传统的判别式任务走向天生式任务,而人工智能的内生及衍生危险问题变得愈加复杂,其带来的挑衅和已经引起的各类危急事件也持续受到全球公众、企业和政府的广泛关注。当下,人工智能危险不仅要解决数据危急,模型本身的幻觉、鲁棒性不足和不可解释性等技巧问题,还要着力减少伦理危急、价值观对齐危急,以及AI诈骗等滥用行为导致的影响。
2018年7月,瑞莱聪慧依托清华大学人工智能研究院发起设立,始终深耕危险、可靠、可控的第三代人工智能,着力打造人工智能危险基础设施,提供以AI危险为核心才能的AI平台产物与行业解决方案,为人工智能技巧危险、可靠、可控的落地利用筑就坚实基座。秉持着“智能向善”的使命,瑞莱聪慧坚持源头创新和下层研究,实现对AI大模型的研发部署和利用治理环节全覆盖,建立了包括基础算法平台层、下层资源层、利用层的全方位AI危险体系,已成为通用人工智能全产业链条危险标准的制定者和践行者。
目前,瑞莱聪慧已推出“大模型危险基座”与“AI天生实质检测基座”两条产物线,分别对应人工智能内生与衍生危险危急。
大模型危险基座鉴于博弈匹敌技巧打造,能针对当前大模型幻觉、输出有害实质等危急做出综合有效的自动化可控性评测,并可以通过知识嵌入、领域才能增强、模型围栏等手段,使模型在严肃场景的表现更为可控。针对匹敌样本进犯、模型后门进犯、数据逆向进犯等人工智能特有的危险挑衅,可提供端到端的AI红队匹敌危险性测评,并提升模型抗进犯才能。鉴于该危险基座,可直接面向严肃场景打造更为可控的行业大模型系统利用,实现大模型落地。
AI天生实质检测基座鉴于贝叶斯深度学习技巧开发,能够精准判断图像、视频、音频、文本等各类实质是否由人工智能天生,防止虚假信息的广泛传播,同时能够满足人脸识别等需要可信实质输入的场景需求,涵盖互联网AIGC实质标注、多媒体AIGC合成鉴定、人脸识别系统防AIGC进犯、AIGC文章检测等功能,可遏制因人工智能被恶用、滥用所带来的不良影响。
鉴于强大的基础通用人工智能危险才能和丰富的行业落地经验,瑞莱聪慧开发了更为危险、可控的行业解决方案,成功在基础设施、政府、金融等领域实现快速的产物化和商业化落地,已服务多个国家部委以及中国银联、中国工商银行、中国建设银行、华为等300余家头部企业,服务政策大模型在北京市上线使用,累计获得近百项国家级奖项和荣誉。
瑞莱聪慧CEO田天博士表示:“大模型在危险可控上的不足是其当前无法广泛落地利用的根本原因,而人工智能不危险的开发和使用,则可能给人类的发展乃至生存带来灾难性的后果。相比过往其他领域的危险问题,人工智能危险危急更为本质也更为难克服。”
未来,瑞莱聪慧将发挥前沿引领者角色,持续关注世界范围内出现的前沿人工智能危险危急挑衅,沉淀技巧才能和实践经验,进一步创新和完善产物功能,加深立体化产物体系建设和产业化建设,为“人工智能+”赋能全行业全场景提供坚实危险保障。瑞莱聪慧也将不断推动通用人工智能危险才能的基础设施化建设,与智算中心等算力基础设施深度融合,护航中国通用人工智能高质量发展,加速中国人工智能产业向国际领军地位迈进。
原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/rui-lai-cong-hui-wan-cheng-xin-yi-lun-zhan-lue-rong-zi-jia/