AI在线 AI在线

安全对齐

「越狱」事件频发，如何教会大模型「迷途知返」而不是「将错就错」？

「越狱」事件频发，如何教会大模型「迷途知返」而不是「将错就错」？
AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]论文的第一作者是香港中文大学（深圳）数据科学学院二年级博士生袁尤良，指导老师为香港中文大学（深圳）数据科学学院的贺品嘉教授和腾讯 AI Lab 的涂兆鹏博士。该工作是袁尤良在腾讯AI La
7/30/2024 10:55:00 AM
机器之心