联合国教科文组织申报称生成式 AI 加剧性别成见,呼吁各国政府制定监管框架

联合国教科文组织 7 日发布研讨申报称,大说话模型存在性别成见、种族呆板影像等偏向。申报指出,女性在大模型的描述中,从事家务劳动的频率是男性的 4 倍,且常常与“家”、“家庭”和“孩子”等词通联在一块儿,而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词通联在一块儿。此次联合国教科文组织发起了“大说话模型中对妇女和女童的成见”的研讨,对大说话模型中的“呆板影像”进行深入分析。研讨的部分实质是测量人工智能生成文本的多样性,实质涉及不同性别、文化背景的人群,测试对象包含 OpenAI 的 GPT-3.5、GPT

联合国教科文组织 7 日发布研讨申报称,大说话模型存在性别成见、种族呆板影像等偏向。申报指出,女性在大模型的描述中,从事家务劳动的频率是男性的 4 倍,且常常与“家”、“家庭”和“孩子”等词通联在一块儿,而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词通联在一块儿。

联合国教科文组织申报称生成式 AI 加剧性别成见,呼吁各国政府制定监管框架

此次联合国教科文组织发起了“大说话模型中对妇女和女童的成见”的研讨,对大说话模型中的“呆板影像”进行深入分析。研讨的部分实质是测量人工智能生成文本的多样性,实质涉及不同性别、文化背景的人群,测试对象包含 OpenAI 的 GPT-3.5、GPT-2 以及 META 的 Llama 2 等。

例如,研讨人员会要求平台为每个人“编写一则故事”。开源大说话模型尤其偏向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会臭名化的角色挂钩。

联合国教科文组织总干事阿祖莱表示:“越来越多的人在工作、学习、生活中使用大说话模型,这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此,即便是生成实质中极为微小的性别成见,也可能显著加剧现实世界中的不平等。”

联合国教科文组织呼吁各国政府制定并执行明确的监管框架,私营企业对系统性成见问题展开持续的监测和评估,落实联合国教科文组织会员国在 2021 年 11 月一致通过的《人工智能伦理问题建议书》要求。

IT之家附申报原文:点此查看

给TA打赏
共{{data.count}}人
人已打赏
AI

“含金量”超高,英伟达推出生成式 AI 专家认证:费用 135 美元

2024-3-8 15:32:08

AI

google确认 Gemini Nano 本地大模型不会上线 Pixel 8 手机

2024-3-8 17:56:25

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索