AI在线 AI在线

​OpenAI 加强对 ChatGPT 恶意账户的打击力度

近日,OpenAI 发布报告,强调其人工智能服务 ChatGPT 不容许恶意使用。 随着 ChatGPT 用户人数激增,OpenAI 注意到一些不法分子利用该平台进行违规活动,因而采取了措施,已暂停了数十个可疑账户。 根据最新数据显示,ChatGPT 的周活跃用户已突破4亿,短短三个月内新增用户超1亿,这也引发了对该服务使用道德和法律层面的关注。

近日,OpenAI 发布报告,强调其人工智能服务 ChatGPT 不容许恶意使用。随着 ChatGPT 用户人数激增,OpenAI 注意到一些不法分子利用该平台进行违规活动,因而采取了措施,已暂停了数十个可疑账户。根据最新数据显示,ChatGPT 的周活跃用户已突破4亿,短短三个月内新增用户超1亿,这也引发了对该服务使用道德和法律层面的关注。

ChatGPT

在报告中,OpenAI 明确指出,任何使用其工具进行诈骗或恶意行为的行为都是被禁止的。最近,公司调查了几个涉及虚假招聘的案件,发现并禁止了多个相关账户。例如,有一个账户被发现通过伪造的新闻报道来抹黑美国,甚至以中文媒体的名义在拉丁美洲发布这些文章。

此外,还有一些来源于柬埔寨的账户,利用 ChatGPT 进行翻译和生成评论,帮助 “网络爱情诈骗” 者在社交媒体平台(如 X、Facebook 和 Instagram)上进行诈骗。

OpenAI 表示,已将其调查结果与其他行业公司(如 Meta)分享,以应对 ChatGPT 上发生的不当行为。通过这些行动,OpenAI 希望维护平台的良好声誉,并保护用户免受诈骗的侵害。

作为一家领先的 AI 公司,OpenAI 将继续监测其服务的使用情况,以确保技术不被滥用。该公司强调,维护用户信任是其首要任务,未来将进一步加强对恶意账户的监控和管理。

划重点:

🌟 OpenAI 已暂停数十个可疑账户,打击 ChatGPT 的恶意使用行为。

📰 报告指出,某些账户利用 ChatGPT 伪造新闻和求职资料,进行诈骗。

🔗 OpenAI 与其他科技公司分享调查结果,致力于维护平台的信誉与安全。

相关资讯

谷歌AI大显身手:诈骗行为减少 80%,保障网络安全新举措来袭

谷歌公司近日在其官方博客上公布了最新成果,强调通过 AI 技术在打击网络诈骗方面取得的显著成效。 根据谷歌发布的《Fighting Scams in Search》报告,诈骗行为,尤其是冒充航空公司客服的骗局,在谷歌搜索引擎中的出现频率减少了超过80%。 这一成就标志着谷歌在保护用户安全和维护网络环境方面迈出了重要一步。
5/9/2025 9:01:00 AM
AI在线

AI 语音诈骗分子冒充意大利国防部长,盯上多名商界精英

据彭博社报道,近日意大利发生了一起利用人工智能语音工具实施诈骗的事件。诈骗分子伪装成意大利国防部长克罗塞托(Guido Crosetto)及其团队成员,试图说服意大利一些顶级企业家向海外汇款。
2/10/2025 12:00:20 PM
远洋

研究:2000 人中仅两人能准确识别深度伪造内容

随着深度伪造技术(deepfake)的不断发展,人们对虚假信息、诈骗和身份盗窃的担忧日益加剧。一项最新研究显示,人们对 AI 工具的认知水平极低,难以有效识别深度伪造内容。
2/19/2025 8:04:25 AM
远洋
  • 1