近期，SEO 专家詹姆斯・布罗克班克在测试中发现，人工智能工具 ChatGPT 在提供商业推荐时，可能引用了不可靠的信息来源，包括被黑客攻击的网站和过期的域名。这一现象引发了业内人士的关注，提醒用户在使用 AI 工具时，务必对其推荐信息进行核实。
在测试中，布罗克班克发现，ChatGPT 在推荐某些公司或服务时，有时引用了被篡改或误导性的内容。这些内容通常出现在被黑客入侵的高权重网站上，或是已经被重新注册并用于发布无关信息的过期域名。由于这些域名原本具有较高的 “权威性”，ChatGPT 在生成推荐时仍然将其视为可信来源。
布罗克班克指出，这种情况主要有两个方面的问题:一是被黑客攻击的网站，这些网站可能被恶意植入与原内容无关的信息;二是过期域名的再利用，一些机构或个人会购买这些域名，并发布与原主题无关的内容，借助其原有的搜索引擎权重误导 AI 系统。他表示:“重建一个域名，仅仅是为了让语言模型引用它?这就是操控。”
这项发现对企业和用户都有着深远的影响。对于企业来说，AI 推荐已成为品牌曝光的重要渠道，但如果推荐内容来自不可靠的信息源，可能会误导消费者，甚至损害品牌声誉。而对于用户而言，盲目信任 AI 的推荐可能导致信息判断的失误。
因此，布罗克班克呼吁 AI 开发者加强对操控内容的识别与过滤机制，以提升系统的信息筛选能力。他还建议用户在使用 ChatGPT 等 AI 工具时，务必对推荐的信息来源进行核实，而不是全盘接受。“我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。” 他强调道。
随着 AI 技术的迅速发展，如何保障信息的可靠性，已经成为一个重要议题。用户在享受便捷的同时，也需保持警惕，以避免潜在的误导和风险。
划重点:
🌐 ChatGPT 在商业推荐中可能引用被黑客攻击的网站和过期域名，信息来源不可靠。
🔍 用户应对 AI 推荐的信息进行核实，而不是盲目信任，避免信息误判。
🚀 专家呼吁 AI 开发者加强对操控内容的识别与过滤机制，提高信息筛选能力。
