ChatGPT中文网免费ChatGPT中文版在线官网文心一言国内入口体验网站

机器之心报道

编辑：陈萍、小舟

一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。

几天前，马斯克、Yoshua Bengio 等人联名签署公开信，呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在，又有人要叫停已经发布的 GPT-4。

这次叫停 GPT-4 的是非营利组织人工智能与数字政策中心（CAIDP）。CAIDP 请求美国联邦贸易委员会（FTC）调查 OpenAI 公司并禁止该公司进一步发布 GPT-4。

文件地址：
https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出这份申请的原因是他们认为「OpenAI 发布的消费级产品 GPT-4 存在偏见、欺骗性，并且对隐私和公共安全构成风险。模型的输出无法证明或复现，且在部署之前没有进行独立评估」。

CAIDP 呼吁对美国所有商业人工智能产品进行独立监督和评估，并确保建立必要的「保护措施」，来保护消费者、企业和商业市场。

此前，FTC 已经宣布一个人工智能标准，即「在促进问责制的同时，要求人工智能的使用是透明的、可解释的、公平的，并在经验上是合理的」，CAIDP 称「OpenAI 的 GPT-4 不满足这些要求中的任何一个」。

距离 GPT-4 发布仅过去两周，人们已经对这类强大的 AI 模型产生了巨大的分歧。一方面，想叫停 GPT-4 等强大模型的一类人认为这些模型会给信息安全甚至人类社会构成较大风险；另一方面，一些人认为这正是人工智能蓬勃发展的好时机，我们应该推动技术的加速进步。

有趣的是，OpenAI CEO Sam Altman 发布了一条新推特：「在风暴的中心保持平静。」这或许是他对于最近一系列「暂停 GPT-4 等模型研究」呼吁的回应。

在风险方面，OpenAI 在发布时表示已让外部专家评估 GPT-4 带来的潜在风险。然而，CAIDP 在提交给 FTC 的申请中明确指出 GPT-4 违反了哪些法案。

CAIDP 认为 GPT-4 严重影响了商业公平，称：「GPT-4 的商业发布违反了 FTC 法案第 5 节、FTC 就人工智能产品的使用和广告对企业制定的标准，以及人工智能治理的新兴规范等等。」

此外，OpenAI 没有透露 GPT-4 的任何技术细节。这也是 CAIDP 向 FTC 提出申请的原因之一。

CAIDP 表示：「OpenAI 没有透露有关架构、模型大小、硬件、计算资源、训练技术、数据集构建或训练方法的细节，而研究界通常的做法是记录大型语言模型的训练数据和训练技术，但 OpenAI 选择不为 GPT-4 做这些事。特别地，生成式人工智能模型不是寻常的消费品，因为它们在使用的过程中可能会表现出一些异常行为，而这些行为可能是其发布公司之前没有发现的。」

投诉细节

具体来说，CAIDP 在这份投诉申请中针对 GPT-4 和相关模型 ChatGPT 指出了一系列潜在风险。

例如，OpenAI 在文章《 GPT-4 System Card 》中已经明确表示，GPT-4 可能会强化和重现特定的偏见和世界观，包括对某些边缘群体的刻板印象和贬低联想。CAIDP 还引用了 OpenAI 公司的一篇博文，该博文称类似的大模型 ChatGPT 有时会响应有害指令或表现出有偏见的行为。

在提交给 FTC 的投诉中，CAIDP 表示「OpenAI 在充分了解风险的情况下，还是向公众发布了 GPT-4 ，以用于商业用途」。投诉还称，「《 GPT-4 System Card 》没有提供 OpenAI 在其测试期间进行的安全检查的详细信息，也没有详细说明 OpenAI 为保护儿童采取的任何措施，这也引发了对儿童使用 GPT-4 的担忧。」

CAIDP 还指出了欧洲消费者组织 BEUC 提出的担忧：「如果 ChatGPT 被用于消费者信贷或保险评分，那么它有没有可能会产生不公平和有偏见的结果？」这条推文也被作为引用出现在 CAIDP 的投诉申请中。

另外，在网络安全方面，ChatGPT 可被用于网络钓鱼、制作虚假文本，或是生成恶意代码。在隐私方面，CAIDP 表示本月有报道称 OpenAI 向其他用户显示了私人聊天记录。

在另一个案例中，一位 AI 研究人员介绍了 ChatGPT 是如何接管某人账户，查看聊天记录，并在他们没有意识到的情况下访问他们的账单信息。不过 OpenAI 修复了该漏洞。

CAIDP 还表示，GPT-4 能够从图片输入中提供文本回复，这一功能对个人隐私和个人自主权来说影响巨大，它能让用户将个人图像与详细的个人数据联系起来。据了解，OpenAI 已暂停发布图像到文本功能 ，但真实情况如何还不好说。

CAIDP 认为 FTC 应该禁止 OpenAI 对 GPT 的进一步商业部署，要求在部署之前和整个 GPT AI 生命周期对 GPT 产品进行独立评估，要求 OpenAI 遵守 FTC AI 标准，并建立一个可公开访问的 GPT-4 的事件报告机制，类似于 FTC 报告消费者欺诈的机制。

CAIDP 还敦促 FTC 进一步发布标准规范，以用作「生成式人工智能市场领域的产品基本标准」。

AI 学界，一场论战

从前两天千人联名要求暂停 GPT-4 后续 AI 大模型的研发，到今天 CAIDP 要求 FTC 调查 OpenAI 禁止发布新的商业版 GPT-4。短短一两天时间，各路讨论已经炸开了锅，AI 大佬以及各路大牛纷纷出来公开回应。他们当中有反对的，也有支持的。

在暂停 GPT-4 后续 AI 大模型的研发方面，图灵奖得主 Yoshua Bengio、特斯拉 CEO（OpenAI 联合创始人）伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是赞成派，他们已经在暂停巨型 AI 实验公开信上签了名。值得注意的是，CAIDP 的总裁兼创始人 Marc Rotenberg 也签署了这份公开信。

公开信地址：
https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不过一直抨击 ChatGPT 的 Yann LeCun 公开表示不会签署这封公开信，不同意这封公开信的内容。

俄勒冈州立大学名誉教授 Thomas G. Dietterich 在推特上表示「我也没签。这封信充斥着一堆可怕的修辞和无效或不存在的政策。一些重要的技术和政策问题，都在努力解决中。」 LeCun 公开表示「我同意」。

吴恩达也发文公开反对千人联名，并表示：「GPT-4 在教育、医疗保健、食品等方面都有很多新的应用，会帮助很多人。除非政府介入，否则实施暂停并阻止所有团队扩大 LLM 规模是不现实的。此外，让政府暂停他们不了解的新兴技术是反竞争的，这样就开了一个糟糕的先例，也是糟糕的政策。」

随后田渊栋也支持吴恩达的观点，「表明自己不会签署暂停令。并表示这种事情一旦开始，就没有办法停止或扭转这一趋势，这就是进化的必然。我们应该换个角度向前看，更好地理解 LLM，适应它并利用其力量，感受热度。」

刚刚宣布离开谷歌大脑的 Yi Tay（之前是谷歌大脑的高级研究员）表示：「如果禁言在网上胡乱讨论 LLM 的人 6 个月，我会签名。」