美国倡导组织要求 FTC 停止发布新的 OpenAI GPT

马斯克、苹果联合创始人等签署联名公开信呼吁暂停大型生成 AI 实验后(CAIDP 主席 Marc Rotenberg 也签署了该公开信),非营利研究组织人工智能和数字政策中心 (CAIDP) 美国联邦贸易委员会 (FTC) 提起申诉,要求对 Open AI 和其产品 ChatGPT 进行调查。并要求 FTC 暂停发布更多新的 GPT 商业版本,直到建立适当的保障措施;同时向 FTC 申请对生成人工智能行业进行监管。 

CAIDP 认为 Open AI 违反了消费者保护规则,称 GPT-4“有偏见、具有欺骗性,并对隐私和公共安全构成风险。输出无法证明或复制,在部署之前没有进行独立评估”。并引用 FTC 此前宣布的“人工智能的使用应该是透明的、可解释的、公平的,并且在促进问责制的同时在经验上是合理的”内容表示,GPT-4 没有满足上述任一要求。

申诉内容列举了 GPT-4 的潜在威胁,包括可能产生恶意代码和高度定制的宣传,以及有偏见的训练数据可能导致在招聘等方面形成刻板印象或不公平的种族和性别偏好。

它还指出了 OpenAI 产品界面在隐私方面的重大缺陷,并列举了最近的一个漏洞事件 —— 将 OpenAI ChatGPT 历史记录和可能的支付细节暴露给其他用户。而“OpenAI 在完全了解这些风险的情况下,向公众发布了 GPT-4,供商业使用”。

CAIDP 警告称,ChatGPT 将促进欺骗性的商业声明和广告。FTC 应该利用联邦贸易委员会法第 5 条规定的调查、起诉和禁止“商业中或影响商业的不公平或欺骗行为或做法”的权力来调查 OpenAI。

该组织声称,“GPT-4 的商业发布违反了 FTC 法案第 5 条,FTC 对企业使用和宣传人工智能产品的既定指南,以及美国政府正式认可的人工智能治理的新兴规范和主要专家和科学协会推荐的 AI 通用准则”

CAIDP 要求 FTC 停止 GPT 模型的任何进一步商业部署,并要求在未来推出任何模型之前对模型进行独立评估。以及提供一种可公开访问的报告工具,类似于允许消费者提出欺诈投诉的工具;并要求 FTC 就生成人工智能系统的规则制定明确的规则,建立在该机构对人工智能工具正在进行但仍相对非正式的研究和评估之上。

“我们支持增长和创新。我们认识到人工智能可能提供的广泛机会和好处。但是,除非我们能够保持对这些系统的控制,否则我们将无法管理由此产生的风险或可能出现的灾难性后果。我们要求  FTC “按下暂停键”,以便我们的机构、我们的法律和我们的社会有机会迎头赶上。在我们失去控制之前,我们需要对我们创造的技术主张代理权。”

猜你喜欢

转载自www.oschina.net/news/234831/ftc-should-stop-openai-new-gpt-models