人工智能领域的发展将安全问题推到了风口浪尖，OpenAI'的ChatGPT和亚马逊'的Q都在努力解决隐私泄露问题。

OpenAI 迅速解决了 ChatGPT 中的一个漏洞，该漏洞允许提取公司内部数据。

该技术涉及促使 ChatGPT 无限制地重复一个单词，被贴上了垃圾邮件和违反 OpenAI'service 条款的标签。

OpenAI's 快速反应

来自华盛顿大学和谷歌 DeepMind 等知名机构的研究人员发现，促使 ChatGPT 进行永久性单词重复会泄露 OpenAI'pre-training distribution 中的私人信息。

不过，报告发布后，OpenAI 采取了预防措施，ChatGPT-3 和 GPT-4 现在会对试图进行类似操作的用户发出警告。

内容政策和安全问题

虽然OpenAI'的内容政策没有明确提及永久循环，但它谴责了垃圾邮件等欺诈行为。更值得注意的是，服务条款明确禁止试图访问私人信息或公开OpenAI'人工智能工具的源代码。

该公司将拒绝执行无限期重复请求的原因归结为处理限制、字符限制、网络和存储限制以及执行此类命令不切实际。

DDoS 和持续性挑战

这是继上个月 ChatGPT 遭到分布式拒绝服务 (DDoS) 攻击之后发生的又一起事件。

OpenAI 承认异常流量模式导致了周期性中断。请 OpenAI 就这一最新事件发表评论的请求仍未得到答复。

亚马逊作为人工智能领域的重要参与者，最近推出的 Q 聊天机器人也面临着自己的挑战。

有报道称，亚马逊可能会泄露私人信息，这引发了人们对 OpenAI'情况的比较。亚马逊对这一消息轻描淡写，将其归因于员工通过内部渠道分享反馈。尽管亚马逊声称不存在安全问题，但随着 Q 从预览产品过渡到全面上市，人们的担忧仍然挥之不去。