图片MLYearning

美国西北大学最近公布了定制生成预训练变换器（GPT）中的一个关键漏洞。

尽管这些先进的人工智能聊天机器人具有多功能性和适应性，但它们很容易受到提示注入攻击，从而有可能暴露敏感信息。

定制 GPT 是利用 OpenAI 的 ChatGPT 及其 GPT-4 Turbo Large Language Model 开发的，其中包含特殊元素，如特定提示、数据集和专门任务的处理指令。

图片解密

但是，未经授权的人很容易获取这些定制和创建过程中使用的任何机密数据。

解密公司的一项实验表明，通过基本的提示黑客技术，可以轻松提取定制的 GPT'完整提示和机密数据。

研究人员对 200 多个自定义 GPT 进行了测试，发现出现此类漏洞的可能性很高，包括可能提取初始提示和访问私人文件。

研究强调了两大风险：知识产权受损和用户隐私泄露。

攻击者可以利用 GPT 提取核心配置和提示（系统提示提取）或泄露机密训练数据集（文件泄露）。

事实证明，现有的防御措施（如防御性提示）对更复杂的对抗性提示无效。

更加脆弱？

研究人员认为，需要采取更全面的方法来保护这些人工智能模型，并强调有决心的攻击者很可能会利用当前的漏洞。

该研究呼吁人工智能界开发更强大的安全措施，并指出简单的防御提示不足以抵御这种先进的利用技术。

随着 GPT 定制化程度的不断提高，它将带来巨大的发展潜力，这项研究提醒我们注意其中的安全风险。

建议用户谨慎行事，尤其是在处理敏感数据时，强调需要在不损害用户隐私和安全的情况下加强人工智能的安全性。

您可以阅读西北大学的完整研究报告这里 .