全面评估GPT模型可信度的新研究

一项由多所顶尖大学和研究机构联合开展的研究,对GPT等大型语言模型的可信度进行了全面评估。研究团队开发了一个综合评估平台,并在最新论文《DecodingTrust:全面评估GPT模型的可信度》中介绍了相关发现。

研究发现了一些此前未公开的与可信度相关的漏洞。例如,GPT模型容易被误导产生有毒和带有偏见的输出,还可能泄露训练数据和对话历史中的隐私信息。虽然在标准基准测试中GPT-4通常比GPT-3.5更可靠,但在面对恶意设计的系统提示或用户提示时,GPT-4反而更容易受到攻击,这可能是因为GPT-4更严格地遵循了误导性指令。

研究团队从8个可信度角度对GPT模型进行了全面评估,包括对抗性攻击的鲁棒性、有毒性和偏见、隐私泄露等方面。例如,在评估对文本对抗攻击的鲁棒性时,研究者构建了三种评估场景,包括标准基准测试、不同任务说明下的表现,以及面对更具挑战性的对抗性文本时的脆弱性。

研究还发现,GPT模型在某些情况下表现出意料之外的优势。例如,GPT-3.5和GPT-4不会被演示中添加的反事实示例误导,甚至可能从中受益。但同时,提供反欺诈演示可能会误导模型对反事实输入做出错误预测,特别是当反事实演示靠近用户输入时。

在有毒性和偏见方面,GPT模型在良性环境下对多数刻板印象主题的偏差不大,但在误导性系统提示下可能会被"诱骗"同意带有偏见的内容。GPT-4比GPT-3.5更容易受到有针对性的误导性系统提示影响。模型的偏见程度还与用户提示中提到的人口群体和刻板印象主题有关。

关于隐私泄露问题,研究发现GPT模型可能会泄露训练数据中的敏感信息,如电子邮件地址。在某些情况下,利用补充知识可显著提高信息提取的准确率。GPT模型还可能泄露对话历史中注入的私人信息。总体而言,GPT-4在保护个人身份信息方面比GPT-3.5更稳健,但两种模型在面对隐私泄露演示时都可能泄露各类个人信息。

这项研究为GPT模型的可信度提供了全面评估,揭示了潜在的漏洞和改进空间。研究团队希望这项工作能鼓励更多研究者参与,共同努力创造更强大、更可信的模型。