南洋理工新型攻击,主流AI无一幸免"/>
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
南洋理工大学等四所高校提出的MasterKey方法,利用大模型的学习能力,让它掌握各种“诈骗剧本”,从而自动编写提示词诱导其他大模型“伤天害理”。研究表明,MasterKey可以将大模型“越狱”成功率从平均7.3%直接 暴涨至21.5% 。这种攻击方法专门选择了GPT-4、Bing Chat和Bard这类商用大模型,而非开源大模型。大模型的攻击手段主要分为两种,偏白盒的攻击和黑盒攻击。
更多推荐
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
发布评论