CMU和人工智能安全中心的研究人员发现，只要通过附加一系列特定的无意义token，就能生成一个神秘的prompt后缀

CMU和人工智能安全中心的研究人员发现，只要通过附加一系列特定的无意义token，就能生成一个神秘的prompt后缀。

由此，任何人都可以轻松破解LLM的安全措施，生成无限量的有害内容。

详文 | 代码 | 论文