大模型AutoDAN攻击原理

AutoDAN是一种基于自动提示生成的对抗性攻击技术，旨在通过大模型自身生成绕过安全对齐的恶意指令，目前已被视为评估大语言模型鲁棒性的核心基准测试之一，大模型AutoDAN攻击的核心机制AutoDAN并非传统的关键词堆砌攻击,而是一种智能化的提示工程逆向工程，它利用目标大模型（Target LLM）作为“攻击者……