AI生成虚假信息治理难点
-
AI大模型解决不了骗人问题怎么回事,原因究竟是什么?
AI大模型不是反诈神器,而是骗术的“放大器”很多人认为AI大模型能识别谎言、过滤诈骗,但现实恰恰相反:当前AI大模型既无法从根源上阻止骗人行为,反而可能被骗子利用来批量生成更逼真的骗局,原因在于,大模型的本质是“概率预测”,它擅长生成看似合理的内容,却缺乏真实的意图判断和事实核验能力,骗人问题的核心是“信任漏洞……
AI大模型不是反诈神器,而是骗术的“放大器”很多人认为AI大模型能识别谎言、过滤诈骗,但现实恰恰相反:当前AI大模型既无法从根源上阻止骗人行为,反而可能被骗子利用来批量生成更逼真的骗局,原因在于,大模型的本质是“概率预测”,它擅长生成看似合理的内容,却缺乏真实的意图判断和事实核验能力,骗人问题的核心是“信任漏洞……