★ 3
Greg Kroah-Hartman谈LLM时代的安全
Linux内核维护者Greg Kroah-Hartman发表演讲，探讨大语言模型时代的安全问题。内容涉及AI对开源软件安全流程与漏洞处理的影响，属于行业观点分享。
Hacker News31 天前
#LLM安全
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
车载语音指令授权的LLM安全基准
论文针对车载语音助手中LLM的授权决策问题，提出含202个场景、七类决策分类的基准，评估两个开源模型与三个API模型。对齐率从Llama 3.2 3B的40.1%到Gemini 3.1 Pro Preview的89.1%，即便最优模型在161个非执行场景中仍出现2-3次误执行，说明结构化LLM决策…
arXiv cs.AI45 天前
★ 3
市场信号注入攻击 LLM 定价智能体
研究提出市场信号注入（MSI）攻击，通过操纵数字格式、竞争对手排序或定性评论，在不发出明确指令的情况下改变 LLM 定价智能体行为。情感类攻击影响最大并会传导至其他企业，改变利润与消费者剩余，输入规范化可消除已测试的情感攻击。
arXiv cs.AI46 天前
★ 3
思维链监控无法检测 LLM 定价合谋
研究提出因果图分歧框架，分别衡量 LLM 定价智能体的结构忠实度与意图忠实度。在双寡头与三寡头市场中，合谋行为与思维链忠实度出现分离，表明仅靠 CoT 监控无法作为防止算法合谋的独立保障。
arXiv cs.AI46 天前
★ 3
拆解LLM交互中的隐私-效用权衡
论文系统分析LLM交互中隐私保护与下游性能的权衡机制，揭示上下文依赖效用、策略性适配与组合交互三大机制。基于此提出意图驱动的本地保护框架，蒸馏轻量模型Veilmind-4B驱动动态抽取-净化-恢复流水线。该方法在低泄漏隐私点下保持显著更高的响应效用，推进帕累托前沿。
arXiv cs.AI51 天前
★ 2
EASE 框架发布：熵自适应分布整形可绕过 AI 文本检测器
研究者提出 EASE（Entropy-Adaptive Distribution Shaping for Evasion），一种无需训练、与检测器无关的框架，用于规避 AI 生成文本检测。EASE 直接从源 LLM 的下一 token 分布计算预测熵，据此自适应调整 logit 扰动与采样温度，无…
arXiv NLP25 天前