★ 5
8点1氪丨茶百道涉IPO欺诈，被暂停交易；苹果连夜发布3款智能家居新品，总市值再创历史新高；DeepSeek将完成1000亿元融资
DeepSeek 最新一轮融资规模从 500 亿元翻倍至约 1000 亿元，投前估值约 5000 亿元，新进投资方包括石溪资本、中芯聚源、CPE 源峰、君联资本、吉利等。字节跳动 Seed 宣布成立 Model-Alignment & Preparedness 部门，由严林负责，加强智能体模型安全…
36氪19 天前
#大模型安全
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
研究提出有效性感知的 LLM 越狱评估方法
该研究提出SEAV框架，通过分解响应步骤并验证事实正确性，解决现有越狱评估中依赖语言合理性而忽视正确性的问题。实验表明，SEAV在多个基准上将越狱成功样本重新分类为无效，显著重塑了鲁棒性评估结果。
arXiv cs.AI60 天前
★ 3
DRYLAB-Bench：评估 LLM 智能体生物安全风险
研究者发布 DRYLAB-Bench，首个评估 LLM 智能体高危生物突变设计能力的基准，包含 30 个危险突变设计场景，并基于 ProteinGym 与 ViroGym 的 18.7 万条湿实验数据打分。测试 15 个前沿模型发现，无工具时 67.6% 的设计超过平均变异体，配备生物设计工具后风…
arXiv cs.AI20 天前
★ 3
专家隔离与关停实现LLM后门遏制
研究者提出「学习但分流」的新策略，通过Quarantined Expert Shutdown（QES）在类MoE结构中把触发条件行为引导至可隔离的专家分支。部署时只需将隔离专家的路由权重置零即可缓解后门，无需触发筛查或更新权重。实验在两类任务、三种攻击、四个模型家族上把攻击成功率从100%降至0-…
arXiv cs.AI30 天前
★ 2
TripPattern：基于模式的三分区文本水印方法
现有 LLM 文本水印多将词表分为绿红两组，偏向绿词会损害文本质量与自然度。TripPattern 提出三分区模式匹配框架：一个中性组加两个模式组，生成时在两组间交替选词以嵌入可检测模式，中性词独立选取以保自然。检测端用基于模式的统计检验给出可解释 p 值。四个多语言数据集实验显示其在保持生成质量…
arXiv cs.AI48 天前
这个主题的相关资产
相关公司深度求索（DeepSeek）1