★ 4
Llama 3.2 小型多模态模型
Ollama 与 Meta 合作，将 Llama 3.2 引入 Ollama 平台。该版本支持多模态功能，并提供了更小的模型尺寸，方便用户在本地运行。
Ollama Blog768 天前
#Llama
共 9 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Titan-Llama：为预训练LLM加外部神经记忆模块
研究者提出 Titan-Llama，一种后训练方法，通过分层记忆架构为基于注意力的语言模型加装可在测试时更新参数的神经记忆模块（NMM）。在 Llama-3.2-1B-Instruct 上，QuALITY 准确率从 23.87% 提升至 40.51%，LongHealth 从 14.50% 提升至…
arXiv NLP18 天前
★ 2
研究：谱平滑与尖峰扰动可重塑 Llama、Qwen 能力分布
论文对 Llama 与 Qwen 等五个开源指令模型的前馈 up_proj、down_proj 矩阵做后验谱平滑与尖峰扰动，保持奇异向量与奇异值几何均值不变。结果显示大幅正扰动更稳定地抑制语言与演绎推理能力，中等负扰动有时提升事实或任务局部表现，敏感性随模型家族与层间谱不均衡程度显著变化。
arXiv NLP10 天前
★ 2
FusionEval 基准发布：评测大模型模型融合能力
研究者提出 FusionEval 基准，用于系统评测大语言模型的模型融合方法。该基准基于 Qwen3 与 Llama 训练数学、代码、科学、指令遵循与工具调用等专家池，在八个公开基准上衡量能力保留与计算成本。实验发现免训练融合方法保留推理能力但显著削弱工具调用，MOPD 更均衡但成本更高。
arXiv NLP10 天前
★ 2
研究：Llama-3.1-8B 激活探针可检测并引导欺骗与谄媚行为
一篇 arXiv 论文在 Llama-3.1-8B-Instruct 上系统比较了激活探针的设计选择，包括两种估计器（均值差与逻辑回归）和三种 token 池化方式，并覆盖欺骗、高风险意识、谄媚三种行为。研究发现「逻辑回归擅长检测、均值差擅长引导」的读写分离规律在欺骗与高风险行为上成立，但在谄媚行…
arXiv cs.LG10 天前
★ 2
CADENCE 提出自适应解码：一次预测多 token 提速 1.3 倍
论文提出 CADENCE（上下文自适应解码）方法，用高斯预测头把未来片段表示为连续隐向量，并由学习到的路由器根据模型隐状态决定一次预测多长。在 Llama-3.1-8B-Instruct 上，Alpaca、GSM8K、HumanEval 实验显示生成吞吐比标准贪心解码最高提升 1.3 倍。
arXiv cs.LG14 天前
★ 2
arXiv 论文：Genesis Steering 用训练数据改进激活引导
论文提出 genesis steering，从模型自身微调数据中的对比样本推导引导向量，并在数据不可得时借助成员推断构造代理数据集。在 Tülu-3-8B 与 Llama-3.1-8B-Instruct 上，来自 Tülu-3-8B 训练混合的安全数据引导效果强于外部数据集。
arXiv cs.LG18 天前
★ 2
Enki LLM：纯 Rust 推理引擎支持 GPU/CPU 实时迁移
开发者发布 Enki LLM，一个约 2000 行代码的纯 Rust Transformer 推理引擎，可在 Nvidia Tesla T4 上以约 40 tok/s 运行 Llama-3.2 1B。其特色是支持生成过程中在 GPU 显存与 CPU 内存之间实时迁移模型，迁移耗时约 320 毫秒。
Hacker News – LLM19 天前
★ 1
Llama Windows 项目引发讨论
Hacker News 上出现关于「Llama Windows」的讨论帖，内容仅包含讨论与链接，未提供具体技术细节。该话题涉及在 Windows 平台运行 Llama 模型的可能性，属于社区技术探讨。
Producthunt AI9 天前