★ 4
CS1-4B：40 亿参数临床决策模型，推理快 6.4 倍
研究团队发布 Clinical System One（CS1-4B），基于 360 万患者、1240 万问答训练的 40 亿参数临床决策模型，单次前向即可回答多类结构化问题并给出置信概率。在 96 万留出患者上，14 项任务中 13 项优于最大 270 亿参数的开源决策模型，匹配负载下推理快 6.…
arXiv cs.AI11 天前
#小模型
共 26 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
KuaiRP系列角色扮演模型技术报告
论文介绍KuaiRP系列角色扮演模型的完整技术方案，目标为简化提示工程、稳定输出质量、内置领域世界知识与小参数高效部署。为克服领域知识注入导致的一般智能体能力灾难性遗忘，提出多阶段训练流水线，含标准化角色模板、基于规则复合奖励的RL与两阶段在线策略蒸馏（OPD）配合累积散度衰减（CDD）。结果显示…
arXiv cs.AI50 天前
★ 3
Artifact Distillation：免训练把前沿模型能力迁移到小模型
论文提出Artifact Distillation：教师模型把解题过程外化为可查询的「工件库」，学生模型推理时检索使用，无需梯度更新。用Claude Opus 4.5构建的工件库让Claude Haiku 4.5在空间推理上超过Sonnet 4.5且成本仅60%，同一工件库也把Qwen3.5-27…
arXiv NLP2 天前
★ 3
D-Skill 提出自然语言技能蒸馏，小模型零权重更新追平教师 75%-95%
论文提出 D-Skill 框架，把前沿智能体教师视为黑盒，通过分析成对轨迹中的行为分歧与一致，将其行为优势蒸馏为可解释的自然语言技能文档，在推理时提供给小模型。该方法完全离线构建，无需标签、额外环境交互或权重更新。在 SpreadsheetBench-Verified、ALFWorld 与棋类谜题…
arXiv cs.AI10 天前
★ 3
小模型该不该掌舵？云端程序本地解释架构研究
论文探讨一种中间架构：云端大模型编写程序、设备端小模型通过普通函数调用回答关于用户数据的有限问题，从而在数据不出设备的前提下提升任务成功率。在 AppWorld 上，该架构在全部六种骨干模型与测试分区组合中均提升纯代码智能体的成功率，最高提升 14.9 个百分点，缩小了与云端 ReAct 循环的差…
arXiv cs.AI18 天前
★ 3
个人开发者用免费 TPU 训练出 Kisoku 1.6B 模型
开发者 Joseph Rodriguez 借助谷歌 TPU Research Cloud 的 TPU v4-32，从零预训练出 1.6B 参数的 Kisoku 模型，仅用约 0.5 万亿 token，在 10 项基准测试中与 Meta Llama 3.2 1B 打平，训练数据量少约 18 倍。模型…
Hacker News – LLM23 天前
★ 3
Liquid AI 发布 D1-3B 模型
Liquid AI在Hugging Face上发布D1-3B模型，一款30亿参数级别的新模型。该发布延续了Liquid AI在高效小模型架构上的探索方向。
Hacker News – AI24 天前
★ 3
论文用可验证奖励强化学习训练Qwen3小型搜索智能体
研究将「推理-搜索」范式应用于十亿参数以下的小模型，用 GRPO 训练 Qwen3.5-0.8B 并接入维基百科搜索工具，在 MuSiQue 上仅改变奖励形状。最佳运行在七项问答基准上取得 0.352 平均精确匹配，较未训练基线提升 3.8 倍，且无需蒸馏。结果显示稀疏精确匹配奖励（数学与代码的 …
arXiv cs.AI37 天前
★ 3
LoT 框架用渐进简化推理轨迹提升小模型推理
论文提出 Ladders-of-Thought（LoT）框架，通过渐进式问题改写与自演化课程提升中小规模模型推理能力。LoT 自动生成语义一致但更简单的推理问题变体，按步骤难度分桶，并用自演化 bandit 调度器自适应分配训练。在 1-8B 模型上，LoT 在算术任务上最多提升 32 个百分点，…
arXiv cs.AI39 天前
★ 3
4B 模型生成查询计划比 Postgres 快 81%
一项研究训练 4B 参数模型生成数据库查询计划，速度比 Postgres 快 81%。该工作展示了小型专用模型在数据库优化领域的潜力，在 Hacker News 上引发热议。
Hacker News46 天前
★ 2
4B 模型经 RL 后训练，驾驶特斯拉 Roadster 表现超 GPT-6 Astra 21%
开发者通过强化学习对 4B 参数模型进行后训练，在特斯拉 Roadster 驾驶任务上取得比 GPT-6 Astra 高 21% 的表现。该实验展示了小模型在特定任务上通过 RL 微调超越大模型的潜力。
InfoQ AI2 天前
★ 2
Harness Corp：基于 WebGPU 本地 Qwen3-0.6B 的浏览器放置游戏
开发者推出浏览器增量游戏 Harness Corp，玩家通过完成任务攒钱租 GPU，驱动本地运行的 Qwen3-0.6B 模型（约 358MB）。游戏内可购买 JSON 结构化输出、日期工具等“模型外挂”升级，实际改变模型行为，并支持自定义提示词。Chrome 使用 MLC WebLLM，Fire…
Hacker News – LLM4 天前
★ 2
开发者训练 360M 参数模型 WorldTUI 模拟终端界面
有开发者在 Hacker News 展示 WorldTUI，用 360M 参数的小模型模拟终端交互界面。项目属于趣味性实验，探讨小模型在特定界面生成任务上的能力边界。
Hacker News11 天前
★ 2
MedPAO-Assist：笔记本 CPU 可跑的放射报告结构化智能体
研究团队发布 MedPAO-Assist，一个可边缘部署的多智能体框架，直接从放射科医生口述与语音指令生成结构化报告。系统采用 0.6B 参数级小模型，峰值内存约 3.3GB，普通笔记本 CPU 上端到端延迟约 31 秒，支持胸片、胸部 CT、腹部 CT 与脑 MRI 四种模态。全流程无需键盘、外…
arXiv cs.AI11 天前
★ 2
研究：无真值筛选 LLM 评审，用于 AI 口腔卫生教练
论文提出分阶段流水线，在专家评审前用输出审计、与托管评审一致性、偏差检查、决策稳健性等规则筛选候选 LLM 评审与学生模型。以 AI 口腔卫生教练为案例，两个微调小模型 Granite-4.1-8B 与 Qwen3-8B 由五个评审打分。本地 Qwen3.8-27B 与托管评审最接近，未发现评审偏…
arXiv cs.AI12 天前
★ 2
4B 小模型学会编写供其他 LLM 使用的工具
一个 40 亿参数的小型语言模型被训练用于自动编写可供其他大模型调用的工具代码，展示出小模型在工具生成与智能体协作上的潜力。该项目以网站形式发布，在 Hacker News 上引发讨论。
Hacker News – LLM16 天前
★ 2
arXiv 论文提出递归离线蒸馏方法提升小模型推理
该论文提出一种递归离线蒸馏方法，结合基于熵增益的采样与答案混合两种技术，在无法完全访问教师模型内部表示的情况下，将大模型推理链蒸馏到 3-4B 小模型。实验显示该方法在同等数据预算下平均得分 57.15，优于朴素蒸馏的 51.61，且学习曲线更陡峭。研究还对比了蒸馏轨迹生成与归一化的不同方法。
arXiv cs.LG16 天前
★ 2
语句规范化：大规模对话分析新方法
论文提出「先澄清、再聚焦」原则，将对话转化为带说话人归属、来源引用与语义标签的简短语句，使含义更明确并支持按问题选取证据。在客服通话的报价抑制任务中，规范化提升监督分类器表现，弱提示阅读器同时受益于规范化与选择，整套小模型推理管线可大幅降低百万级对话分析成本。
arXiv NLP23 天前
★ 2
评论：小模型才是 AI 主权未来的关键
文章主张，相比依赖少数超大模型，可本地部署的小模型才是各国实现 AI 主权与自主可控的路径。作者认为小模型在成本、隐私与监管自主性上更具优势，适合国家与机构自建。属于观点评论，非技术发布。
Hacker News – AI24 天前
★ 2
NanoForecast v0.5：6.5M参数时序预测模型通过训练管线优化追平31倍大模型
研究者发布 NanoForecast v0.5，一个仅 6.5M 参数的时间序列预测模型，在架构不变的前提下通过修正损失范围处理、张量形状对齐和扩大数据增强，将 MASE 从 3.030 降至 1.704，降幅 43.8%。它在全部三个 ETT 数据集和汇率任务上超过 200M 参数的 Times…
arXiv cs.LG33 天前
★ 2
Jeff：兼容Jev的0.8B本地决策小模型
开发者发布Jeff系列0.8B与2B决策模型，基于Qwen3.5与Gemma 4微调，用于零样本分类，单次前向传播即可输出各选项的校准概率。模型在RTX PRO 6000上约22毫秒、M4 Max上约28毫秒完成一次决策，全部在本地硬件训练，无云端GPU与闭源模型输出参与。
Hacker News34 天前
★ 2
Qwen3.5-0.8B 关停响应激活引导研究
一篇 arXiv 论文提出基于梯度的「守卫式」激活引导方法，用于在 Qwen3.5-0.8B 的模拟关停场景中，将模型的「拒绝关停」（KEEP）倾向选择性转向「接受关停」（STOP）。该方法用分类器分离检测与干预，从 KEEP 与 STOP 的 logit 差梯度直接推导引导方向，并从 160 条…
arXiv cs.LG34 天前
★ 2
PrismML将小型LLM带入高通智能眼镜
PrismML将其小型语言模型部署到搭载高通芯片的智能眼镜上，目标是实现开放权重AI在设备端运行，并更充分利用设备已有算力。
TechCrunch AI38 天前
★ 2
PrismML 寄望小模型改变 AI 使用方式
AI 实验室 PrismML 希望其小型 LLM 能改变大众使用 AI 的方式。报道认为该实验室值得关注。小模型路线在成本与部署灵活性上具备潜在优势。
TechCrunch AI45 天前
★ 1
Ask HN 讨论：用小模型提示词解题的非确定性编程挑战站
Hacker News 用户提出构想：仿照 Advent of Code 做一个挑战网站，参赛者必须用提示词驱动本地小模型来「编程」解题，服务器校验答案正确性并验证代码确由该小模型生成。讨论指出难点在于选定可在 WebGPU 上运行的小模型，以及如何验证代码未被篡改。目前尚无同类产品。
Hacker News – LLM15 天前
★ 1
Open-Ryze 项目：小模型本地部署是否有用引讨论
开发者发布 Open-Ryze 项目页面，探讨小型本地 AI 模型是否真能被证明有用，引发 Hacker News 社区讨论。话题聚焦本地小模型在隐私、成本与实用性之间的取舍。
Hacker News – AI23 天前