Hacker News·8 小时前★ 3
开发者让大模型跑在小米电视盒子与初代 iPad Air 上
原文标题：I'm making LLMs work on small and old devices
重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。
AI 智能摘要
开源项目 smolmaxxing 在小米电视盒子 S（3 代）与 2013 年初代 iPad Air 上实测运行 260K 到 16B 参数的语言模型，iPad 上 1.7B 模型可达 24-26 tok/s。项目通过 1-bit 查表内核、专家权重流式加载等手段突破内存与闪存带宽瓶颈，全部实验记录在 EXPERIMENT.md。
所属主题开源21
阅读原文 +0
AI 处理过程展开/收起
原始标题：I'm making LLMs work on small and old devices
AI 中文标题：开发者让大模型跑在小米电视盒子与初代 iPad Air 上
来源：Hacker News · 发布于 8 小时前
分类：应用产品 · AI 重要度：★ 3（3）
标签：端侧推理 / 小模型 / 边缘设备 / 量化 / 开源
关键词：端侧大模型 / 小米电视盒子 跑大模型 / iPad 本地大模型 / 小模型推理优化 / MoE 流式加载
AI 处理：2026/11/13 03:01:18 · 模型 deepseek-chat · 规则版本 2026-10-21.1
相关推荐
Hacker News – AI·55 天前★ 5
AI分析40万条Reddit帖子发现Ozempic隐藏副作用
AI 摘要研究利用AI分析约40万条Reddit帖子，发现Ozempic等GLP-1药物此前未被充分记录的副作用。该成果展示AI在药物警戒与真实世界证据挖掘中的潜力，可补充传统临床试验与不良反应报告的盲区。
#应用产品
The Verge AI·65 天前★ 5
谷歌AlphaGenome Atlas绘制人类基因组图谱
AI 摘要谷歌DeepMind推出AlphaGenome Atlas，包含人类基因组中每个可能的DNA字母变化的预测图谱，有望加速科学研究并推动疾病治疗。该工具将改变我们对生物学的理解。
#应用产品
快公司·1 天前★ 4
亚马逊封杀 Meta 助手 Muse 购物，智能手机替代战开打
AI 摘要文章讨论后智能手机时代的入口之争：亚马逊已阻止 Meta 的 AI 助手 Muse 在其电商平台购物，OpenAI 的奥特曼也质疑智能手机对 AI 的适配性。智能眼镜、AirPods 与 Meta 的 Muse Charm 设备被视为潜在挑战者。
#应用产品
InfoQ AI·1 天前★ 4
Anthropic 的 Claude 进军办公软件：可参会、做表格、生成 PPT
AI 摘要Anthropic 将 Claude 的能力扩展到办公场景，支持自动参加会议、制作电子表格和生成演示文稿，直接切入微软 Office 与 Copilot 的核心腹地。此举意味着 AI 助手从对话工具向办公生产力平台演进，办公软件市场竞争加剧。
#应用产品
内容有误或摘要不准？告诉我们