研究团队用 Claude 对 100 多个开源库完成汇编级形式化验证
研究团队与 Theorem 合作,使用 Claude 在 RISC-V 汇编层面为 100 多个真实开源软件库生成形式化安全证明,属首次大规模将 AI 用于生产级软件的形式化验证。过程中 Claude 还发现了历经数万亿次测试仍未暴露的缺陷,有望让形式化验证进入常规开发流程。
共 25 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究团队与 Theorem 合作,使用 Claude 在 RISC-V 汇编层面为 100 多个真实开源软件库生成形式化安全证明,属首次大规模将 AI 用于生产级软件的形式化验证。过程中 Claude 还发现了历经数万亿次测试仍未暴露的缺陷,有望让形式化验证进入常规开发流程。
Maarten Grootendorst 与 Jay Alammar 合著的《An Illustrated Guide to AI Agents》在 GitHub 开源配套代码,包含 300 多张自制插图,并引导读者从零构建具备记忆、工具与自主性的 TinyAgent。示例可在 Google Co…
宾夕法尼亚大学工程团队利用 LLM 分析约 15 万条 Reddit 帖子,识别一种尚未获批的新型 GLP-1 类药物的潜在副作用。该研究展示了用大模型挖掘社交媒体真实世界用药反馈、辅助药物警戒的路径。
论文系统研究 LLM 语法纠错(GEC)的解码策略,发现重复惩罚参数可在不改架构、训练与提示的前提下于推理时调节精确率—召回率权衡。在标准 GEC 基准上,该方法与 APD 等序列到序列方案思路相通,但更简单且适用于暴露解码惩罚参数的现有 LLM。
论文提出有界双环自动原理图合成框架,将自然语言规格转化为经 ngspice 验证、可编辑的 KiCad 电源电子原理图。在 Buck 与双有源桥变换器案例中,元件验证覆盖率从 22.2% 提升至 98.6%,SPICE 仿真通过率从 0 升至 100%。
rudra-js 是 MIT 许可的 TypeScript 开源库,让语言模型只输出受限规格而非 HTML,再由 React 从商家目录读取价格、图片与链接渲染。该设计通过结构化约束防止模型编造价格或展示不存在的商品。
论文推出 Propasafe-Hybrid,将微调 Transformer 分类器与基于 LLM 的手法分类结合,在句子级识别、标注并解释宣传策略。系统输出高亮句子、手法标签与简要理由,并通过成本感知预过滤只把高概率句子送入 LLM 以降低 token 消耗。该设计提升了宣传检测的可解释性、效率与…
Tokensaver 是一个离线运行的提示词成本分析工具,可对比各大模型的 token 成本,并给出 JSON 压缩、去重、删减冗余指令等具体优化建议及节省金额,支持 55 种语言测试。
论文提出 CALLIOPE,一种自顶向下、全程直接调用 LLM 而非聚类向量嵌入的框架,用于在大型非结构化语料(如 LLM 对话)中发现主题层级,并支持差分隐私。实验显示其在高隐私强度下效用优于现有基于嵌入的方法,作者同时引入新的效用评估指标。
开发者发布开源项目 Sóþspell,用 LLM 对任意 git 仓库做自上而下的「电影式」代码讲解,配有旁白、动态架构图和代码高亮联动。用户可随时暂停提问而不丢失进度,支持浏览器语音与 ElevenLabs 云语音,并提供 OpenCode 插件。
论文在电商场景研究如何用 LLM 从浏览会话预测商品转化率,比较「先摘要再推理」与「逐会话预测后平均」两种策略。结果显示商品合并评估时摘要更优,对比式摘要在 15 个设定中 12 个取得最高 Spearman 相关,且推理成本远低于逐会话方法。
开发者发布 CacheVerifier 的 Python 客户端,这是一个托管 API,用于判断语义缓存命中的答案是否可信,避免相似度接近但错误的缓存结果被直接返回。它不替代缓存后端,只对「灰色地带」候选做校验,并提供 GPTCache 适配器与基于反馈的微调能力。
Leviathan 是一款把语言模型直接加载进显卡显存的本地推理应用,无需服务器、云账号或 Python 环境,并支持跨会话记忆、免重训练的知识注入以及供其他程序调用的接口。项目在 RTX 4080 上以 Qwen 2.5 Coder 7B 实机演示。
开源工具 shadow-debugger 在 Python 应用或 Web API 抛出异常、返回 HTTP 500 时,捕获堆栈帧、剥离敏感信息后交给后台线程中的 LLM 分析,几秒后在本地生成 Markdown 事故报告。支持 Ollama 离线运行,也兼容 Gemini、OpenAI 兼容端…
Machine Learning Mastery 发布教程,介绍如何为 LLM 应用选择文本分块(chunking)策略,提出一套决策树方法帮助开发者根据场景选择合适的分块方式。内容面向 RAG 等检索增强应用的工程实践。
开发者发布 llmtobinary 项目,尝试让大语言模型直接生成机器码而非高级语言代码。该实验探索绕过编译器与汇编层、由模型直接输出可执行指令的可行性。
论文提出 SharP 框架,用硬提示提供结构化事实约束、软提示引入学习到的语义模式,并加入边界感知策略,引导 LLM 生成任务相关的合成样本。该方法旨在缓解低资源假新闻检测中标注数据稀缺、现有增强方法内容过于泛化的问题。
arXiv 论文提出 VIGOR,针对 LLM 生成工业场景程序时「可执行但工程不可行」的问题,结合监督生成、执行验证与分阶段几何修复。在 1749 个可构建场景数据集上达到 96.86% 完全可行性,总体得分 91.20。
研究提出 LLM 驱动的自动化流水线,通过分块属性抽取、层级路由与迭代精炼,将硬件数据手册转化为通用层级硬件知识图谱,并保留来源溯源。在20份数据手册上,框架属性忠实度达98.8%,远超一次性处理的76.1%,为硬件设计与验证提供更可靠、可追溯的工程信息。
开发者发布开源可自托管的 AI 新闻聚合器 InBrief,从 94 个来源(AI 实验室博客、Hacker News、Reddit、X、YouTube、GitHub Trending)抓取内容,经 LLM 流水线做相关性过滤、中英双语摘要、标签提取与重要性评分,并两阶段去重后存入 Postgre…
博主 Jim Nielsen 撰文介绍如何让 LLM 编写一个小工具,自动为图标文件补充颜色元数据,以便后续按颜色检索与使用。文章展示了用 AI 编码代理完成一次性脚本任务的实用流程。
FreeApply 是一个本地运行的 MCP 服务器,利用用户已有的 LLM 订阅处理求职申请,支持 ATS 优化与求职信生成。所有隐私数据保留在客户端,并按模型对工具加权以优化 token 消耗。
一篇博客文章以 Survival LLM 为题,讨论大模型在特定生存或极端场景下的应用设想。原文仅给出链接,未提供更多细节。
一篇技术博客探讨如何为 AI 系统设计文本转图表的领域特定语言(DSL),使大模型能够稳定、正确地生成结构化图表描述,降低生成错误率。