SafeTune:审计与修复微调安全漂移的统一库
针对微调 LLM 安全漂移的应对方法分散、难以比较的问题,论文提出开源库 SafeTune,统一事后权重恢复、安全约束微调、基于梯度的遗忘与推理时引导四种干预范式。它提供配置驱动的一致工作流与模块化注册表,支持新方法、基准与领域扩展。通过金融与医疗部署案例,展示了安全漂移刻画、干预评估与分层缓解能…
共 8 篇相关资讯,按重要度与时间排序,每 3 小时更新。
针对微调 LLM 安全漂移的应对方法分散、难以比较的问题,论文提出开源库 SafeTune,统一事后权重恢复、安全约束微调、基于梯度的遗忘与推理时引导四种干预范式。它提供配置驱动的一致工作流与模块化注册表,支持新方法、基准与领域扩展。通过金融与医疗部署案例,展示了安全漂移刻画、干预评估与分层缓解能…
GitHub 项目 bubbuild/republic 提供统一的 Python 接口,覆盖聊天、流式输出、工具调用与结构化输出,支持 OpenAI、Anthropic、Google、DeepSeek 等提供商。它只做到提供商层,智能体循环与工具执行仍由调用方实现。
rudra-js 是 MIT 许可的 TypeScript 开源库,让语言模型只输出受限规格而非 HTML,再由 React 从商家目录读取价格、图片与链接渲染。该设计通过结构化约束防止模型编造价格或展示不存在的商品。
研究者开源 Jaxnasium,用 PyTrees 表示观测与动作空间,使同一份算法代码可运行于离散、连续、图像、复合及多智能体环境。库接入 11 个环境套件、300 多个环境,并提供多随机种子评估与超参扫描工具。
开发者发布 Go 语言库 agent-harness,用于在 LLM API 之上构建智能体工具调用循环。它实现核心的「调用模型—执行工具—回传结果」循环,其余存储、提示与路由交由使用者自行处理,并支持工具渐进披露与运行中断控制。
即兴协作(AHT)研究受制于高昂计算成本、缺乏标准基准和评估队友套件。作者推出首个开源JAX库JaxAHT,统一队友生成、自我智能体训练与评估流程,相比PyTorch实现约95倍墙钟加速。该库还提供Level-Based Foraging、Overcooked和Hanabi的评估队友套件,并用于大…
开发者推出 litelm,用约 2900 行代码和 2 个依赖(openai、httpx)复刻 LiteLLM 的核心路由与消息格式转换功能。它剥离了代理服务器、缓存层、成本追踪等冗余模块,仅保留模型路由、流式输出、工具调用和嵌入等调用路径。API 与 LiteLLM 完全兼容,支持 19 家提供…
开源项目 190proof 提供统一接口,可对接 OpenAI、Anthropic、Google、Groq、OpenRouter 与 AWS Bedrock 等多家模型供应商。它统一处理重试、流式输出与多模态输入,让开发者用 provider:model-id 格式切换模型,降低多供应商集成成本。