★ 3
研究：生态福利语料继续预训练可降低大模型高压下有害决策
该论文构建真实数据「耦合福利」继续预训练语料，用一次 QLoRA CPT 安装到五个开源模型上。在逐步加压至关停威胁的测试中，五个模型有四个的有害决策降至接近零，Llama-3.3-70B 从 300 次中 70 次降至 0 次，且 MMLU 不变。对照语料无改善，说明效果来自语料内容本身。
arXiv NLP5 天前
#QLoRA
共 8 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Clef-Flash 决策模型：QLoRA 微调实现临床疾病分类
研究者基于 Qwen3.5 骨干的 90 亿参数决策模型 Clef-Flash，采用 4 比特 QLoRA 微调进行 24 类疾病分类，诊断准确率达 95.42%，超越 ClinicalBERT 的 90.90%。单次前向传播推理每记录不到 80 毫秒，比生成式 LLM 基线快 31 倍，并引入留…
arXiv NLP19 天前
★ 3
研究发布金融数值推理合成数据流水线
提出用于金融QA的合成数据生成和微调管道，采用QLoRA和语义感知损失函数。在ConvFinQA上显著提升准确率，并引入新评估指标更准确反映推理能力。
arXiv cs.AI63 天前
★ 2
AK_QMUL 用微调 JAIS 模型在 ArGuard 阿拉伯语有害提示检测任务夺冠
AK_QMUL 团队在 ArGuard-2026 阿拉伯语有害提示检测共享任务中提交方案，使用 JAIS-6.7B 结合 4-bit QLoRA 微调与线性分类头。二分类任务 B1 宏 F1 达 0.984，七分类危害领域任务 B2 达 0.790，两个赛道均排名第一。研究还按方言与类别分析了误差…
arXiv NLP5 天前
★ 2
SLA-LENS 框架用大模型分析二语课堂互动
研究提出 SLA-LENS，一个端到端 LLM 辅助框架，将课堂转录文本连接至结构化教学标注与证据关联的描述性分析，基于互动主义二语习得理论捕捉学习者错误、教学功能与吸收/修正。应用于 40 份真实在线二语西班牙语课堂转录、超 2.1 万句级实例，并评估专有与开源模型含 QLoRA 适配。
arXiv NLP13 天前
★ 2
alkhder 用 QLoRA 微调 NileChat-3B 做英译阿拉伯方言对话
论文介绍 AlexandriaX-2026 共享任务子任务 1 的参赛系统，目标是把英语对话轮次翻译成 13 种阿拉伯方言。团队用 QLoRA 在 Alexandria 平行对话语料上微调 NileChat-3B-Base，一套适配器权重覆盖全部方言，并以目标国家、方言、领域、角色、性别方向及前文…
arXiv NLP14 天前
★ 2
U4RASD 团队获 KnowledgeGraphEval 2026 阿拉伯语关系抽取冠军
该论文介绍了 U4RASD 团队在 KnowledgeGraphEval 2026 子任务 2（阿拉伯语有向关系抽取）中的参赛系统，结合编码器与 LLM 两种路线。编码器使用类型化实体标记与关系存在/分类双头，LLM 则用 QLoRA 微调 Yehia 与 Qwen3.5 并施加本体约束预测。最佳…
arXiv NLP21 天前
★ 2
Shaer 发布：可控古典阿拉伯诗歌生成框架
论文提出 Shaer，一个联合以自然语言描述、韵律子形式和半句数为条件的古典阿拉伯诗歌生成框架，并构建 116032 首诗的语料。基于 Yehia-7B 用 QLoRA 微调后，基础韵律准确率 95.17%，子形式准确率 91.75%，长度准确率 83.40%，代码模型数据公开。
arXiv NLP25 天前