★ 2
本地部署多课程RAG辅导系统:校园AI助教的软硬件权衡
研究介绍CourseChat,一个面向本科商科教育的本地部署多课程RAG辅导系统,部署在校园网关后并计划嵌入Moodle。系统使用双边缘AI主机运行FastAPI服务、本地向量数据库和Ollama本地LLM。两轮模型对比显示,多个较大模型未通过课堂速度门槛,12B和7B模型通过,最终保留8B生产模…
arXiv cs.AI28 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究介绍CourseChat,一个面向本科商科教育的本地部署多课程RAG辅导系统,部署在校园网关后并计划嵌入Moodle。系统使用双边缘AI主机运行FastAPI服务、本地向量数据库和Ollama本地LLM。两轮模型对比显示,多个较大模型未通过课堂速度门槛,12B和7B模型通过,最终保留8B生产模…
该研究提出基于提示工程的框架,为通用LLM/RAG AI助教(如Jill Watson)提供个性化,使用六个学习者维度生成96种画像,并结合布鲁姆分类法评估认知复杂度。实验显示响应风格和结构有可感知差异,为无需重训练的个性化提供证据。