arXiv · AI· Zexuan Fei, Zhengnan Guo, Yiming Luo, Kaiyi Huang, Aimin Zhou, Bo Jiang, Fei Tan·· 2 天前AI 评分34
EGS:面向教育类大语言模型的互补性安全框架
EGS: A Complementary Safety Framework for Educational LLMs
AI 导读
EGS 提出了一种轻量级、模型无关的运行时框架,通过查询审核、场景感知教学指导和响应审核,将教育安全从二元拒绝转向上下文引导。 该框架根据风险等级分诊输入,使用特定教育干预重定向灰色区域查询,并在交付前审核输出,旨在增强安全性同时保留教学效用。 其代码和模型权重将公开提供,以支持社区采用。
来源:arXiv · AI · arxiv.org