arXiv · NLP· Nil-Jana Akpinar, Eugenia Kim, Natalie Isak, Amanda Minnich, Victoria Westerhoff, Matthew Dressman·· 8 小时前AI 评分33
在 LLM 对话中检测心理伤害风险因素：测量风险而非伤害
Measuring Risk, Not Harm: Detecting Psychological Harm Risk Factors in LLM Conversations
AI 导读
研究提出在 LLM 响应层面检测八类可观察 AI 行为以测量心理伤害风险，而非直接监测主观伤害。 构建了包含 47,062 条 AI 响应和 373,873 个标签的合成语料库。提出的级联检测器在留出数据上取得 0.86 的宏平均精确率和 0.79 的 F1 分数。 无需访问模型内部状态，在 WildChat 上可减少 97.1% 的 LLM 评判调用。
来源：arXiv · NLP · arxiv.org