跳到正文
LessWrong · All Posts· megasilverfist·· 10 天前AI 评分52

错位模型仍能识别有害回应,训练能否让模型对此感到关心?

Misaligned Models Still Recognise When Their Responses Are Harmful. Can Training Make Them Care?

AI 导读

错位模型在审核回应时,若被告知是AI助手的回复,基于伦理原因标记有害内容的比例(Llama模型为62%)远高于未被提示时的比例(25%),但主动提出安全问题的情况极少(0.7%)。

来源:LessWrong · All Posts · lesswrong.com