arXiv · AI· Kalyan Nakka, Jimmy Dani, Nitesh Saxena·· 3 天前AI 评分23
研究揭示端侧小语言模型存在信任与伦理缺口及利用风险
Could Mobile AI be Exploited?: Understanding the Exploitations of Trust and Ethics Gap in On-Device Small Language Models
AI 导读
首项针对端侧小语言模型(SLMs)信任与伦理影响的研究表明,相较于云端模型,端侧 SLMs 可信度显著更低且缺乏伦理保障。 研究通过评估发现端侧 SLMs 更容易生成刻板印象、不公平及有害内容,且无需越狱即可通过 Open Knowledge 攻击利用其风险。 这些漏洞可被用于制造社会伤害、非法活动及虚假信息,突显了端侧部署在隐私之外的安全隐患。
来源:arXiv · AI · arxiv.org