arXiv · AI· Stine Lyngs{\o} Beltoft, Jonas Vistrup, Peter Schneider-Kamp, Lukas Galke Poech·· 9 天前AI 评分40
主权基础模型的参与式对齐与“活宪法”框架
Living constitutions: Participatory alignment for sovereign foundation models
AI 导读
该研究提出通过参与式过程维护“活宪法”,以解决主权基础模型的对齐难题。 模型宪法被视为类似公民科学的迭代过程,确立了五项原则,允许在75%善意的参与者条件下抵御50%的恶意攻击者。 该方法确保宪法对治理对象保持响应,将持久性分歧记录在案而非强行消除。
来源:arXiv · AI · arxiv.org