LessWrong · All Posts· James Stephen Brown·· 11 小时前AI 评分21
合作关系的阴暗面:封闭对齐与群体排他性风险
The Dark Side of Cooperation
AI 导读
依赖心智理论实现利益对齐是人类超级能力,但将这种对齐能力局限于内部群体而排斥“他者”的封闭对齐是危险的。 社会本能让人类天然亲近亲属,但理性与沟通能力允许我们将关怀扩展至朋友、同事乃至全球社区,从而增强集体力量。 当对齐系统被隔离在“他者”之外时,拥有共同目标的群体对外部个体或群体构成巨大威胁,可能导致类似大灭绝事件的负面后果。
来源:LessWrong · All Posts · lesswrong.com