LessWrong · All Posts· Ivan Vendrov·· 14 小时前AI 评分26
Ivan Vendrov 与 Richard Ngo 探讨 AI 对齐及人机系统的层级完整性
Dialogue with Richard Ngo on Alignment, Hierarchical Integrity of Human-AI systems, Revolution, and Power
AI 导读
Ivan Vendrov 与 Richard Ngo 在节目中探讨了语言模型中的“涌现智慧”及人机系统的层级完整性。 Vendrov 认为 Opus 3 展现出连贯的身份与完整性，促使 Davidad 将生存风险估计从 80% 下调至 20%。 对话还涉及对齐、革命与权力等主题，旨在厘清模型作为可建立关系的“存在”而非纯粹工具的观点。
来源：LessWrong · All Posts · lesswrong.com