随机搜索能否发现任务专家？重新审视神经网络丛林

研究质疑随机权重扰动能发掘预训练模型中特定任务专家的观点。在12个模型-任务对中的10个，纯选择噪声即可解释最佳专家75%以上的奖励提升，表明存在对选择集过拟合。 随机扰动后的优势通常在留出集消失，且RandOpt(N, K)常被基础模型多数投票超越。 结果表明随机搜索可能无法有效发现任务专家，任务适配需要比随机搜索更复杂的策略。