刚接触多目标优化?可以先阅读入门介绍。 来自产业或应用领域?请参阅产业与应用中的应用场景。
研究总览
我的研究兴趣主要位于人工智能、复杂系统与优化的交叉领域。
人工智能建立在各种取舍之上。现代 AI 中几乎每一个有意义的决策,都需要平衡方向相反的目标。优化大语言模型时,要在有用性与无害性、信息量与简洁性、创造力与可靠性之间取舍;构建智能体系统时,则要决定哪个模型承担哪个角色,并平衡能力、延迟与成本。
这些都属于多目标优化问题。它们通常没有唯一的最佳答案,而是存在一组最佳折中方案——帕累托前沿。真正的任务是找到这组方案,让决策者在完整信息下进行选择,并在环境变化时切换决策。随着大模型与智能体系统承担更开放、更关键的任务,其底层的权衡结构已无法再被简单忽略,而必须被直接理解。
我的研究所在的具体领域是多目标组合优化:搜索空间是离散且结构化的。这既是多目标优化中较困难的一端,也符合许多 AI 问题的形态,例如组建智能体团队、选择特征集合或配置系统。这些搜索空间往往崎岖且具有欺骗性,精确求解难以实现,所选算法会真实地改变最终结果。
现实中,人们常直接采用知名算法——如 NSGA-II、MOEA/D——然后期待它能奏效。我的工作试图用理解取代猜测:面对困难问题时,我们应该信任哪一种算法?为什么?
各部分如何连接
多目标优化常通过帕累托前沿来介绍,也就是可见的折中解集合。但前沿只是更深层搜索过程的输出。我的工作关心的是这个过程本身:算法如何探索景观、何时保留或丢弃解、如何利用记忆,以及什么使一个问题变得容易或困难。
因此,我的实证与理论研究会相互推动。实证研究发现值得解释的行为,理论分析隔离关键机制并证明它在何种条件下成立,基准问题设计让形式化场景更接近现实,而可视化则把问题结构转化为可以观察、教学和调试的对象。它们共同把算法选择从黑箱竞赛变成诊断过程。
为什么现在尤其重要
这些结论最初来自旅行商、背包、指派和 NK 景观等经典组合优化问题,但结论本身关乎搜索:当问题崎岖、具有欺骗性且包含多个目标时,探索与记忆应如何平衡。越来越多的 AI 工程问题都符合这个描述。
这种联系正在变得具体。神经组合优化——训练模型直接构造组合问题的解——已成为演化搜索的重要替代方案,而同样的问题仍然存在:其搜索景观是什么样?它会在哪里停滞?在什么条件下,学习型求解器会真正胜过经典算法?理解搜索行为并不是演化计算中的狭窄兴趣,而是严谨分析经典、学习型与智能体多目标系统的基础。
完整的论文记录请见论文发表页面。
我们对搜索的认识
这些项目反复揭示出一个共同主题:在困难的组合优化问题上,领域中习以为常的“直觉”往往并不成立。下面是三种常见直觉及其修正。
直觉:复杂算法一定胜过简单算法?一个不使用交叉、不设多样性机制、也没有复杂选择策略的极简算法,在一系列组合优化问题上可以追平甚至超过 NSGA-II 等成熟 MOEA。原因并不神秘:针对某类景观加入的复杂组件,可能在另一类景观上妨碍搜索。尤其是交叉,在平滑景观上可以加速,在崎岖景观上却可能造成伤害。真正的结论不是“简单永远更好”,而是:理解其机制的算法,胜过只凭习惯采用的算法。
但这条结论也有另一面。当问题扩大到数千个变量时,同一个简单算法开始落后,相比带交叉的算法,其收敛速度明显下降。简单并非没有代价;这个取舍由问题规模与结构决定,而真正有价值的是找出取舍在何处发生变化。
直觉:永远保留当前最优解?几乎所有现代 MOEA 都采用精英机制,保护目前找到的最佳解。搜索早期这样做很合理,但当种群陷入局部最优时,这些最佳解会停止带来进展。通常被视为较差的支配解,反而可能成为离开陷阱的“桥梁”。放松严格精英机制,或主动存储并复用支配解,可以明显改善困难、欺骗性问题上的搜索。
直觉:一个种群承担所有任务?单个种群通常要同时完成两个冲突任务:利用已有好解,以及探索新区域。适合利用的解往往不适合探索,反之亦然。把两个任务交给两个种群——一个保护质量,一个刻意保持多样——在困难多峰问题上可获得显著且可证明的加速。
另一个相关问题是搜索在局部如何移动。系统扫描邻域看起来更有效,因为不会重复检查;但随机抽样邻居即使可能重复,也常能更快找到好解,原因在于有效移动在搜索过程中的分布方式。
未来方向
我正在沿两条方向拓展这些工作。第一条是多目标神经组合优化:用搜索行为与适应度景观的视角分析学习型求解器,并将其与演化算法比较。第二条是多智能体系统,尤其是基于大模型的智能体团队内部存在的多目标取舍。
我也对人工生命、科学—技术—社会—环境(STSE)的交叉问题,以及多目标程序化内容生成抱有更广泛的兴趣。这些方向共享同一个核心:理解必须在多个相互作用准则下行动的复杂系统。