返回第四十六章 解决  15岁,成为国宝级天才科学家首页

关灯 护眼     字体:

上一章 目录 下一页

    接下来的两天,肖宿几乎泡在计算机系的实验室里。

    他还在思考流形正则化的具体形式。

    社交网络的高维嵌入本质上是一组矢量,这些矢量应该位于某个低维流形上,这是他的直觉,但需要严格的数学证明。

    他在白板上画着示意图。

    一个高维空间,里面有一个弯曲的低维流形,数据点分布在这个流形上。

    “就象宇宙中的星系。”

    李雨薇看着示意图说,“看起来散布在三维空间,但实际上可能分布在某些二维的膜上,这是弦理论的说法对吧?”

    肖宿点头。

    他最近在读理论物理,确实看到过类似的概念。

    数学的奇妙之处就在于,不同领域的结构常常惊人地相似。

    第二天上午,他在图书馆翻阅一本关于李群表示论的专着时,突然有了灵感。

    那本书叫《李群

    书中有一章讲齐性空间的几何,提到每个齐性空间都可以看作某个李群模去一个闭子群的商空间。

    而在这个商空间上,李群自然地作用,给出丰富的对称性。

    肖宿盯着书中的一段话看了很久:

    “齐性空间上的几何由李群的表示理论完全决定。”

    突然之间,之前模糊的想法变得清淅起来。

    社交网络中用户的相似性关系可能构成某种近似对称性。

    如果用户A和用户B相似,用户B和用户C相似,那么用户A和用户C也应该有某种相似性。

    这不完全是对称的,但近似满足传递性。

    这种“近似对称性”可以用李群的“软”作用来描述,即允许作用有小的误差。

    如果把嵌入空间取为某个李群的齐性空间,那么嵌入矢量之间的变换就可以用群元素表示,而嵌入的稳定性就映射于群作用的连续性。

    这个想法非常大胆。

    因为李群理论通常应用于理论物理和纯数学的深奥领域,很少有人把它用到算法设计这种“世俗”的问题上。

    但肖宿觉得这很自然,数学工具没有高低贵贱之分,只有适用与否。

    下午,肖宿带着这个想法回到实验室。

    赵明远和几个博士生围过来,听他解释。

    肖宿在白板上画了一个新的示意图。

    “我们要找的不是一般的低维流形。”

    “而是某个李群作用的轨道。更精确地说,

    他在白板上写下:

    “而这个距离在G作用下是不变的,如果两个嵌入矢量相差一个群元素的作用,它们代表的节点应该具有相同的结构角色。”

    实验室里很安静,只有肖宿的笔划过白板的声音。

    几个博士生努力跟上,黄伟良偶尔点头,李雨薇皱着眉头,显然有些地方还没完全理解。

    “但实际问题中,对称性不是完全的。”

    赵明远指出,“社交网络中的关系不是完全对称的。”

    “所以要用‘软’作用。”

    肖宿说,“允许群作用有误差。我们可以定义一个损失函数,包含两部分:一部分度量嵌入在齐性空间上的拟合优度,另一部分度量对称性破缺的程度。”

    他

    其中d是齐性空间上的距离,π是某个节点映射,w是边的权重,λ是正则化参数。

    “这个优化问题可以用交替迭代法求解。”

    肖宿说,“固定f优化g,固定g优化f。每一步都是凸优化或者有闭式解。”

    当肖宿放下笔时,一套完整的理论框架已经呈现在白板上。

    从李群和齐性空间的定义,到嵌入模型的构建,到优化算法的设计,再到理论性质的分析。

    实验室里沉默了几秒,然后爆发出低声的议论。

    “这框架……太完整了。”

    黄伟良喃喃道,“从数学基础到算法实现,一气呵成。”

    “我需要时间消化。”

    李雨薇诚实地说,“李群作用、齐性空间、软对称性……这些概念我得回去查资料。”

    赵明远则更务实:“现在需要验证。肖宿,你估计实现这个算法需要多少行代码?”

    肖宿想了想。

    “内核算法大概五百行。但需要一些李群运算的库,指数映射、对数映射、测地线计算这些。”

    “我们有现成的。”

    赵明远说,“实验室之前做过一些流形优化的项目,积累了不少代码。我马上组织人开始实现。”

    接下来的两个小时,实验室进入了高效的工作状态。

    赵明远分配任务,黄伟良负责实现李群运算的内核模块,李雨薇负
本章未完,请点击下一页继续阅读>>

『加入书签,方便阅读』

上一章 目录 下一页