熵
搜索文档
讨厌一个人,其实不用翻脸的,记住这3点就行
经济观察报· 2026-01-17 09:27
文章核心观点 - 面对令人厌恶的人际关系时,直接翻脸对抗是低效且不成熟的做法,文章提出了三种更为有效的处理策略 [1][2][3] 处理方法一:察觉自我,降熵处理 - 当讨厌一个人时,情绪系统会变得混乱,首要任务是回归自我进行内在觉察,而非判断对错 [4][5] - 讨厌情绪可能是一种信号,表明对方特质触碰了自身底线或未愈合伤口,心理学“投射”概念指出,人们有时会将自身不愿承认的特质无意识地投射到他人身上 [5][6] - 需要进行“降熵处理”,即通过冷静观察让高涨的情绪沉淀下来,具体步骤包括:承认并接纳自身情绪、分析情绪的具体触发点、区分对方的客观行为与自身的主观反应 [7][8][9][10][11] 处理方法二:剥离情绪,采用观察者心态 - 在稳定自身情绪后,需跳出“讨厌”的漩涡,避免成为“情绪的参与者”而陷入无意义纠缠 [12] - 应培养“观察者心态”,以中立、客观的态度看待情境,不卷入强烈情绪,例如将自己想象成研究人类样本的人类学家 [13][14][15] - 培养此视角的有效方法是“第三人称写作”,即以第三人称描述不舒服的场景,这能创造心理距离,帮助客观分析并理解对方行为逻辑,从而缓解厌恶感 [17][18][19] 处理方法三:如无法停止讨厌,则主动远离 - 若经自我调整后厌恶感依然存在,保持距离是明智的自我保护策略,而非逃避 [20][21][22] - 心理学中的“情绪感染”概念指出,长期接触引发负面情绪的人会损害心理和生理健康,因此不应持续处于消耗性人际关系中 [22][23] - 保持距离包括物理距离(如减少接触机会)和心理距离(如明确并温和坚定地表达个人界限),同时保持基本礼貌和尊重 [24][25][26]
信息论如何成为复杂系统科学的核心工具
36氪· 2025-12-24 16:51
信息论作为复杂系统研究的基石 - 信息论起源于通信领域,因其能跨领域量化组件之间、系统与环境、整体与部分的互动,正逐渐成为复杂系统研究领域不可或缺的工具 [1] - 信息论提供了一套强大而普适的数学语言,用于描述、量化和理解由大量组件动态互动构成的复杂系统,这些系统的集体行为因非线性、涌现、自适应等特征而难以预测 [1] - 该综述系统阐述了信息理论为何以及如何成为复杂系统科学的基石,并详解其核心概念、进阶工具与实际应用 [1] 信息论核心度量指标 - **熵**:香农熵H(X) = -Σp(x)logp(x),衡量随机变量的不确定性或“惊讶”程度的期望值,在神经科学、生态学、金融学中分别用于衡量神经元响应可变性、物种分布不确定性、股票价格波动性 [3][5] - **联合熵与条件熵**:联合熵H(X,Y)衡量两个变量的联合不确定性,条件熵H(Y|X)表示已知X后Y剩余的不确定性,关系为H(X,Y) = H(X) + H(Y|X) [6] - **互信息**:I(X;Y) = H(X) + H(Y) - H(X,Y),量化两个变量之间的统计依赖性,范围从0到min(H(X), H(Y)),能捕捉任何形式的统计依赖,包括非线性关系 [7][8] - **相对熵**:Kullback-Leibler散度D_KL(p || q)衡量两个概率分布p和q之间的“距离”,互信息可表示为I(X;Y) = D_KL( p(x,y) || p(x)p(y) ) [10] 信息动力学与动态特征刻画 - **传递熵**:是互信息在时间序列上的推广,衡量在已知Y自身过去历史的情况下,X的过去历史能为预测Y的当前状态提供多少额外信息,即定向信息流,可用于推断因果关系方向 [13][14] - **主动信息存储**:衡量系统组成部分的过去历史与其当前状态相关的信息量,量化系统内部记忆或信息存储的能力,在金融市场中,低AIS值支持有效市场假说,高AIS值则暗示存在可预测模式 [17] - **整合信息论**:核心度量Φ试图衡量系统各部分整合信息的程度,即整个系统产生的信息大于其各部分信息之和的程度,并与意识程度相联系,但Φ的计算在实践中极其困难 [19][20] - **统计复杂性与因果态**:通过将能预测相同未来状态的所有历史归入同一个“因果态”,对系统动态过程进行最优压缩表示,统计复杂性是这些因果态分布的熵,衡量系统为准确预测未来必须记住的过去信息量 [22][23] 信息分解:协同、冗余与特有信息 - **部分信息分解**:旨在将总信息I(S; X,Y)分解为四个部分:冗余信息、X的特有信息、Y的特有信息、协同信息,公式为I(X1,X2;Y)=Red(X1,X2→Y)+Unq(X1→Y∣X2)+Unq(X2→Y∣X1)+Syn(X1,X2→Y) [26][27][28] - **应用与推广**:在神经科学中,PID可用于研究神经元群体如何冗余地或协同地编码刺激,PED是PID的自然推广,直接分解联合熵H(X1,…,XN),无需区分输入与输出 [30][31] - **网络构建**:基于成对相互关系的二元网络无法描述协同/冗余,需引入包含三元协同超边的超图或单纯流形 [35] 复杂系统的整合、分离与网络刻画 - **整合与分离的平衡**:复杂系统的核心特征在于其“整合”或“分离”的动力学,例如大脑各功能区分离但整合为统一意识,公司各部门分离但由中央办公室整合,这种平衡是一种多尺度现象 [36] - **复杂性度量**:TSE-复杂性通过遍历所有可能的子系统划分,检测“部分”与“剩余”之间的互信息分布,具有中等特征的系统TSE达峰值,表明系统处于信息处理能力最强的混沌边缘 [37] - **O-信息与S-信息**:O-信息Ω > 0表示系统以冗余主导,稳健性高;Ω < 0表示以协同主导,灵活性高但脆弱性高;S信息Σ反映总依赖密度,高Σ表示节点深度嵌入网络 [38] - **集成信息度量**:ΦR衡量系统“因果不可还原性”,是系统作为一个统一体进行信息处理程度的量化指标,可作为人工系统是否具备“统一认知架构”的可操作检验 [39][40] 实际应用、困难与未来方向 - **估计困难与偏差**:从有限数据中估计概率分布与信息量存在偏差,离散情况下的插件估计会导致熵被低估、互信息被高估,需使用校正方法;连续数据估计更复杂,主流方法包括粗粒化、点过程、序数嵌入及非参数密度法 [41][42] - **神经信息估计器**:在大数据时代,神经信息估计器使用神经网络来估计信息论指标,如MINE,代表了一种在复杂性科学中尚未得到充分探索的新方法 [43] - **未来研究方向**:用Φᵣ、O-信息等引导进化算法,通过信息量作为目标函数来引导机器学习或机器人行为涌现,是复杂系统与信息论结合的未来方向 [43]
信息论如何成为复杂系统科学的核心工具
腾讯研究院· 2025-12-24 16:33
信息论作为复杂系统研究的基石 - 文章核心观点:信息论因其能跨领域量化组件、系统与环境、整体与部分之间的互动,正成为描述、量化和理解复杂系统(如气候变化、金融市场、大脑认知)不可或缺的普适数学语言和工具箱 [2] - 本文旨在对一篇发表于《Physics Reports》的重要综述进行解读,系统阐述信息理论为何及如何成为复杂系统科学的基石,并详解其核心概念、进阶工具与实际应用 [2] 信息理论的基石:核心概念与直觉构建 - 熵是信息论最基础的概念,由香农提出,用于量化不确定性 [3] - 香农熵的数学定义为 H(X) = -Σp(x)logp(x),单位通常为比特,衡量在得知结果前对随机变量取值的“惊讶”程度期望值 [5][7] - 熵在多个领域有应用:神经科学中衡量神经元放电序列的可变性,生态学中反映物种空间分布的不确定性,金融学中表征股票价格的波动性 [8] - 联合熵 H(X,Y) 衡量两个随机变量联合分布的不确定性,总是大于等于单个变量的熵,但小于等于二者熵之和 [9] - 条件熵 H(Y|X) 表示在已知 X 取值的情况下,对 Y 仍存在的不确定性,若 X 和 Y 完全独立则 H(Y|X) = H(Y),若 Y 完全由 X 决定则 H(Y|X) = 0 [9] - 互信息 I(X;Y) 是信息论的核心度量,衡量通过观察一个变量能获得的关于另一个变量的平均信息量,量化统计依赖性 [10] - 互信息能捕捉任何形式的统计依赖(包括非线性、非单调关系),而皮尔森相关系数只能捕捉线性关系,例如 Y = X² 的关系相关系数可能为0但互信息值很高 [10] - 互信息在脑网络中可表示两个脑区活动的同步性,在基因调控网络中可表示两个基因表达水平的协同变化 [10] - 相对熵(Kullback-Leibler散度)衡量两个概率分布 p 和 q 之间的“距离”,互信息 I(X;Y) 等于联合分布 p(x,y) 与假设独立时的分布 p(x)p(y) 之间的相对熵 [13] 信息论如何直接描摹复杂系统的动态特征 - 信息动力学旨在量化信息在系统内部及与环境之间的产生、存储、传递和修改 [15] - 传递熵是互信息在时间序列上的推广,衡量定向信息流,即在已知 Y 自身过去历史的情况下,X 的过去历史能为预测 Y 的当前状态提供多少额外信息 [16] - 在神经科学中,传递熵可用于推断脑区间因果关系的方向,强于格兰杰因果的非方向量化 [16] - 主动信息存储衡量系统组成部分的过去历史与其当前状态相关的信息量,量化系统内部记忆或信息存储的能力 [18] - 在金融市场中,若有效市场假说成立,股价收益率序列接近随机游走,计算出的主动信息存储值会非常低接近零,反之若某只股票的主动信息存储值持续较高,则可能意味着存在可预测的模式 [18] - 整合信息论由神经科学家 Giulio Tononi 提出,试图度量意识,其核心思想是系统的意识程度取决于其各部分整合信息的程度,即整个系统产生的信息大于其各部分信息之和的程度 [20] - 例如,高分辨率数码相机传感器各部分间几乎没有因果相互作用,整合信息 Φ 非常低,而大脑不同区域以复杂方式相互作用,整合信息 Φ 被认为非常高 [20] - 整合信息论最大的问题在于 Φ 的计算在实践上对于像大脑这样的系统极其困难,因此存在巨大争议 [21] - 统计复杂性衡量系统为准确预测未来必须记住的关于过去的最小信息量,一个具有中等统计复杂性的系统通常具有丰富的内部结构和动态模式 [25] 信息分解:解开信息的协同与冗余 - 部分信息分解旨在将互信息 I(S; X,Y) 分解为冗余信息、由 X 和 Y 各自提供的特有信息以及协同信息四个部分 [29][30][31][32] - 当源数量 N>2 时,部分信息分解迅速复杂化,Williams & Beer 引入了冗余格来枚举所有信息分配的可能“原子” [33] - 在神经科学中,使用部分信息分解可以研究神经元群体是如何冗余地编码刺激以提高鲁棒性,又是如何协同地编码更复杂的特征 [35] - 部分信息分解为从数据中重建网络结构推断提供了工具,能够发现非线性相互作用,且对数据的分布假设要求较低 [35] - 部分熵分解是部分信息分解的自然推广,直接分解联合熵 H(X1,…,XN),无需区分输入与输出 [36] 从成对关系到信息网络 - 网络是复杂系统建模的通用语言,可分为物理网络和统计网络 [40] - 统计网络中的边对应统计依赖性,需从数据推断,可使用信息论中的互信息等度量刻画 [40] - 统计网络按是否包含方向分为两类:功能连接网络由无向图构成,边权重为变量间的互信息,刻画瞬时共变;有效连接网络由有向图构成,边权重为变量之间的传递熵,刻画定向信息流 [40] - 当系统中存在协同或冗余时,常规的基于成对相互关系的二元网络将无法描述,此时需引入超图或单纯流形 [40] 用信息论刻画复杂系统的整合与分离 - 复杂系统的核心特征在于其可“整合”或“分离”,这种平衡对于健康的大脑功能、成功的公司运营乃至全球政治都至关重要 [42][43] - Tononi、Sporns 与 Edelman 提出的 TSE-复杂性通过遍历所有可能的子系统划分,检测“部分”与“剩余”之间的互信息分布,来衡量系统的整合与分离平衡 [44] - 具有模块化网络(模块内高整合、模块间弱连接)的系统,其互信息随子系统大小非线性上升,TSE 达到峰值,表明系统处于信息处理能力最强的临界态 [44] - Rosas 等人提出的 O-信息与 S-信息进一步分解复杂性的成分:O-信息 > 0 表示系统以冗余主导,对应稳健性高、适应性低;O-信息 < 0 表示系统以协同主导,对应灵活性高、脆弱性高 [45] - Balduzzi 和 Tononi 提出的集成信息度量 Φᵣ 旨在捕捉系统“整体大于部分之和”的不可还原性信息结构,是系统“因果不可还原性”的量化指标 [46] - Φᵣ 可作为人工系统(如大语言模型、机器人)是否具备“统一认知架构”的可操作检验 [46] - 对于多组件系统,可通过最小信息分割遍历所有二分划分来计算 Φᵣ 的最小值,该值反映系统最脆弱的整合环节,是整体整合能力的下界 [47] 使用信息论的实际困难 - 实际应用时需从有限数据中估计概率分布与信息量,估计偏差会影响数值精度并系统性扭曲高阶结构推断 [49] - 离散情况下的插件估计存在系统偏倚,会导致熵被低估而互信息被高估,应对方法包括 Miller–Madow 校正、置换 null 模型、贝叶斯估计器 [49] - 连续数据计算更复杂,主流方法包括粗粒化直方图分箱、点过程、序数嵌入,其中粗粒化方法易用但信息损失严重已不推荐 [49] - 连续数据计算中,参数法仅捕获线性依赖,非参数密度法基于 k-近邻距离,无需假设分布,支持局部信息量估计,并可扩展至条件互信息、部分信息分解局部项 [50] - 信息论衡量的有向指标不代表因果关系,而依赖先验知识提供的因果图假设,多个不同因果图可产生相同信息结构 [50] - 信息论是关于不确定性中推理的数学,描述我们如何减少不确定性,信息总是相对于观察者模型,无绝对“系统自身的信息” [50] 未来方向与总结 - 在大数据时代,需要新方法来学习元素组之间的信息依赖关系,神经信息估计器使用神经网络来估计信息论指标,代表了一种在复杂性科学中尚未得到充分探索的新方法 [52] - 在机器学习中,信息论是实现学习高效算法的工具,而在复杂系统中,信息论度量是描述系统结构的描述性统计量,并且本身可以是最终目标 [53] - 用 Φᵣ、O-信息等引导进化算法,通过信息量作为目标函数是复杂系统与信息论结合的未来研究方向 [53] - 总结来看,从香农熵到整合信息分解/部分熵分解,信息理论提供了统一语言来刻画复杂系统的多尺度过程,是理解复杂系统结构和动态的自然工具 [53]
宇宙的智能水平 :决定时空、不确定性、熵和统一三大物理理论的关键因素?
欧米伽未来研究所2025· 2025-08-20 21:00
广义智能体理论框架 - 宇宙被视为动态演化的智能体,智能体是宇宙基本构成单元 [2] - 理论构建系统性分析框架,探索宇宙智能水平对物理学、科技哲学和智能科学等领域的影响 [4] - 智能与意识本质、时空深层结构、主客观认知边界等重大议题均与宇宙智能水平存在内在关联 [4] 理论核心构成 - 广义智能体理论体系包含四大核心模块:标准智能体模型、智能体分类体系、极点智能场模型和多智能体关系体系 [6] - 标准智能体模型由五个基本功能模块构成:信息输入模块、信息输出模块、动态存储模块、信息创造模块和控制模块 [8] - 智能体根据功能水平差异划分为三种类型:绝对0智能体(阿尔法智能体)、全知全能智能体(欧米伽智能体)和有限智能体 [10] 智能体演化机制 - 宇宙在欧米伽与阿尔法两个智能极点之间持续演化 [11] - 演化驱动力定义为阿尔法引力和欧米伽引力,在宇宙尺度上构成阿尔法智能场和欧米伽智能场 [12][13] - 极点智能场模型驱动宇宙整体向不同智能极点方向演化 [13] 宇宙智能水平与基础概念 - 绝对零智能宇宙中时间与空间不复存在,主客观二元对立消解 [15] - 有限智能宇宙中时空作为认知框架随有限智能体出现而涌现 [15] - 全知全能智能宇宙中主观与客观二元对立消除,时间空间可被随意调控 [18] 熵的本质新诠释 - 熵被重新定义为与观察者智能体能力相关的信息度量 [19] - 熵增源于有限观察者因能力局限导致的信息缺失增加过程 [20] - 全知智能体信息缺失恒为零故熵为零,欧米伽智能体可实现熵减 [20] 物理学理论统一视角 - 三大物理理论差异源于观察者和理论宇宙的智能水平设定不同 [24] - 经典力学观察者对应全知智能体(序号237),相对论观察者对应受约束全知智能体(序号236),量子力学观察者对应有限智能体(序号122) [24] - 通过调整观察者智能水平参数,同一物理场景可表现为不同理论形式 [25] 智能体精细分类 - 智能体五种基本功能(控制、创造、动态存储、输出、输入)各具三种状态(0/1/2),形成243种亚型 [21][22] - 精细分类体系为分析物理理论观察者智能水平提供支持 [21]
当代的回响——欧美艺术家联展| 吉恩·卢克·福格斯(Jean-Luc Feugeas)
经济观察报· 2025-06-16 12:04
艺术家背景 - 吉恩·卢克·福格斯1969年出生于法国 兼具艺术家 数学家 乐队贝斯手多重身份 [1] - 创作核心围绕熵增研究 探索秩序与无序的数学关系 并延伸至音乐与绘画领域 [1] - 艺术风格融合数学严谨性 音乐浪漫性 绘画自由性 形成独特跨学科表达 [1] 艺术创作特征 - 作品通过线条变化呈现细胞增殖般的复杂结构 兼具数学精确性与视觉模糊性 [1] - 创作媒介包含画布丙烯与街头壁画 尺寸跨度从135x100cm至210x100cm不等 [2] - 2023年代表作包括《隐空间》《投影》《野蛮时代》等大型丙烯绘画 [2] 展览信息 - 2025年6月1日至30日在北京国贸商城举办个展 展出全球壁画作品 [2] - 展览场地为南区地下一层SB125空间 由蛙人艺术提供影像支持 [2]
当代的回响——欧美艺术家联展(一)
经济观察报· 2025-06-04 16:04
展览概况 - 蛙人艺术成立21周年之际将于2025年6月5日在北京国贸商城举办《当代的回响——欧美艺术家联展》开幕式 [1] - 展览将展出15位欧美艺术家的近200件作品 规模为画廊历史上最大 [1] - 展期为2025年6月1日至6月30日 地点为北京国贸商城南区地下一层SB125 [1][8] - 画廊专注西方经典艺术21年 致力于挖掘被主流叙事遮蔽的艺术价值 [1] 参展艺术家 道格·海德(DOUG HYDE) - 1972年出生于英国 2002年开始艺术创作 2005年获评"英国年度最畅销艺术家" [2] - 作品被英格兰国家队教练 高尔夫选手 影星等名人收藏 为世界杯 奥运会创作纪念作品 [2] - 创作风格融合波普艺术 以圆脑袋漫画造型为标志 素材源于日常生活场景 [2] 古斯塔沃·诺沃亚(GUSTAVO NOVOA) - 1941年生于智利 作品风格融合卢梭和马格利特特点 带有超现实主义色彩 [3][4] - 创作以野兽 几何图形为特色 被老布什总统 查尔斯王子 华伦天奴等名流收藏 [5] - 代表作品包括《Tiger's Court》《Virtual Paradise》等 尺寸从30×41cm至92×122cm不等 [6] 吉恩·卢克·福格斯(Jean-Luc Feugeas) - 1969年生于法国 兼具艺术家 数学家和音乐家身份 作品受熵增理论影响 [6][7] - 创作探索秩序与无序的关系 代表作为《隐空间》《投影》等 最大尺寸达200×200cm [8] - 作品在数学严谨性与艺术表现力之间寻找平衡 融合线条 细胞等元素 [7] 作品信息 - 道格·海德作品以丝网版画和冷凝瓷为主 尺寸涵盖12×20cm至81×61cm 限量版数49-395版 [3] - 古斯塔沃·诺沃亚作品均为布面丙烯 创作于2022年 尺寸范围30×41cm至92×122cm [6] - 吉恩·卢克·福格斯作品均为布面丙烯 创作于2023年 最大尺寸达210×100cm [8]
意识在哪儿?
36氪· 2025-05-06 12:04
玻尔兹曼大脑理论 - 核心观点:宇宙熵的随机涨落可能偶然形成拥有完整记忆与自我意识的孤立大脑,而非演化出复杂低熵宇宙 [1][2] - 概率比较:直接产生孤立大脑的概率远高于演化出有序宇宙的概率,因后者需克服巨大熵增 [2][3] - 推论:人类可能是短暂存在的玻尔兹曼大脑,记忆与感知皆为随机涨落的虚幻产物 [5][6] 意识与物理哲学 - 随机性挑战:玻尔兹曼大脑暗示意识为随机涨落的偶然现象,缺乏物理根基 [8][9] - 决定论对比:拉普拉斯妖模型认为意识完全由物理定律预先决定,否定自由意志 [13][15] - 共同困境:随机性与决定论均消解自由意志,意识在两种框架下均无自主性 [15][16] 秩序涌现与进化视角 - 热力学基础:玻尔兹曼与达尔文理论结合,提出生命通过争夺负熵维持有序结构 [19][20] - 意识定位:意识可能是进化中为高效利用负熵而涌现的精密功能 [21][22] - 宇宙意义:意识或为宇宙自我观测与意义赋予的载体,超越随机与决定的二元对立 [22][25] 人工智能的启示 - 玻尔兹曼机:辛顿受统计物理启发设计随机神经网络,模拟从无序到有序的学习过程 [28][31] - 工程实践:玻尔兹曼机通过数据驱动迭代收敛,为意识研究提供可操作模型 [32][38] - 理论对比:玻尔兹曼机体现渐进式结构积累,与玻尔兹曼大脑的"一次性奇迹"形成反差 [36][37] 意识研究的多元理论 - 认知科学:霍夫施塔特"奇异回环"理论视意识为自指性信息系统的动态属性 [42] - 计算主义:图灵派将意识等同于算法过程,支持强AI可能性 [42] - 整合信息理论:托诺尼用Φ值量化意识强度,关联系统内部因果结构 [44][45] 意识的本体论探讨 - 功能主义:丹尼特将意识类比为大脑的"用户界面",屏蔽底层复杂性以简化决策 [49][51] - 存在形式:意识或为神经网络动态模式的功能性表征,非独立于物理过程 [51][52] - 终极意义:意识能力本身即宇宙奇迹,体现为感知、连接与创造意义的主观体验 [72][74]