导读：很多朋友问到关于人工智能中什么是无序度的相关问题，本文首席CTO笔记就来为大家做个详细解答，供大家参考，希望对大家有所帮助！一起来看看吧！
什么是“无序度”？
一个物体，列如台球刚开始打的时候是有序的，（可以想象预测）而当开球后就变得没有顺序了，（不可以人为想象）它就从无序度0变为上万单位的无序度。
又如扑克牌出厂的时候每一包扑克的顺序都一样，但当你重新洗牌后顺序就不一样了。
所以无序度就是指某一物体从高度有序（可预见）变为无序（不可预见）的过程。
人工智能通识-科普-信息熵和信息量
信息论中的熵如何度量的？
信息是否可以有统一的度量标准？
当你收到两条不同信息的时候，是否有方法可以度量那一条包含更多内容？
信息论之父克劳德香农Claude Shannon对这一切给出了数学量化方法，提出信息熵和信息量的概念。
同热力学中熵的概念一致，信息熵也是用于表现系统的无序随机程度。
硬币只有正反两面，随机投掷后落地只有两种可能；而骰子有六种可能。所以随意投出的投资比随意投出的硬币具有更多的随机性，或者说硬币的确定性更多一些。
明显的，信息A的信息量更大，因为它消除了另外5种可能；而信息B则只消除了另外一种可能。
当一条信息出现的时候，也意味着背后的随机性的消失。信息熵是对系统背后所有随机可能性的度量，信息量是指特定信息能够消除多少随机性（熵）。
信息熵和信息量之间的关系是什么？
特定信息的出现都是有概率的。比如说“硬币落地正面朝上”这个信息的概率是1/2，而“骰子落地显示5点”这个信息的概率是1/6。
以骰子来看，每个点数的信息都可以消除另外5种随机可能，那么我们把这些信息量相加就得到了所有可以被消除的熵的总和，但需要注意的是，每个点数都只有1/6概率出现，所以我们还需要乘以这个概率，那么我们就得到：
其中：
以上的信息熵公式中的信息量h(x)如何定义？
首先这是纯粹由人来设定的含义，应该方便于表达和计算。克劳德香农主要考虑到信息量应该具有以下特征：
我们知道，多个事件叠加的结果需要概率相乘，比如两个骰子，“A：其中一个投出6点”，“B：另一个投出5点”，那么叠加后“C：一个投出6点，另一个投出5点”，对于概率应该是P(C)=P(A)·P(B)，这里C事件出现的概率是1/6乘1/6等于1/36。
矛盾出现了，h(x)和1/P(x)成正比，但是又要满足 和 ，这可能吗？
可以的，香农经过数学推理之后得到结论，信息量必须是可能性P的倒数的对数：
这里的对数log的底数可以是10或自然对数e或者任意数字，但在香农的信息论中都使用2。
那么对于“硬币正面向上”这个信息，它的信息量就是 ，这个也是香农设定的信息量单位，也叫香农单位，其实也对应了1比特。
而对于四种平均随机可能的情况，每一种的信息量就是 ，对应2比特的信息量。
骰子的每种情况的信息量是 ，可以是小数。
这个信息量公式的另一种表达方式是改为：
所以整体信息熵的计算公式就是：
或写作：
按照这个公式计算扔硬币系统的信息熵是 ，而四种可能性的随机系统的信息熵是 ，骰子系统的信息熵是 。
很明显，系统的信息熵和单条信息量是相等的。但请注意，这里存在一个前提，那就是： 此条信息必须能够让系统变得完全确定 。对于“骰子投出的点数大于3”这样的信息就不可以简单的用这样的算法来计算。
如果一条信息能够消除系统所有的不确定性，那么它所蕴含的信息量与整个系统的信息熵一样多。
硬币和骰子和四种可能的例子几乎都是所有事件（每条信息）的发生概率相等的情况，对于更复杂的情况我们将在后面的文章中继续讨论。
END
《逻辑学》：让大脑高度有序，才是对抗不确定性的法宝
经常有读者问我，说：
为什么向您请教一个问题，您总能很快指出在哪篇文章里面提到过，是因为您的记忆力特别好吗？
其实不是的。更重要的原因是：如果你经过系统训练，有意识地去获取知识的话，是应该能够 把知识联系起来，连成一张网的。
那么，对你而言，每一个知识点，无非都是这张网里面的一个局部。面对任何一个知识点，你都可以知道「它在哪儿」，然后循着路径去找到它，并牵引出它的来龙去脉、前因后果。
很有趣的是，这恰好跟物理学里的一个概念是对应的： 熵。
什么是熵？简单来说，就是无序程度的度量。熵越高，表示一个系统越混乱、越无序、越不确定。
举个简单的例子：把一句话拆成十几个词，它们彼此组合起来可以有几十种可能性，那么它们的无序程度就很高；但把它们组合成一个句子，就只能表达一个意思，那么这个句子的无序程度就非常低，而确定性就提高了。
比如：「小明」「小红」「喜欢」，这三个词就有两种可能性：究竟是小明喜欢小红，还是小红喜欢小明？但如果我们把它变成「小明喜欢小红」，从词语变成句子，它的表意就非常明确了。
在这个例子中，前者就是一个高熵的状态，而后者就是一个低熵的状态。
热力学第二定律告诉我们： 一个孤立系统，总是倾向于由低熵状态向高熵状态演化。 因为高熵状态从概率上是「更可能」出现的，而低熵状态是「更不可能」出现的。这就是大家耳熟能详的「熵增」定律。
举个简单的例子：一个房间，正常情况下，如果不去收拾它，它一定会随着时间推移，变得越来越乱、越来越脏，这就是一个高熵的混乱状态。
那如何让它变成低熵的有序状态呢？热力学告诉我们，这就需要进行能量的交换，亦即对这个孤立系统注入能量。
在这个例子里，就是需要你主动地去收拾它、整理它，亦即注入你的时间、精力，才能使它进行 「熵减」 —— 由高熵的无序状态，回到低熵的有序状态。
生命其实也是如此。
我在 感觉人生很艰难，怎么办？ 里面，提到过一句话：「绝对的自由也许意味着无序，亦即无限的可能性。但生命作为熵减的有序体，这本质上就是互相对立的。」
有些同学表示不理解。其实是这样：生命的本质是什么？如果我们把生命看作一个系统，那么它就是通过摄取能量， 把外界无序的、混乱的信息，转变为自身内部有序的信息 ，这么一个过程。
这就是「熵减的有序体」。
以我们为例：你每一天都在成长，那么你的身体发生了什么变化？
你通过进食获取能量，这些能量在基因的指导下被转化为蛋白质，用来构建和修复你的组织；
你和外界产生交互，这些讯息通过大脑的记忆活动被筛选出来、沉淀下来，形成你的记忆；
乃至于你产生一个想法，都是因为大脑皮层中160亿个神经元在放电，从而把各种感官信息、心理表征和记忆印记整合起来，组合成一个统一的、整体的、有序的「意识」……
这些，都是从无序到有序的「熵减」过程。
可以说： 成长的过程，就是我们不断汲取外界的能量，让自己从「更加无序」变得「更加有序」的过程。
当然，这篇文章并不是科普文，所以关于熵的内容，就不讲太多了。大家对此有一个概念就好。
我主要想说的是：我们的思维，其实也是一样的。
我们每一天，都在从外界摄入信息。这些信息可能来自各种渠道，表达不同的内容，激发你不同的思考……
它们本质上是无序的，都是一块块信息碎片，彼此之间可以有无数种组合的可能性。这是一种高熵的状态。
但大脑是无法处理高熵状态的。因为高熵状态的可能性（在物理学里面，叫做「相空间」）非常多，这就意味着， 大脑不得不花费许许多多资源，来储存它们。
所以，如何才能把摄入的信息化为己用，让自己能够记住、理解和用上？最本质的做法，其实就是把这些信息，从高熵的无序状态，转化为低熵的有序状态。
我在很多文章里都提过一对对立的概念： 「碎片化」和「体系化」。 它们背后的本质，其实就是「高熵无序」和「低熵有序」。
所以，什么叫做碎片化信息？不是说你从微博、知乎、公众号看到的内容就一定碎片化，你读书、听课得来的内容就一定体系化，它最核心的点是：当这些信息进入你的大脑里面，是以什么样的形式被你所编码和储存的。
你孤立地、碎片地去记忆它们，那就是碎片化的；反之，你能够把它们串联成一个体系，彼此之间建立联系，让知识连成一张网，那就是体系化。
只有后者，才是真正有效的学习，也是能够持久记住、理解和应用的学习方式。
所以，我在很多文章里面，都会强调一个观点：一定要构建框架，再去学习。
为什么这样说呢？框架的本质是什么？就是元素与元素的某种固定的结合方式。当你对某个领域有了一个基本框架，你就相当于有了一张地图。你会知道：
这个知识点应该放在哪儿，这个知识点又应该放在哪儿，它跟前一个知识点之间有什么关系……
这就像前面所说的：把无序的「词」，组合成了有序的「句子」。
在这种情况下，你所吸收的知识，才能真正成为你的积累，形成你的思维之网。
很多朋友对此也许会有两个疑问。
第一：有些人会觉得：要对一个领域搭框架，是不是要很熟悉它才行？那当我还不熟悉它的时候，应该怎样去搭框架呢？
其实，框架可以自上而下，也可以 自下而上。
举个例子：
我平时在阅读学习的过程中，可能会接触到很多关于「意识」的知识点。比如：
「科学家一度认为屏状体是意识所在的区域」
「意识的两大流派之一：IIT 理论」
「意识的两大流派之一：GWT 理论」
「人工智能可以拥有意识吗？」
「IIT 和泛心论」
……
这些知识点零散在存放在大脑中，那么它们就是碎片化的。但是，我可以把它们整合起来，形成一个整体的框架，像这样：
意识的定义：……
意识的两大流派：
「意识的两大流派之一：IIT 理论」
「意识的两大流派之一：GWT 理论」
意识研究的最新进展：……
关于意识的研究史（已被推翻）：「科学家一度认为屏状体是意识所在的区域」
其他学科对意识的探讨：
哲学：「IIT 和泛心论」
人工智能：「人工智能可以拥有意识吗？」
……
那么，这就是一个关于「意识」的整体框架。有了这个框架，我就会知道，每一个具体的知识点应该放在哪儿。同样，如果以后获取到了新的知识点，我也会知道：它可以放在哪儿，可以如何跟其他知识点构建联系。
当我需要从大脑中提取「意识」的相关内容时，我就从这个框架里面去找就好了。比起我需要费劲地去回想「我看过哪些跟意识有关的知识点？」，这种做法更加轻松、方便、毫不费力。
第二，有些朋友可能会问：那框架搭错了怎么办？
这压根不是一个问题。搭框架又不是考试答题，更不是盖摩天大楼，搭错了，改就好了呀。
当你发现「框架搭错了」时，一定是发现了有一些知识点，跟目前的框架是不相容的，没办法放到一起。那这个时候，就不妨结合这些新的知识点，来修补和改善原有的框架，把它们融合进来。
实际上，当遇到这种情况时，你应该感到开心。为什么？因为这就是认知升级的机会。 知识点的获取和更新不是认知升级，知识框架的更新迭代才是。
所以，我一直说：要保持思维的开放性。什么叫开放性？就是始终不排除「如果我错了，会怎么样？」，始终让自己的知识框架保持生命力，不断迭代。
我们会看到：有些到了一定年纪的人，很容易思维固化，活在自己过去的认知里面，拒绝去接受世界的新变化。这种现象，其实就是思维缺乏开放性，知识框架固化了 —— 也就是大脑真正「衰老」的开始。
只要保持开放性，就永远不用担心「出错」。因为我们总是可以去修正它， 让任何外在的冲击，都被我们吸纳进来，成为使得系统更加稳健的一环。
更进一步，从框架再往前走，就是模型。
什么是模型？其实非常简单：当你遇到许许多多同类型的问题，理解和解决它们之后，你一定能够从它们中间发现很多共性。 这些共性整合到一起，就可以形成你对新的同类型问题的预判，帮助你更好地入手解决 —— 这就是模型。
模型的作用在于：可以帮助我们「合并同类项」，把相似的问题归类起来，用同一套方式去解决，大大地节省我们大脑的认知资源。
我在以往的文章里面，也分享过不少的思维模型。最常见的有这么几个：
系统思维模型： 把一个事物看作一个整体的系统，去思考组成它的各部分元素，各元素之间的联系，以及挪动一个元素时，会如何传递给其他元素，造成对系统整体的扰动……
可参见： 如何思考一个陌生的领域？
循环回路模型： 设计一套规则，营造一个环境，施加一个外力，让一个系统能够自己运转起来，并通过运转的结果为自己提供动力，不断地循环下去，同时产生有效的产出；
可参见： 一套也许是最有用的思维模型
成长系统模型： 通过对问题的暴露和刺激，用新模式替代旧模式，不断去矫正和训练自己的大脑，让心智世界更接近现实世界。
可参见： 一套帮助你成长的思维模型
诸如此类。
这些模型是怎么来的？其实都来自于对生活、工作、成长中遇到的问题的复盘和抽象思考。大体上，有这么几步：
我遇到的是一个什么问题？我如何把它表述出来？
这个问题的本质是什么？如果把它的具体场景和表象去掉，它背后的结构是什么？
在处理这个问题的过程中，我经历了哪些步骤？会遇到哪些障碍？
借由这个问题的解决，我能够从中抽象出什么经验，为以后的问题提供参考？
我之前在文章里提到过「对解决过的问题进行建模」，指的就是这样。
这本质上就是一个熵减的过程。如果说框架，是把我们「已知的知识」变得有序，把它们结构化；那么模型，就是对于「已知的问题」和「未知的问题」进行熵减，把碎片化的问题、案例和场景，进行抽象的提炼，从更高的维度去把它们融为一炉，形成一个更加有序的整体。
它着眼的，是对这个世界的认知方式，是如何识别、理解和探索这个未知的世界。
所以，可以说：一个人的知识框架，决定了「我是谁」；而一个人的思维模型，决定了「我会成为谁」。
当然，这两者是没有高下之分的。可以说，它们同等重要。知识框架就像蛋白质，构成我们稳定的自我认知；思维模型就像碳水化合物，为我们探索世界提供动力。
它们都是构成我们有序的、低熵的大脑的必不可少的部分。
你的大脑越高度有序，越能够把碎片化的信息整合到一起，形成一个复杂的整体，你也就越能更好地理解和适应外部的世界，从而让心智世界跟外在世界更好地拟合。
最后，分享一个简单有效的，可以锻炼大脑、使得思维更加「有序化」的方法：
那就是 写作。
当然，这里的写作，不仅仅包括文字写作，也 包括其他一切形式的输出 —— 比如视频、音频，等等。
为了方便起见，这里以文字写作来泛指一切输出。
你会发现，写作本身，就是一个最简单的「熵减」的例子： 把大脑中零散的、无序的思维碎片，整合成一篇高度有序的文章 ，从而把你的想法提炼、浓缩，形成一个有序的整体。
这个过程是很痛苦的，因为它会消耗你的脑力（熵减需要消耗能量）。但是，也正是因为这个过程，我们才得以把摄入的信息碎片和思维碎片，整合成一个整体，构建起框架和模型。
所以，我非常建议每一位朋友，养成日常写作的习惯。不一定要发表，不一定要写给别人看，也不一定要写得多好、写得多长，哪怕是每天写两三百字，只要能够把你脑海中的思维碎片进一步整理，都是好的。
我会把写作分成两大类： 写给自己的，跟写给别人看的。 后者的确是一门学问，需要一定的方法和训练，但前者不需要。只要你能在这个过程中，让自己的思维变得越来越清晰、明确，不断地提升大脑的有序性，就是理想的。
所以，不用对「写给自己的写作」有太高的要求，也不用去买专门的书、学专门的课程，没有必要，写就完事了。
简单分享几个心得，希望能给你一些指引。
每种方式都有入门版和进阶版。零基础的朋友可以用入门版，有一定基础和时间的朋友，可以用进阶版。
1. 事件日记
入门版：
今天发生了什么事？我看到了什么有趣的新闻？
如何用尽量简短的话，描述一下每个事件的梗概？
进阶版：
对于看到的这个事件，正面的立场和论据是什么，反面的立场和论据是什么？
结合以上两者，我是如何看待它的？我（暂时）的结论是什么？
这种方式可以锻炼你的敏感度和洞察力，让你对外在世界保持更高程度的敏感。
另外，进阶版同时可以锻炼形成自己观点的能力。经常有读者问我：如何培养自己的观点？我总觉得我对很多事情都「没有观点」 —— 那么，不妨试试这种方式。
我在之前的文章里也提过：化「碎片认知」为「连续认知」，去关注一个事件的正反面立场和连续的发展，你才能对它有一个更深入、更全面的认知。
同样，保持这种习惯，去理解和探索世界，你才能对这个世界，拥有「自己的判断」。
而不是人云亦云，任由自己被别人的观点和立场灌输、带跑。
2. 知识卡片
入门版：
我今天学到了什么知识点？
试着给它起一个名字，把它的内容记下来，并写上我对它的理解。
如果有条件，可以再想一想：它可以放在我知识框架里的哪个位置？
进阶版：
想象我面对着一个对此毫无了解的人，我要如何把这个知识点深入浅出地讲给他听，让他能够理解？
这种方式可以有效地沉淀自己的信息摄入和加工。当积累到一定程度之后，翻出这些知识卡片，你会感到巨大的满足感和成就感。
进阶版则更进一步。这种叫做共情式写作，它要求你去体会一个人的内心，去试着思考和理解「他人」，站在他人的角度看待问题。
一方面，这种方式可以有效地提升你对这个知识点的理解；另一方面，它也可以极大地锻炼你的表达能力。
我自己非常喜欢这种做法。比如：前阵子和一位法务朋友聊天，有了一些收获，我就会想：假如现在我有朋友要开公司，我会如何跟他普及一些基本的注意事项？于是，写出来。
最近看到有些人在讨论 MCN 的问题，我又会想：如果有朋友问我相关的问题，我要怎样向他科普？于是，写下来。
诸如此类。这种做法，一方面，可以把我获取的信息、积累的知识体系化地整理出来，让自己的思维更加有序；另一方面，它们也可以成为有用的素材，也许将来哪一天就用得上。
3. 观察日记
入门版：
我今天去了哪些新的地方？它长什么样子，有些什么摆设和布置？
我碰见过哪些人，给我留下了印象？他们的外貌是什么样的？
进阶版：
试着给自己碰见的人起一个「人设」，去猜想他可能的身份、经历、故事，写一段简单的「他为何会在这里」的小故事。
这种做法，非常显然，可以锻炼你的观察力和想象力。它的作用在于，把你零散的感官信息整合起来，构建起对一些场景、地点的基本认知，以此来形成你对这个世界的框架。
而进阶版则是一种很有效的文学创作的锻炼方式。如果你有志于小说、剧本等的创作，可以试一试。
4. 灵感日记
入门版：
我今天产生了什么想法，让我觉得特别有趣？
我是看到什么东西，才产生这个想法的？我有可能进一步发展它吗？如果有，可以做些什么？
进阶版：
这个想法跟我已有的其他知识和想法，是否能够融合、碰撞，产生一些新的火花和结果？
这个方法可以帮你捕获每天的灵感和想法。我们每一天，可能会产生数百到数千个想法，哪怕只有百分之一是有用的，也是一个不小的数字。如果任由它们产生再消失，就像泡沫一样破裂，那就非常浪费。
不妨试着让它们「熵减」，把它们变成有序的整体，去思考，如何能够让它们落地，在以后的某一天发挥作用。
实际上，我的很多文章和课程内容，都来自于这些灵感的落地生根。它们就像一颗颗种子，可能在当下没空去处理，但播种下来，再不断去翻阅、联系、碰撞，就能生根发芽，诞生出一些真正有用的想法。
哪怕真的无法「用起来」，但积累这些灵感和想法，也能有效地提升自己的幸福感，让自己感到，每一天都是充实的，都能留下痕迹。
5. 复盘日记
入门版：
我今天做成了一件什么事情，得到了什么样的反馈？
在这件事情中，我面临了什么抉择，我是如何思考并作出决策的？
进阶版：
从这件事情里，我可以抽象出什么模式，可以提炼出哪些经验，可能是对以后有用的？
这一点，可以帮助你把遇见过的经历、解决掉的问题，最大限度地「榨取」它们的价值，内化成你的思维模型。
从而，使得你付出的脑力和精力，以另一种形式储存起来，成为你的工具箱，在以后需要的时候，可以随时调用。
可以参阅： 这篇文章，讲透「复盘」
最后，总结一下：
用有效的思考，来对抗思维之熵。
让大脑变得高度有序，
才是对抗不确定性的法宝。
嫡（无序程度）是什么，具体详细一点，谢谢
熵是一个系统内物质微观粒子的混乱度(或无序度)的量度.系统的熵值越大.系统物质微观粒子的混乱度越大.在统计热力学中用S表示.且S=K(ln欧米伽)欧米伽是热力学概率(或混乱度),与一定宏观状态对应的微观状态总数.k是玻尔兹曼常数.值为R/N(A).R和N(A)分别是摩尔气体常数和阿伏加德罗常数.
结语：以上就是首席CTO笔记为大家介绍的关于人工智能中什么是无序度的全部内容了，希望对大家有所帮助，如果你还想了解更多这方面的信息，记得收藏关注本站。