知识
06|有效编码:10个手指能表示多少个数字?
信息编码的两个基本原理:易辨识和有效性;
用实例说明了信息论原理和我们工作的关系。05|信息编码:数字和文字是如何诞生的?
人类创造数字和文字语言的过程,其实都是人类用来消除信息不确定性的编码手段。各种编码系统,其实都是在编码复杂性和编码长度之间作平衡,它们在数学上是等价的;
由于它们是等价的,所以,在一个编码系统中解决不了的问题,换一个系统同样解决不了;
香农第一定律告诉我们,只要编码设计得足够巧妙,就可以找到最短编码。04|信息度量:世界上有稳赚不赔的生意吗?
香农告诉大家,信息可以衡量,但不是用重要性,而是用信息量,单位是“比特”。
你可以把一个充满可能性的系统视为一个“信息源”,它里面的不确定性叫做“信息熵”,而“信息”就是用来消除这些不确定性的,所以搞清楚黑盒子里是怎么一回事,需要的“信息量”就等于黑盒子里的“信息熵”。
很多复杂交易背后其实都用到了信息的可度量性。
信息量的大小不在于长短,而在于开创多少新知。03|大数据思维的科学基础
给大家举了四类大数据思维应用在商业上的成功案例:
第一类是解决人工智能问题,是利用数据(信息)消除不确定性,这是香农信息论的本质,也是大数据思维的科学基础。
第二类是利用大数据进行精准服务,从中你可以看出一个商业趋势:公司从重研究方法到重数据收集的转变。
第三类是动态调整做事策略,足够多的数据可以帮助我们动态匹配最佳结果。
最后一类是利用大数据发现未知规律,这背后涉及互信息的理论,是后面课程的重点内容。
这四类大数据应用,都在传达一个信息,那就是大数据的关键是思维方式的变化。
信息既不简单也不复杂,对过去很重要,对当下更是如此,对社会影响深远,对个人也极具指导意义,以至于如今,信息论在经管领域的应用比通信领域本身更广泛和深入。02|解开世界之谜的三篇诺贝尔奖论文
那些影响世界的重大科学发现其实都是在极短的论文中发表出来的,因为世界上最关键的信息(知识)其实是非常简洁的,也就是说一条信息的信息量可能和信息的长度无关。那信息量和什么有关?关于这一点会在后面仔细讲。
本文的三个例子,都说明了信息是世界固有的属性。
上讲介绍了信息是什么,它的作用有多大。本讲阐述了信息是世界固有的属性,并且预告了信息论中很多内容。下一讲,讲讲信息论和方法论的关系。01|影响世界的三比特信息
信息很重要,甚至比钱更重要,它能四两拨千斤。而信息作用的大小和信息量有关。
信息量和不确定性有关,大家都知道的事,就没有什么信息量了。
对一个未知系统(黑盒子)所作出的估计和真实情况的偏离,就是信息的损失,偏离越多损失越大。
此外,还提到了信息论的一个原则,不要把鸡蛋放在一个篮子中,这样可以避免因为信息缺失,而导致灾难性结果。在接下来用例子介绍信息论的一些理论,以便于大家做事情有理论指导。00|信息论是这个时代每个人的必修课
一个人的思维方式和做事方法常常决定了一个人能够走多远,而在历史的任何时期,都有最适合时代的方法论。如今,面对不确定性和非连续变化,信息论所提供的方法,能成为解决今天各种困惑的工具。
世界上任何一个探索者都需要清楚三件事:我们现在的位置,我们的目标,以及通向目标的道路。我们知道哲学是一门生活的艺术,它帮助我们认清自己,它回答了第一个问题。至于每一个人的目标,相信大家自己都清楚。而第三件事其实是方法论或者说是理性的工具,相信大家有了信息论这个工具,就能更好地应对当下充满不确定性的世界,达成自己的目标。
清楚了这三件事,我们便不再需要焦虑,内心就得到安宁。