信息论40讲

  • 02|解开世界之谜的三篇诺贝尔奖论文

    那些影响世界的重大科学发现其实都是在极短的论文中发表出来的,因为世界上最关键的信息(知识)其实是非常简洁的,也就是说一条信息的信息量可能和信息的长度无关。那信息量和什么有关?关于这一点会在后面仔细讲。
    本文的三个例子,都说明了信息是世界固有的属性。
    上讲介绍了信息是什么,它的作用有多大。本讲阐述了信息是世界固有的属性,并且预告了信息论中很多内容。下一讲,讲讲信息论和方法论的关系。

    2023年11月22日
    8500
  • 01|影响世界的三比特信息

    信息很重要,甚至比钱更重要,它能四两拨千斤。而信息作用的大小和信息量有关。
    信息量和不确定性有关,大家都知道的事,就没有什么信息量了。
    对一个未知系统(黑盒子)所作出的估计和真实情况的偏离,就是信息的损失,偏离越多损失越大。
    此外,还提到了信息论的一个原则,不要把鸡蛋放在一个篮子中,这样可以避免因为信息缺失,而导致灾难性结果。在接下来用例子介绍信息论的一些理论,以便于大家做事情有理论指导。

    2023年11月21日
    14700
  • 00|信息论是这个时代每个人的必修课

    一个人的思维方式和做事方法常常决定了一个人能够走多远,而在历史的任何时期,都有最适合时代的方法论。如今,面对不确定性和非连续变化,信息论所提供的方法,能成为解决今天各种困惑的工具。
    世界上任何一个探索者都需要清楚三件事:我们现在的位置,我们的目标,以及通向目标的道路。我们知道哲学是一门生活的艺术,它帮助我们认清自己,它回答了第一个问题。至于每一个人的目标,相信大家自己都清楚。而第三件事其实是方法论或者说是理性的工具,相信大家有了信息论这个工具,就能更好地应对当下充满不确定性的世界,达成自己的目标。
    清楚了这三件事,我们便不再需要焦虑,内心就得到安宁。

    2023年11月20日
    9800
Xaiat 人工智能艾特 让人人更懂AI