情報理論とデジタル表現　第6回

「エントロピー」

• 
• 
• 

エントロピーという概念を導入し、それが情報源から得られる平均的な情報量という側面と確率分布の不確定さという側面を持っていることを解説する。さらに、熱力学でいうところのエントロピーとの関係についても述べる。次に、エントロピーの性質について解説し、条件付きエントロピー、相互情報量、カルバック・ライブラー情報量を定義する。

• キーワード

  エントロピー、不確定さ、条件付きエントロピー、相互情報量、カルバック・ライブラー情報量

• 出演者

  放送大学教授　加藤　浩

• 

  加藤浩