内容紹介
情報理論を学ぶ学生が基礎から理解する本!
情報理論は今日なお発展しつつある理論であり、今後ますますその応用が期待されているところです。
本書は、2011年3月に発行された『情報理論の基礎』の第2版です。
無用の一般化を排し、数式の乱用を避け、理論上の厳密さよりも事の本質や意義を正しく理解できることを重視し、直感的に理解できるように工夫した例題や図説を豊富に盛り込んで、情報理論の基礎をわかりやすく解説しています。
目次
主要目次
1章 序説
2章 情報量
3章 情報の発生と伝達
4章 符号化
5章 連続的信号
練習問題
参考文献
索引
詳細目次
1章 序説
2章 情報量
2.1 事象と記号
2.2 確率モデル
2.2.1 事象と確率
2.2.2 条件付き確率
2.2.3 完全事象系
2.3 情報の定量化
2.3.1 情報量
2.3.2 情報量の意味
2.4 エントロピー
2.4.1 完全事象系のエントロピー
2.4.2 エントロピーの性質
2.4.3 秩序と無秩序
2.4.4 2つの完全事象系
2.4.5 いろいろなエントロピー
3章 情報の発生と伝達
3.1 情報の種類
3.2 情報源
3.2.1情報源のモデル化
3.2.2 拘束のある記号系列
3.2.3 英語の統計的性質
3.3 マルコフ情報源
3.3.1 定義
3.3.2 マルコフ情報源の諸性質
3.3.3 マルコフ情報源のエントロピー
3.4 通信路
3.4.1 情報伝達のモデル
3.4.2 通信容量
3.4.3 雑音のない通信路
3.4.4 雑音のある通信路
4章 符号化
4.1 能率と冗長度
4.1.1 記号系列の能率と冗長度
4.1.2 符号化と能率
4.2 符号化と通信路
4.2.1 情報伝送と符号化
4.2.2 シャノンの第1定理
4.2.3 シャノンの第2定理
4.3 能率の高い符号化法
4.3.1 シャノン-ファノの符号化法
4.3.2 ハフマンの符号化法
4.4 冗長度を持たせる符号化法
4.4.1 冗長度のある符号
4.4.2 ハミング距離
4.4.3 パリティ検査
4.4.4 線形符号
5章 連続的信号
5.1 エントロピー
5.1.1 確率変数と確率密度
5.1.2 連続的信号のエントロピー
5.1.3 最大エントロピー
5.1.4 通信容量
5.2 周波数スペクトル
5.2.1 フーリエ級数
5.2.2 フーリエ変換
5.2.3 不確定性原理
5.3 標本化定理
5.3.1 周波数帯の制限
5.3.2 標本化定理
5.3.3 信号空間
練習問題
参考文献
索引
続きを見る