内容紹介
情報工学を学ぶ学生が情報・符号理論を基礎から理解する本!
情報理論は今日なお発展しつつある理論であり、今後ますますその応用が期待されているところです。
本書は、シャノンの理論を紹介するとともに、その具体的な成果でもある符号の基礎理論をわかりやすく解説しています。
数学的厳密さに捉われず、なるべく直感的に理解できるようにまとめています。
今回の改訂にあたって、リード・ソロモン符号やパンクチャドたたみ込み符号など誤り訂正符号の内容を充実させました。
目次
主要目次
1章 序説
2章 情報源と情報量
3章 情報源符号化
4章 通信路符号化
5章 誤り訂正符号
6章 連続的通信系
付録 代数学の基礎
演習問題解答
参考文献
索引
詳細目次
1章 序説
1.1 情報理論の発展
1.2 通信系のモデル
1.3 符号化の目的
1.4 情報源符号化の問題点
1.5 通信路符号化の問題点
2章 情報源と情報量
2.1 情報の定量化
2.2 エントロピー
2.2.1 平均情報量
2.2.2 結合エントロピー
2.2.3 条件付きエントロピー
2.2.4 相互情報量
2.3 情報源の統計的表現
2.4 独立生起情報源とエントロピー
2.4.1 独立生起情報源
2.4.2 情報源が発生する記号系列とエントロピー
2.5 マルコフ情報源とエントロピー
2.5.1 m重マルコフ情報源
2.5.2 状態遷移図
2.5.3 定常確率
2.5.4 マルコフ情報源のエントロピー
演習問題
3章 情報源符号化
3.1 符号の条件
3.1.1 一意復号可能性と瞬時復号可能性
3.1.2 符号の木
3.1.3 クラフトの不等式
3.2 平均符号長
3.3 情報源符号化定理
3.4 誤りのない通信路の通信路容量
3.5 ハフマンの最短符号化
演習問題
4章 通信路符号化
4.1 離散的通信路のモデル
4.1.1 通信路行列による通信路の表現
4.1.2 記憶のない離散的通信路の例
4.1.3 誤り源による2元通信路の表現
4.2 伝送情報量
4.3 通信路容量
4.4 加法的2元通信路の通信路容量
4.5 通信路符号化定理
4.6 復号法
演習問題
5章 誤り訂正符号
5.1 誤り検出・訂正の基礎概念
5.2 2元線形符号
5.2.1 単一パリティ検査符号
5.2.2 ハミング符号
5.2.3 一般の線形符号
5.2.4 符号語数の限界式
5.3 巡回符号
5.3.1 巡回符号の定義
5.3.2 巡回符号の生成多項式
5.3.3 巡回符号の構成法
5.3.4 巡回符号のシンドローム
5.3.5 多項式の割り算回路
5.4 BCH符号
5.4.1 ガロア体
5.4.2 拡大体
5.4.3 BCH符号の構造
5.5 リード・ソロモン符号
5.6 ユークリッド復号法
5.7 たたみ込み符号
5.7.1 たたみ込み符号
5.7.2 パンクチャドたたみ込み符号
5.7.3 ビタビ復号法
5.8 連接符号
演習問題
6章 連続的通信系
6.1 標本化定理
6.2 連続的情報源とエントロピー
6.2.1 連続信号のエントロピー
6.2.2 平均電力が制限された信号の最大エントロピー
6.3 連続的通信路
6.3.1 連続的通信路のモデル
6.3.2 通信路容量
演習問題
付録 代数学の基礎
問題解答
参考文献
索引
続きを見る