内容紹介
理工系・文系を問わず非常にわかりやすい情報理論、符号理論の教科書
著者の長年の講義経験をもとに練り上げた情報理論・符号理論の教科書です。
大学1年生が読むことを念頭に、難解な内容となることを避け、高卒程度の数学を用いて、情報理論を解説しています。演習問題も数多く掲載しています。
改訂2版では、符号理論に関する解説をより追加、現行の大学・高専のカリキュラムにより即した内容とするほか、現在の視点からみて適切なアップデートをしています。
このような方におすすめ
「情報理論」を学ぶ大学学部・短大・専門学校の学生
電気・電子・コンピュータ関連初級技術者
目次
主要目次
1章 2進数の基礎
2章 確率論の基礎知識
3章 情報量とエントロピー
4章 情報源と通信路
5章 符号化
6章 暗号による通信と情報セキュリティ
詳細目次
1章 2進数の基礎
1-1 自然2進数
1-2 各種の2進数表現
①2進化10進数
②文字コード
1-3 2進数と10進数の変換
①10進数から2進数への変換
②2進数から10進数への変換
章末問題
2章 確率論の基礎知識
2-1 集 合
2-2 試行と事象
2-3 確 率
①確率の基礎
②完全事象系
③大数の法則
④加法定理と乗法定理
2-4 条件付き確率
①結合確率
②全確率の定理
2-5 ベイズの定理
2-6 確率変数
①期待値
②分散と標準偏差
章末問題
3章 情報量とエントロピー
3-1 情報量とは
①自己情報量
②情報量の加法性
3-2 平均情報量とエントロピー
①平均情報量
②エントロピーとは
③最大エントロピー
④結合エントロピーと条件付きエントロピー
⑤シャノンの基本不等式
3-3 相互情報量
①相互情報量の定義
②相互情報量の上下限
③相互情報量とエントロピー関数
④相互情報量の性質
章末問題
4章 情報源と通信路
4-1 シャノンの通信系のモデル
4-2 情報源のモデル化
①マルコフ情報源
②遷移確率行列と状態遷移図
③エルゴード性について
④情報源の発生情報量
4-3 通信路のモデルと通信路容量
①通信路行列と通信路線図
②通信路容量とは
③通信路容量の計算
章末問題
5章 符号化
5-1 符号化の基礎知識
①符号化と冗長度
②一意的復号可能と瞬時復号可能
③クラフトの不等式
④符号化の評価
5-2 高効率の符号化
①シャノン-ファノの符号化法
②ハフマンの符号化法
③LZ符号化法
④シャノンの第1基本定理
5-3 雑音のある場合の符号化
①シャノンの第2基本定理
②誤りの検出と訂正
③ハミング距離
④パリティー検査法
⑤距離による誤り検出/訂正の原理
5-4 誤り訂正のできる符号化法
①長方形符号と三角形符号
②ハミング符号
③ハミング符号の行列表現と一般化
④巡回符号
⑤高度な誤り訂正符号
章末問題
6章 暗号による通信と情報セキュリティ
6-1 暗号のモデル
6-2 簡単な暗号例
①シーザー暗号
②単文字換字暗号
③転置暗号
6-3 暗号の安全性
①無条件に安全な暗号
②計算的に安全な暗号
6-4 暗号の分類
①対称暗号
②公開鍵暗号
6-5 ディジタル署名
①ディジタル署名とは
②ディジタル署名の原理
6-6 ハッシュ関数
①ハッシュ関数の特徴
②ハッシュ関数への攻撃
③SHA
章末問題
演習問題80選
章末問題 略解
演習問題80選 略解
付録1 エントロピー関数表
付録2 素数表(10000まで)
参考文献
続きを見る