授業科目名
  情報理論
   Information Theory
時間割番号
1601
担当教員名
  和田山 正
実務経験
反映科目
学科・年次
  工学部 情報工学科
  工学部 創造工学教育課程
  2年次
科目区分
  専門教育科目
単位数
2
時間割
  前期 水曜3-4限
授業形態
講義
授業実施方法
  ☑ 対面【一部遠隔の場合あり】
  ☐ 全て遠隔【全授業(テストを除く)をオンデマンドで実施(全オンデマンド型)】
  ☐ 全て遠隔【同時双方向で実施】
  ☐ 全て遠隔【オンデマンド及び同時双方向で実施】
  ☐ 1/2遠隔【全授業のうち、1/2以上を遠隔(オンデマンド又は同時双方向)】

・「全て遠隔」又は「1/2遠隔」に✓のある科目は、遠隔授業の上限単位数60単位に算定されます。
・大学院には遠隔授業における上限単位数はありません。
ディプロマ・ポリシーとの対応
☐ 1. 人間,文化,社会を理解し,それらを技術的観点から考察する能力と技術を新しい生活につなぐ強い使命感・責任感,高い倫理観
☑ 2. 現象の理解・操作のための数理的基礎知識と科学的素養
☐ 3. 国内外の人々と対話できるコミュニケーション力と論理的思考力
☑ 4. (高度工学教育課程のみ)基幹となる専門分野の基盤的な知識・技術とこれによって課題を解決する能力,新たな知識・技術を習得する能力
☑ 4. (創造工学教育課程のみ)基幹となる専門分野の基礎知識と他の分野の知識・技術を関連づけ多面的に見ることで新たな価値を創出する能力
授業の目的・達成目標

◎授業の目的・達成目標

 シャノンによって確立された情報理論の基礎を理解することを目的とする.情報伝送システム(通信システム)における情報の定量的な扱い方と情報の効率的表現方法・圧縮方式を習得し,雑音のある通信路における情報伝送の考え方を理解できることを目標とする.具体的な達成目標は,次の通りである.
(1)自己情報量,エントロピー,相互情報量,平均相互情報量の意味が理解でき,計算ができる.

 

(2)マルコフ情報源の意味が理解できる.

 

(3)情報源符号化の意味が理解でき,情報源符号化定理を証明できる.

 

(4)ハフマン符号化を含む具体的な情報源符号化を行うことができる.

 

(5)通信路符号化と通信路符号化定理の意味が理解できる.

 

(6)簡単な離散的通信路について通信路容量の計算ができる.

 

 

授業計画

◎授 業 計 画

① オリエンテーション

② エントロピー,同時エントロピー

③ 条件付きエントロピー,相互情報量

④ ダイバージェンス,情報量の性質

⑤ 確率過程と情報源

⑥ 確率過程とエントロピーレート

⑦ 情報源符号化

⑧ 中間試験

⑨ 情報源符号化定理

⑩ ハフマン符号

⑪ 通信路モデルと通信路容量

⑫ 通信路符号化定理

⑬ 2元線形符号

⑭ 演習・復習

⑮ 演習・復習

 

成績評価の方法

成績評価の詳細については、中間試験(50%)、期末試験の成績(50%)を総合して評価する。

 

成績評価の基準
秀  達成目標を超えた成果を上げている 100点~90点
優  達成目標に十分達している     89点~80点
良  達成目標に達している       79点~70点
可  達成目標に概ね達している     69点~60点
不可 達成目標に達していない      59点以下
事前・事後学修等の指示及び履修にあたっての注意事項

講義では演習問題が出題されるので,講義後にそれらに取り組むこと(毎週120分以上を推奨).

教科書