| 授業科目名
| 情報理論
(Information Theory)
|
| クラス
| 1クラス
| 学期
| 前期
| 必修選択区分
| 必
|
| 対象学年
| 2年
| 単位数
| 2
| 曜日・時限
| 月3・4
|
| 教室
| 情13
| 科目ナンバリング
| IN002160010
|
| キーワード
| 確率、情報量、エントロピー、情報源符号定理、通信路符号定理
|
| 授業の目標
| 情報量，エントロピー，情報源符号化定理，通信路符号化定理などの概念を講義し，情報理論の基礎と，
その応用としての符号理論を教授する．これにより，情報の分析能力，および，論理的思考能力，理解力，表現力，
問題解決能力の養成の基盤を形成することが本科目の目的である．「情報」を数量としてあつかうエントロピーを学び，
シャノンが導いた「情報源符号化定理」，「通信路符号化定理」などを習得することを目標とする．
これらの理論は，現在のコンピュータやネットワークにおいて，伝送路設計，情報記憶，検情報索，データ圧縮，最適符号化，
環境観測，時系列予測などに幅広く応用されている．
|
| 学習内容
| まず，確率の基礎を復習し，情報量をエントロピーなる概念で定義する．また，条件が付加された場合の条件付情報量も定義する．
その上で，通信路を介して送信者と受信者が接続されている情報通信モデルを元にし，相互情報量，通信路容量を定義する．
次に，情報源が離散値をとる場合，情報源からの情報をいかに符号化するかに関して，シャノン，ハフマンなどの具体的な符号化を学習しながら，
情報源符号化定理を学ぶ．その後，通信路における雑音の影響を考慮した通信路符号化定理を学習する．情報通信モデルにおいて，
通信路に情報を通す時，その伝送速度および歪などが問題になる．通信路符号化定理は，伝送速度と歪の関係を示すものであり，
ネットワーク設計の際の重要な役割を果たす．また，通信路容量，計算機ネットワークや音声認識への応用についても学ぶ．
|
| 授業計画
| 授業項目は，以下を予定している．
| 回
| 内容
|
| 1
| 情報とエントロピー：情報量，情報源，エントロピー
|
| 2
| 情報とエントロピー：冗長度，エントロピーの応用
|
| 3
| 相互情報量：結合事象と結合エントロピ
|
| 4
| 相互情報量：条件付エントロピー
|
| 5
| 相互情報量：エントロピーの性質，相互情報量
|
| 6
| 相互情報量：マルコフ情報源
|
| 7
| 情報源符号化：情報源符号化の基礎と定理
|
| 8
| 情報源符号化：符号の性質，クラフトの不等式
|
| 9
| 情報源符号化：符号化方法，シャノンの符号化，ハフマンの符号化
|
| 10
| 通信路符号化：通信路容量
|
| 11
| 通信路符号化：通信路符号化の定理
|
| 12
| 通信路符号化：誤り確率
|
| 13
| 応用：無線通信への適用
|
| 14
| 応用：符号化への適用
|
| 15
| 応用：研究事例（オンデマンド配信予定）
|
|
| 受講要件
|
|
| テキスト
| 杉浦彰彦/岡村好庸/小暮悟 マルチメディア情報符号化の基礎と応用 コロナ社 2020年 978-4339029130 3630円
|
| 参考書
|
|
| 予習・復習について
| 講義毎に予習と復習を合わせて3時間行うことを期待している。
|
| 成績評価の方法・基準
| 試験100％で評価（持ち込み不可)
|
| オフィスアワー
| 講義日の昼休み時間帯を予定 （創造大学院棟301）
|
| 担当教員からのメッセージ
| 初回の講義に出席すること
|
| アクティブ・ラーニング
|
|
| 実務経験のある教員の有無
|
|
| 実務経験のある教員の経歴と授業内容
|
|
| 教職科目区分
|
|
| 授業実施形態
| 対面授業科目
|
| オンライン授業(詳細)
|
|