平成22年度

授業科目					担当教員				開講期
情報理論					佐藤　眞一				通年
科目番号					対象学年				必修・選択の別		単位数
121431					4年　電気情報工学科 (情報工学コース)						2単位
授業概要 現在、情報化の波はあらゆる所に押し寄せてきており、情報と通信の基礎になっている情報理論はますます重要になってきている。ここでは、ディジタル関係にしぼり、シャノン流の情報理論と符号理論の基本について講義する。 　　到達目標 　　　1. 標本化定理と確率について理解できること。 　　　2. 情報量とエントロピーについて理解できること。 　　　3. 情報源符号化について理解できること。 　　　4. 通信路で発生する誤りを検出・訂正する原理を理解できること。
教科書 情報理論　　三木成彦、吉川英機共著（コロナ社） 参考書 なし
授業の進め方 教科書に沿って板書で進めるが、現象を物理的に把握、理解できるようにポイントを板書に記載する。また、出来るだけ多くの演習を行い、学んだことがどのように使われるのかを理解させる。講義内容の丸暗記ではなく、考え方の展開が重要であり、この点を理解するための小テストを随時行う。
授業内容 前期 後期 1 通信システムのモデル 1 情報源符号に必要な条件 2 標本化定理（シャノンの標本化定理）と量子化 2 ハフマン符号 3 確率論の基礎（集合、試行、確率） 3 ランレングス符号、算術符号 4 平均と分散 4 結合エントロピー 5 条件付き確率 5 条件付きエントロピー 6 マルコフ過程 6 相互情報量 7 ベイズの定理 7 マルコフ情報源のエントロピー 8 前期中間試験 8 後期中間試験 9 情報源のモデル 9 通信路モデル 10 情報量、エントロピー 10 通信路のモデル 11 冗長度 11 通信路容量 12 平均符号長 12 平均誤り率、情報速度 13 拡大情報源 13 誤り検出、訂正理論 14 情報源符号化定理 14 各種誤り符号、訂正符号（パリティ検査符号、ハミング符号） 15 前期末試験 15 期末試験
成績評価の方法 定期試験を８０％、小テストあるいは提出物を２０％で評価する。
学生へのメッセージ 授業中、先生からの一方通行ではなく、なぜそうなるのか等の物理現象を考える癖を付け、必要ならば質問をし、自分に取り込んだ形で講義を聴くように意識的に努力すること。
学習・教育目標 (生産工学)						学習・教育目標 (電子工学)			学習・教育目標 (生物応用化学)
機械工学コース			環境材料工学コース
						Ｂ−１