Giáo trình lý thuyết thông tin
Giáo trình lý thuyết thông tin
GIỚI THIỆU TỔNG QUAN....................................................6
1. MỤC ĐÍCH ..........................................................................6
2. YÊU CẦU ............................................................................6
3. NỘI DUNG CỐT LÕI...........................................................7
4. KẾT THỨC TIÊN QUYẾT ..................................................7
5. TÀI LIỆU THAM KHẢO......................................................8
6. PHƯƠNG PHÁP HỌC TẬP...................................................8
CHƯƠNG 1: GIỚI THIỆU ....................................................9
1. Mục tiêu..................................................................................9
2. Đối tượng nghiên cứu.............................................................9
3. Mô hình lý thuyết thông tin theo quan điểm Shannon ..........10
4. Lượng tin biết và chưa biết ...................................................10
5. Ví dụ về lượng tin biết và chưa biết ......................................10
7. Mô tả trạng thái truyền tin có nhiễu ......................................11
8. Minh họa kỹ thuật giảm nhiễu...............................................12
9. Chi phí phải trả cho kỹ thuật giảm nhiễu ..............................13
10. Khái niệm về dung lượng kênh truyền.................................13
11. Vấn đề sinh mã.....................................................................13
12. Vấn đề giải mã......................................................................13
CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN .......................................15
BÀI 2.1: ENTROPY ..................................................................15
BÀI 2.2: CÁC TÍNH CHẤT CỦA ENTROPY .........................19
BÀI 2.3: ENTROPY CỦA NHIỀU BIẾN .................................22
BÀI 2.4: MINH HỌA CÁC ENTROPY.....................................26
BAI 2.5: ĐO LƯỢNG TIN (MESURE OF INFORMATION) ..28
BÀI 3.1: KHÁI NIỆM VỀ MÃ TÁCH ĐƯỢC..................................31
BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ....36
BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ......................................40
CHƯƠNG 4: KÊNH TRUYỀN ........................................................45
BÀI 4.1: KÊNH TRUYỀN RỜI RẠC KHÔNG NHỚ .........................45
BAI 4.2: CÁC DẠNG KÊNH TRUYỀN...............................................49
BÀI 4.3: LƯỢC ĐỒ GIẢI MÃ ..............................................................53
CHƯƠNG 5: SỬA LỖI.........................................................................59
BÀI 5.1: NGUYÊN LÝ KHOẢNG CÁCH NHỎ NHẤT HAMMING ..59
BÀI 5.2: BỔ ĐỀ VỀ TỰ SỬA LỖI VÀ CẬN HAMMING ...................62
BÀI 5.3: MÃ KIỂM TRA CHẴN LẺ.......................................................64
BÀI 5.4: NHÓM CỘNG TÍNH VÀ BỘ TỪ MÃ CHẴN LẺ ..................69
BÀI 5.5: LƯỢC ĐỒ SỬA LỖI TỐI ƯU..................................................73
BÀI 5.6: MÃ HAMMING .......................................................................76
BÀI 5.7: THANH GHI LÙI TỪNG BƯỚC ............................................79
BÀI 5.8: MÃ XOAY VÒNG ....................................................................82
BÀI 5.9: ĐA THỨC ĐẶC TRƯNG CỦA THANH GHI .........................86
Bài 5.10: PHƯƠNG PHÁP SINH MÃ XOAY VÒNG .............................88
BÀI TẬP TỔNG HỢP ................................................................................91
===========================
================================================
Nhận xét