xử lý và truyền thông đa phương tiện 24/02/22
Tóm tắt ngắn:
- Bài giảng giới thiệu về mã hóa Huffman và các khái niệm liên quan trong xử lý và truyền thông đa phương tiện.
- Trọng tâm xoay quanh việc tạo mã Huffman hiệu quả, sử dụng cây nhị phân để tạo mã cho các ký tự với tần suất xuất hiện khác nhau. Các ví dụ cụ thể về việc tạo mã và tính toán độ dài trung bình của mã được trình bày. Khái niệm entropy và độ dư thừa mã hóa được giải thích chi tiết, cùng với công thức tính toán.
- Ứng dụng của mã Huffman là nén dữ liệu, giảm dung lượng lưu trữ và truyền tải thông tin. Độ dư thừa mã hóa càng nhỏ, hiệu quả nén càng cao.
- Phương pháp chính được trình bày là xây dựng cây mã nhị phân Huffman và tính toán entropy, độ dư thừa mã hóa.
Tóm tắt chi tiết:
Bài giảng được chia thành các phần chính sau:
Phần 1: Ôn tập mã hóa Huffman và khái niệm nguồn tin:
Phần này nhắc lại cách tạo mã Huffman bằng cây nhị phân, nhấn mạnh nguyên tắc: ký tự xuất hiện nhiều được gán mã ngắn, ký tự xuất hiện ít được gán mã dài. Khái niệm nguồn tin được định nghĩa là tập hợp các ký tự (ví dụ: bảng chữ cái Latinh) tạo nên văn bản. Một ví dụ đơn giản với nguồn tin gồm 3 ký tự A, B, C và xác suất xuất hiện tương ứng được đưa ra.
Phần 2: Ví dụ minh họa và so sánh bộ mã:
Hai bộ mã khác nhau được so sánh. Giảng viên nhấn mạnh rằng bộ mã có độ dài trung bình của từ mã ngắn hơn sẽ hiệu quả hơn, tiết kiệm dung lượng lưu trữ. Câu hỏi đặt ra là làm sao đánh giá một cách định lượng hiệu quả của bộ mã.
Phần 3: Khái niệm lượng tin và entropy:
Khái niệm lượng tin được giải thích là lượng thông tin chứa trong một sự kiện. Công thức tính lượng tin được trình bày: -log₂(xác suất). Giảng viên giải thích rằng sự kiện có xác suất thấp mang nhiều thông tin hơn (bất ngờ hơn). Entropy được định nghĩa là lượng tin trung bình trên mỗi ký tự của nguồn tin, được tính bằng tổng tích của xác suất và lượng tin của từng ký tự. Công thức entropy được trình bày và minh họa bằng ví dụ.
Phần 4: Độ dư thừa mã hóa:
Khái niệm độ dư thừa mã hóa được giới thiệu như một chỉ số đánh giá hiệu quả của bộ mã. Công thức tính độ dư thừa được trình bày: Độ dài trung bình của mã - Entropy. Ví dụ minh họa cho thấy mã Huffman lý tưởng có độ dư thừa bằng 0. Giảng viên nhấn mạnh tầm quan trọng của việc giảm độ dư thừa, đặc biệt khi xử lý lượng dữ liệu lớn. Mặc dù 0.05 bit có vẻ nhỏ, nhưng với lượng dữ liệu khổng lồ, nó sẽ gây ra lãng phí đáng kể về dung lượng lưu trữ, năng lượng và thời gian truyền tải.
Phần 5: Bài tập thực hành:
Hai bài tập được giao cho sinh viên: tính entropy của một nguồn tin đơn giản và tạo mã Huffman, tính độ dư thừa mã hóa cho một nguồn tin khác phức tạp hơn. Kết quả của sinh viên được thảo luận và giảng viên hướng dẫn cách giải chi tiết. Giảng viên nhấn mạnh rằng mục tiêu lý tưởng là đạt được độ dư thừa bằng 0, nhưng đây là một giá trị lý tưởng và khó đạt được trong thực tế.