VÌ SAO KHI TÍNH TOÁN LƯỢNG THÔNG TIN PHẢI DÙNG
LOGARIT CƠ SỐ 2 LÀ THẤP NHẤT?
Thông thường Logarit cơ số 10 là thấp nhất, tức là có 10x=y thì log10y=x. Nhưng trong tin học, độ lớn của thông tin thường được đo bằng logarit cơ số 2 là thấp nhất.
Đài khói của Trung Quốc thời xưa là một công cụ truyền tin. Đài khói châm lửa lên báo hiệu có quân địch đến xâm phạm. Nếu không thì báo hiệu rằng quân địch vẫn chưa có động tĩnh. Tin tức mà nó truyền đi chỉ có hai tình huống: Có hoặc không có. Đây là kiểu thông tin đơn giản nhất, chúng ta gọi nó là đơn vị của thông tin: “1bit”. Dùng ngôn ngữ của toán học để nói, tức là chỉ hàm chứa 2 kiểu thông tin 0 (không khói), và 1(có khói), thông tin đó được đanh nghĩa là log22 = 1.
Giả sử trên đài có 2 ống khói, ống khói A báo hiệu tình hình quân địch: xâm phạm (1) hoặc chưa xâm phạm (0). Ống khói B báo hiệu tình hình phe ta, cần tiếp viện (1), hoặc không cần tiếp viện (0). Như vậy, chúng ta sẽ có 4 tình huống:
Như thế, tin tức mà chúng ta biết đã nhiều hơn trước rồi, lượng thông tin mà nó hàm chứa sẽ là log24=2 (bit).
Dễ dàng tưởng tượng, đài khói có 3 ống khói có thể truyền đi 8 tình huống thông tin, tức là (0,0,0); (0,0,1); (0,1,0); (0,1,1); (1,0,0); (1,0,1); (1,1,0);(1,1,1).
Lượng thông tin lúc này tất nhiên sẽ là log28=3(bit).
Lượng thông tin trong những tình huống phức tạp hơn cũng là được chuyển thành từ kiểu đơn giản nhất này. Chính vì thông tin đơn giản nhất chỉ có 2 khả năng, nên khi tính toán lượng thông tin lấy logarit cơ số 2 là thấp nhất thì có thể đạt được giá trị 1 là lượng thông tin cơ sở nhất; mà khi tin tức y=2 có sự thay đổi, dùng log2y=x tính lượng thông tin thì có thể phản ánh chính xác tình hình thực sự của thông tin.
