Bilişim ölçüsü. Entropi; ortak ve koşullu Entropiler. Shannon'un kayıpsız kaynak kodlaması, tek çözülebilir ve anında çözülebilir kodlar. Gürültüsüz kodlama teoremi. En iyi Huffman kodlarının kurulması. haberleşme kanal modelleri. Sürekli kanallar ve bu kanallarda bilişim ölçüsü. Sürekli zamanlı Gauss kanalları. Kanal sığası ve hesaplama yöntemleri. Kanal kodlaması. Gürültü kodlama teoremi. Hata sezen ve düzelten kodlama teknikleri. Kodlayıcı ve kod çözücü tasarımları. Sayıl ve vektör nicemleyici kavram ve tasarımı.