Transcript Materi 2. Pengantar Teori Informasi

Pengantar Teori Informasi
Muhammad Nasar, ST
Perspektif
• Aspek Ilmu informasi
– merupakan titik temu dari bidang–bidang
matematika, statistika, ilmu komputer, fisika,
neurobiologi, dan teknik listrik, serta komunikasi
• Fokus
– Karena luasnya bahasan, Teori Informasi dalam
materi ini difokuskan dalam perspektif Teknologi
Informasi (Engineer)
Beberapa elemen Alam Semesta
dan satuannya
•
•
•
•
Benda/materi
Energi
Waktu
Jarak
• Informasi
gr, kg, liter, lbs, ons,…
kWh, joule, barrel, …
s, h
m, km, feet, mile
?????
Satuan terkecil informasi
•
•
•
•
•
•
Benar
Ya
Hidup
Gerak
Ingat
On
•1
salah
tidak
mati
diam
lupa
off
0
Informasi paling sederhana
bit
(binary digit)
Nilai informasi
•
•
•
•
•
•
Benar
Ya
Hidup
Gerak
Ingat
On
•1
salah
tidak
mati
diam
lupa
off
0
Membedakan
2 hal
Nilai informasi
•
•
•
•
Kucing
Apel
Perahu
Gunung
00
01
10
11
2 bit
Bisa
membedakan
4 hal
3 bit
•
•
•
•
•
•
•
•
Kucing
Apel
Perahu
Gunung
HP
Buku
Jalan
Air
Nilai informasi
000
001
010
011
100
101
110
111
Bisa
membedakan
8 hal
Sekilas Kode ASCII
• Contoh karakter ASCII (8bit)
– a = 01100001
– b = 01100010
– Z = 01011010
– H = 01001000
Berapa banyak informasi dalam
sebuah buku “X”?
• Jika
– 100 halaman
– X rata-rata 50 baris/halaman
– X rata-rata 10 kata/baris
– X rata-rata 5 karakter/kata
• Maka
= 250.000 x 8 bit = 2.000.000 bit
Satuan informasi lebih besar
•
•
•
•
1000 bit  1 Kilobit  1 Kb
1000 Kb  1 Megabit  1 Mb
1000 Mb  1 Gigabit  1 Gb
1000 Gb  1 Terrabit  1 Tb
• 1 Byte = 8 bit = 1 B
• 1 KiloByte = 8Kb = 1 KB
Kapasitas Informasi (bit rate)
•
•
•
•
1 bit per second  1 bps
1000 bit per second  1 Kbps
1000 Kbps  1 Mbps
1000 Mbps  1 Gbps
Kapasitas Informasi (bit rate)
• Dua faktor yang mempengaruhi kapasitas
informasi (bit rate)
– Lebar pita frekuensi (bandwidth)
– Kualitas saluran (dinyatakan dengan Signal to
Noise Ratio, atau S/N, atau SNR)
Model Matematika Informasi(1)
• Efisiensi pengiriman informasi melalui saluran memandang informasi
sebagai simbol-simbol yang dipertukarkan, mengirim simbol-simbol itu
dari satu titik di suatu tempat ke titik lain di tempat lainnya.
• Jumlah informasi yang dapat dikaitkan, atau dihasilkan oleh, sebuah
keadaan atau kejadian (atau realisasi dari sebuah situasi tertentu)
merupakan tingkat pengurangan (reduksi) ketidakpastian, atau pilihan
kemungkinan, yang dapat muncul dari keadaan atau kejadian tersebut.
sifat alamiahnya :
Potensi gangguan > isyarat
yg diharapkan
Model Matematika Informasi(2)
• Bit Rate = BW * 2log ( 1 + S/N)
• Bit Rate (Kapasitas Informasi) : banyaknya informasi yang
dapat dikirimkan melalui suatu saluran komunikasi dalam
satu satuan waktu [bit per second, bps]
• BW (Bandwidth, Lebar Pita Frekuensi) : spektrum isyarat
yang dapat melewati suatu saluran komunikasi: frekuensi
tertinggi - frekuensi terendah [Hertz, getaran per detik, cycles
per second, cps]
• S/N (Signal to Noise ratio) : menunjukkan kualitas saluran
komunikasi = perbandingan antara daya isyarat yang
dipancarkan dengan daya derau atau ”kebisingan” (noise)
yang menggangu penyaluran atau transmisi isyarat
Nilai Informasi dalam lingkup yang
lebih luas
Shannon :
• H = nilai entropy suatu pesan, atau berharga
tidaknya suatu pesan, sama dengan sigma
dari i sama dengan satu sampai n dalam
kurung pi log 1/pi
• Disebut juga nilai informasi objektif
contoh
• Sms yang masuk berisi huruf a semua
sebanyak 160 karakter
• Berapa entropy nya?
– sigma pa log (1/pa) dengan n lain semua sama
yaitu “a”
– Karena semua huruf a maka probabilitasnya = 1
– sehingga H = sigma 1 log (1/1)
Nilai Entropy
• Nilai informasi objektif : terkandung alamiah
• Nilai informasi subjektif: tergantung penerima
Sifat Multidisipliner Ilmu Informasi
Zona Mahasiswa Elektro
Zona Pengambil Kebijakan:
Menkominfo, dll
-- Putu L. Pendit
Aplikasi Teori Informasi
• Aplikasi teori informasi meliputi kompresi data tanpa
cacat (lossless data compression, pada file ZIP
misalnya), kompresi data (lossy data compression, pada
file MP3, misalnya), dan pengkodean kanal (channel
coding, pada saluran DSL, ADSL dll).
• .
• Implementasi dari teori ini berdampak langsung
dengan misi ruang angkasa, pemahaman mengenai
lubang hitam dalam galaksi, dengan penelitian
linguistika dan persepsi manusia, dengan jaringan
komputer, jaringan Internet serta jaringan telepon
genggam.
Refer to
•
•
•
•
Youtube.com : Lecture - 8 Information Theory (Part - 1)
en.wikipedia.org/wiki/Information_theory
iperpin.wordpress.com/tag/filsafat-informasi/
iperpin.wordpress.com/2008/04/09/mengenal-teorishannon-weaver/