Archive for the ‘ Uncategorized ’ Category

EXHAUSTIVE SEARCH

Exhaustive search adalah

n  teknik pencarian solusi secara solusi brute force untuk masalah yang melibatkan pencarian elemen dengan sifat khusus;

n  biasanya di antara objek-objek kombinatorik seperti permutasi, kombinasi, atau himpunan bagian dari sebuah himpunan.

Langkah-langkah metode exhaustive search:

  1. Enumerasi (list) setiap solusi yang mungkin dengan cara yang sistematis.
  2. Evaluasi setiap kemungkinan solusi satu per satu, mungkin saja beberapa kemungkinan solusi yang tidak layak dikeluarkan, dan simpan solusi terbaik yang ditemukan sampai sejauh ini (the best solusi found so far).
  1. Bila pencarian berakhir, umumkan solusi terbaik (the winner)

Meskipun algoritma exhaustive secara teoritis menghasilkan solusi, namun waktu atau sumberdaya yang dibutuhkan dalam pencarian solusinya sangat besar.

CONTOH 1:

1.  Travelling Salesperson Problem  (TSP)

n  Persoalan: Diberikan n buah kota serta diketahui jarak antara setiap kota satu sama lain. Temukan perjalanan (tour) terpendek yang melalui setiap kota lainnya hanya sekali dan kembali lagi ke kota asal keberangkatan.

n  Persoalan TSP tidak lain adalah menemukan sirkuit Hamilton dengan bobot minimum.

Algoritma exhaustive search untuk persoalan TSP:

  1. Enumerasikan (list) semua sirkuit Hamilton dari graf lengkap dengan n buah simpul.
  1. Hitung (evaluasi) bobot setiap sirkuit Hamilton yang ditemukan pada langkah 1.
  1. Pilih sirkuit Hamilton yang mempunyai bobot terkecil.

TSP dengan n = 4, simpul awal = a

 

 

 

 

 

Rute perjalananan terpendek adalah

a®c®b®d®a

a®d®b®c®a

dengan bobot = 32.

n  Untuk n buah simpul semua rute perjalanan yang mungkin dibangkitkan dengan permutasi dari n – 1 buah simpul.

n  Permutasi dari n – 1 buah simpul adalah

(n – 1)!

n  Pada contoh di atas, untuk n = 6 akan terdapat

(4 – 1)! = 3! = 6

buah rute perjalanan.

n  Jika diselesaikan dengan metode exhaustive search, maka kita harus mengenumerasi sebanyak (n – 1)! buah sirkuit  Hamilton, menghitung setiap bobotnya, dan memilih sirkuit Hamilton dengan bobot terkecil.

n  Kompleksitas waktu algoritma exhaustive search untuk persoalan TSP sebanding dengan (n – 1)! dikali dengan waktu untuk menghitung bobot setiap sirkuit Hamilton.

n  Menghitung bobot setiap sirkuit Hamilton membutuhkan waktu O(n), sehingga kompleksitas waktu algoritma exhaustive search untuk persoalan TSP adalah O(n × n!).

Perbaikan: setengah dari rute perjalanan adalah hasil pencerminan dari setengah rute yang lain, yakni dengan mengubah arah rute perjalanan

1 dan 6

2 dan 4

3 dan 5

n  maka dapat dihilangkan setengah dari jumlah permutasi (dari 6 menjadi 3).

n  Ketiga buah sirkuit Hamilton yang dihasilkan adalah seperti gambar di bawah ini:

 

 

 

n  Dengan demikian, untuk graf dengan n buah simpul, kita hanya perlu mengevaluasi sirkuit Hamilton sebanyak

(n – 1)!/2 buah.

n  Untuk ukuran  masukan yang besar, algoritma exhaustive search menjadi sangat tidak mangkus.

n  Pada persoalan TSP misalnya, untuk jumlah simpul n = 20 akan terdapat (19!)/2 = 6 ´ 1016 sirkuit Hamilton yang harus dievaluasi satu per satu.

n  Sayangnya, untuk persoalan TSP tidak ada algoritma lain yang lebih baik daripada algoritma exhaustive search.

n  Jika anda dapat menemukan algoritma yang mangkus untuk TSP, anda akan menjadi terkenal dan kaya! Algoritma yang mangkus selalu mempunyai kompleksitas waktu dalam orde polinomial.

CONTOH 2:

  1/0 Knapsack

Persoalan: Diberikan n buah objek dan sebuah knapsack dengan kapasitas bobot K. Setiap objek  memiliki properti bobot (weigth) wi dan keuntungan(profit) pi.

Bagaimana memilih memilih objek-objek yang dimasukkan ke dalam knapsack sedemikian sehingga memaksimumkan keuntungan. Total bobot objek yang dimasukkan ke dalam knapsack tidak boleh melebihi kapasitas knapsack.

n  Persoalan 0/1 Knapsack dapat kita pandang sebagai mencari himpunan bagian (subset) dari keseluruhan objek yang muat ke dalam knapsack dan memberikan total keuntungan terbesar.

n  Solusi persoalan dinyatakan sebagai vektor n-tupel:

                    X = {x1, x2, …, xn}

                                xi = 1 jika objek ke-i dimasukkan ke

dalam knapsack,

  xi = 0 jika objek ke-i tidak

dimasukkan.

 

Formulasi secara matematis:

 

 

 

 

 

 

n  Algoritma exhaustive search untuk persoalan 0/1 Knapsack:

1.  Enumerasikan (list) semua himpunan

bagian dari himpunan dengan n objek.

2. Hitung (evaluasi) total keuntungan dari

setiap himpunan bagian dari langkah 1.

3. Pilih himpunan bagian yang memberikan

total keuntungan terbesar.

Contoh: n = 4.

w1 = 2;    p1 = 20

w2 = 5;    p2 = 30

w3 = 10;  p3 = 50

w4 = 5;    p4 = 10

Kapasitas knapsack K = 16

Langkah-langkah pencarian solusi 0/1 Knapsack secara exhaustive search dirangkum dalam tabel di bawah ini:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

  •    Himpunan bagian objek yang memberikan keuntungan maksimum

adalah {2, 3} dengan total keuntungan adalah 80.

  •    Solusi: X = {0, 1, 1, 0}

n  Berapa banyak himpunan bagian dari sebuah himpunan dengan n elemen? Jawabnya adalah 2n.

Waktu untuk menghitung total bobot objek yang dipilih = O(n)

Sehingga, Kompleksitas algoritma exhaustive search untuk persoalan 0/1 Knapsack = O(n. 2n).

n  TSP dan 0/1 Knapsack, adalah contoh persoalan eksponensial. Keduanya digolongkan sebagai persoalan NP (Non-deterministic Polynomial), karena tidak mungkin dapat ditemukan algoritma polinomial untuk memecahkannya.

CONTOH 3:

n  Di dalam bidang kriptografi, exhaustive search merupakan  teknik yang digunakan penyerang untuk menemukan kunci enkripsi dengan cara mencoba semua kemungkinan kunci.

Serangan semacam ini dikenal dengan nama exhaustive key search attack atau brute force attack.

n  Contoh:  Panjang kunci enkripsi pada algoritma DES (Data Encryption Standard) = 64 bit.

Dari 64 bit tersebut, hanya 56 bit yang digunakan (8 bit paritas lainnya tidak dipakai).

n  Jumlah kombinasi kunci yang harus dievaluasi oleh pihak lawan adalah sebanyak

(2)(2)(2)(2)(2) … (2)(2) = 256  =

7.205.759.403.7927.936

n  Jika untuk percobaan dengan satu kunci memerlukan waktu 1 detik, maka untuk jumlah kunci sebanyak itu diperlukan waktu komputasi kurang lebih selama  228.4931.317 tahun!

n  Meskipun algoritma exhaustive search tidak mangkus, namun –sebagaimana ciri algoritma brute force pada umumnya– nilai plusnya terletak pada keberhasilannya yang selalu menemukan solusi (jika diberikan waktu yang cukup).

Mempercepat Algoritma Exhaustive Search

  • Agoritma exhaustive search dapat diperbaiki kinerjanya sehingga tidak perlu melakukan pencarian terhadap semua kemungkinan solusi.
  • Salah satu teknik yang digunakan untuk mempercepat pencarian solusi adalah teknik heuristik (heuristic).
  • Teknik heuristik digunakan untuk mengeliminasi beberapa kemungkinan solusi tanpa harus mengeksplorasinya secara penuh.  Selain itu, teknik heuristik juga membantu memutuskan kemungkinan solusi mana yang pertama kali perlu dievaluasi.
  • Heuristik adalah seni dan ilmu menemukan (art and science of discovery). Kata heuristik diturunkan dari Bahasa Yunani yaitu “eureka” yang berarti “menemukan” (to find atau to discover).
  • Matematikawan Yunani yang bernama Archimedes yang melontarkan kata “heureka“, dari sinilah kita menemukan kata “eureka” yang berarti “I have found it.”
  • Heuristik berbeda dari algoritma karena heuristik berlaku sebagai panduan (guideline), sedangkan algoritma adalah urutan langkah-langkah penyelesaian.
  • Heuristik mungkin tidak selalu memberikan hasil yang diinginkan, tetapi secara ekstrim ia bernilai pada pemecahan masalah.
  • Heuristik yang bagus dapat secara dramatis mengurangi waktu yang dibutuhkan untuk memecahkan masalah dengan cara mengeliminir kebutuhan untuk mempertimbangkan kemungkinan solusi yang tidak perlu.

 

  • Dalam bidang ilmu komputer, heuristik adalah teknik yang dirancang untuk memecahkan masalah dengan mengabaikan apakah solusi yang dihasilkan dapat dibuktikan (secara matematis) benar, tapi biasanya menghasilkan solusi yang bagus.

 

  • Heuristik tidak menjamin selalu dapat memecahkan masalah, tetapi seringkali memecahkan masalah dengan cukup baik untuk kebanyakan masalah, dan seringkali pula lebih cepat daripada pencarian solusi secara lengkap.  Sudah sejak lama heuristik digunakan secara intensif di dalam bidang intelijensia buatan (artificial intelligence).

DAA pertemuan 4

Asymptotic Notation

  • Menggambarkan karakteristik/perilaku suatu algoritma pada batasan tertentu (berupa suatu fungsi matematis)
  • Dituliskan dengan notasi matematis yg dikenal dgn notasi asymptotic
  • Notasi asymptotic dapat dituliskan dengan beberpa simbul berikut  Θ , Oo, Ω, ω
  • Mendefinisikan himpunan fungsi ;
  • Pada prakteknya untuk membandingan 2 ukuran fungsi.
  • Notasi menggambarkan perbedaan  rate-of-growth hubungan antara definisi fungsi dan definisi himpunan fungsi.

 

 

Θ– Notation (Notasi Big – Theta)

Merupakan notasi asymptotic untuk batas atas dan bawah.

untuk fungsi  g(n),  Θ(g(n)) adalah himpunan fungsi f (n) didefinisikan sebagai berikut:

 

Θ (g (n)) : {f (n): adalah nilai konstanta positif c1, c2 dan nsehingga  0 < c1g(n)  f (n) < c2g(n) untuk semua n > n0}

Untuk menunjukkan bahwa f (n) adalah anggota dari Θ(g(n))

g(n) adalah asymptotically tight bound untuk  f(n).

atau dapat dikatakan bahwa Θ (big-theta) adalah tight-bound dari suatu fungsi

 

 

 

 

Contoh :

  1. ½ n2 – 3n = Θ(n2)

Jawab :

 

0 < c1g(n)  f (n) < c2g(n)

c1n2 < ½ n2 – 3n < c2n2

c1 <    –    < c2

c1 =

c2  = 

n = 7

 

 

O-Notation (Big-Oh Notation)

asimtotik notasi Big-Theta (Θ) merupakan  batas fungsi dari atas dan bawah. Ketika kita hanya memiliki asimtotik batas atas, kita menggunakan notasi O (Big-Oh)

Untuk fungsi g(n),kita definisikan O(g(n)) sbg big-Oh dari n, sbg himpunan:

O (g (n)) = {f (n):  konstanta c dan n0 positif sedemikian sehingga 0 < f(n) < c g(n) untuk semua n> = n0}

 

f(n) = Θ(g(n)) mengisyaratkan bahwa f(n) = O (g(n)) selama Θ-notation adalah lebih kuat daripada O-notation

 

 

Contoh :

n2 – 3n = O(n2)

0 < f(n) < c g(n)

0 <  n2 – 3n < c n2

0 <   –     < c

c =   

n = 7

 

 

Ω – Notation

 

Ω – Notation memberikan batas bawah asimtotik
Ω (g (n)) = {f (n): terdapat konstanta c dan n0 positif sedemikian sehingga 0 < c g(n) < f (n) untuk semua n >n0}

Contoh

  1. 7n2 = Ω(n)

Jawab

< c g(n) < f (n)

0 < c n < 7n2

0 < c < 7n

c = 7

n = 1

 

Theorema :
Untuk setiap fungsi f (n) dan g (n), kita memiliki
f (n) = Θ (g (n)) jika dan hanya jika
f (n) = O (g (n)) dan
f (n) = Ω (g (n))

Kami biasanya menggunakan teorema ini untuk membuktikan batas asimtotik ketat daribatas asimtotik atas dan bawah

o-notation (little-oh notation)

Asymptotic upper bound disediakan  oleh O-notation  mungkin bukan merupakan  tight-asymptotic
2n2  = O (n2) adalah tight asymptotic, namun

2n  = O (n2) tidak !

 

o-notation untuk menunjukkan sebuah batas atas yang tidak secara ketat terikat (not asymptotically tight)

 

o (g (n)) = {f (n): untuk setiap konstanta positif c > 0, terdapat n0 konstan > 0 sedemikian sehingga 0 < f (n) < cg(n) untuk semua n > n0}

 

ω -notation

kita menggunakan ω -notation untuk menunjukkan batas bawah yang not asymptotically tight

f (n) = ω (g (n)) jika dan hanya jika g (n) = O (f (n))

ω (g (n)) = {f (n): untuk setiap konstanta positif c > 0, terdapat n0 konstan> 0 sedemikian sehingga 0<  c g (n) <f (n) untuk semua n > n0}

 

 

 

 

Tugas Slide 24

  1. Buat algoritma untuk menghitung Xn secara iteratif menggunakan cara Xn = X * X * X * … * X sebanyak n kali.
  2. Estimasi running time algoritma yang anda buat

 

Jawab :

 

Algoritma pangkat (X,n)

If    n = 1

return X

else

   return (X * pangkat(X, n-1))

Estimasi Waktu

1)      Input = n

2)      Menentukan basic operation

If  n=1

3)      Menentukan best case, average case, dan worst case :

Untuk input sejumlah n , pohon rekursinya selalu sama. Sehingga tidak ada best case, average case maupun worst case.

4)      Menentukan rumus sigma untuk menunjukkan berapa kali basic operation dieksekusi.

C(n)         : menyatakan banyaknya basic operation dieksekusi untuk input berukuran n

C(n-1)     : menyatakan banyaknya basic operation dieksekusi untuk input

berukuran n-1

 

Mensubstitusikan kedua persamaan di atas :

C(n) = C(n-1) +1 , untuk n > 1 rekursif case

C(1) = 1 , best case

 

Mencari persamaan recursive dari C(n) :

C(n) = C(n – 1) + 1

C(n) = (C(n – 2) + 1) + 1 = C(n) = C(n – 2) + 2

C(n) = (C(n – 3) + 1) + 2 = C(n) = C(n – 3) + 3

C(n) = (C(n – 4) + 1) + 3 = C(n) = C(n – 4) + 4, dst

 

Pola umum :

C(n) = C(n-i)+i

 

Nilai initial condition  C(1) disubtitusikan ke C(n – i) pada bentuk umum C(n).

C(n) = C(n – i) + i

C(n) = C(1) + i

C(n) = i + 1

 

Rumus sigma :

5)      Menyelesaikan rumus sigma untuk mendapatkan perhitungan berapa kali basic operation dieksekusi

C(n) = i + 1

Subtitusi tersebut ditulis C(n – i) = C(1) atau

n – i = 1

i = n – 1

nilai i = n – 1 disubtitusikan ke bentuk umum

C(n) = i + 1 sehingga

C(n) = n – 1 + 1

C(n) = n

 

Sehingga untuk ukuran n, maka basic operation dilakukan sebanyak n kali.

T(n) = Cop * C(n)

T(n) = 1 * n

T(n) = n

 

Tugas 2  Slide 27 , Algoritma Mystery

Algorithm mystery(A[0..n-1])

  1. X ← A[0]
  2. for i ← 1 to n – 1 do
  3.             if A[i] > X
  4.                         X ← A[i]
  5. return X

 

Soal :

  1. Apa yang dilakukan algoritma mystery?

Mencari nilai integer terbesar dari array A

 

  1. Estimasikan waktu eksekusi algoritma mystery

1)   Menentukan parameter yang mengindikasikan ukuran input : n

karena jika nilai n makin besar maka banyaknya eksekusi loop bertambah .Untuk algoritma mystery , parameter ukuran inputnya adalah banyaknya elemen array(n)

2)   Identifikasi basic operation loop

for i ← 1 to n – 1

3)   Menentukan apakah untuk ukuran input yang sama banyaknya eksekusi basic operation bisa berbeda .

Untuk input n tertentu , recursion treenya selalu sama. Sehingga tidak ada best case, average case maupun worst case.

4)   Menentukan rumus sigma berapa kali basic operation di eksekusi

 

 

5)      Menyelesaikan rumus sigma yang menunjukkan berapa kali basic operation dieksekusi

T(n) = Cop * C(n)

T(n) = 1 * n-1

T(n) = n-1

 

  1. Estimasi waktu eksekusi algoritma mystery untuk input A = [1, 2, 5, 9, 4, 4, 7, 10, 1, 6]

Algorithm mystery (A[0..n-1])

  1. X := 1
  2. For I =1 ,2,3,4,5,6,7,8,9
  3.       If  A[1] > 1                 //true 2>1
  4.                   X = 2
  5.       If A[2] > 2                  // true 5 >2
  6.                   X = 5
  7.       If A[3] > 5                   // true 9 > 5
  8.                   X = 9
  9.       If  A[4] >  9                // false 4 < 9
  10.       If  A[5] > 9                 // false 4 < 9
  11.       If  A[6] > 9                 // false 7 < 9
  12.       If  A[7] > 9                 // true 10 > 9
  13.                   X = 10
  14.       If A[8] >  10               // false 1<10
  15.       If A[9] > 10                //false 6<10
  16. Return X                           // X=10

Estimasi waktu eksekusi :

T(n) = n-1

T(10) = 9

 

Tugas Slide 29

  • Algoritma mystery T(n) = n – 1. Estimasi waktu eksekusi algoritma jika array inputnya memiliki anggota
    •   10 elemen

T(10) = 9

  •   20 elemen

T(20) =1 9

  •   30 elemen

T(30) = 29

  • Buat grafik yang menunjukkan hubungan antara banyaknya elemen array yang dieksekusi dengan waktu eksekusi

Grafik linear

 

 

 

 

 

 

Tugas Slide 38

Tentukan kelas orders of growth dari

  1. T1(n) = 2n3 + 4n + 1                                  : OOG nya cubic

OOG T(n) = n3

        Bila n nya dinaikkan 2 kali semula maka waktu pelaksanaan algoritma meningkat menjadi delapan kali semula

  1. 2.        T2(n) = 0,5 n! + n10                                                               

Saat n < 15 OoG n10

Bila n dijadikan 2 kali semula maka waktu pelaksanaan algoritma menjadi 1024 kali semula

Saat n >= 15 OoG n!

                Bila n dijadikan dua kali semula maka waktu pelaksanaan algoritma menjadi factorial dari 2n

  1. T3(n) = n3 + n logn

Bila n nya dinaikkan 2 kali semula maka waktu pelaksanaan algoritma meningkat menjadi delapan kali semula

  1. T4(n) = 2n + 4n3 + logn +10

Saat n <14 maka OoG yang mempengaruhi 4n3  yaitu class cubic

Bila n nya dinaikkan 2 kali semula maka waktu pelaksanaan algoritma meningkat menjadi delapan kali semula

Saat n > 14 maka OoG yang mempengaruhi 2n yaitu pada class exponential

Bila n dijadikan dua kali semula maka waktu pelaksanaan algoritma menjadi kuadrat kali semula

Hello world!

Selamat datang di Student Blogs. Ini adalah posting pertamaku!