Pembuatan Database
Sebagai bahan pembelajaran Metode Naïve Bayes Classifier ini; dibuat database (dalam hal ini menggunakan MySQL/MariaDB Database server) sebagai berikut:
CREATE DATABASE IF NOT EXISTS db_dm;
USE db_dm;
Awalnya membuat dulu database dengan nama db_dm jika belum ada database dengan nama tersebut, kemudian gunakan database tersebut dengan memakai sintak USE db_dm;
Dalam hal ini, pembuatan database memakai command console dari database server yang bersangkutan
Dari data pada fakta di atas, dapat di representasikan kriteria/atribut dan parameter yang berperan dalam permasalahan ini dalam bentuk tabel database, yaitu tabel nbc_atribut sebagai berikut:
DROP TABLE IF EXISTS nbc_atribut;
CREATE TABLE IF NOT EXISTS nbc_atribut(
id_atribut TINYINT(3) UNSIGNED AUTO_INCREMENT,
atribut VARCHAR(100) NOT NULL,
PRIMARY KEY(id_atribut)
)ENGINE=MyISAM;
INSERT INTO nbc_atribut(id_atribut,atribut)
VALUES
(1,'Penggunaan Listrik'),
(2,'Jumlah Tanggungan Keluarga'),
(3,'Luas Tanah'),
(4,'Pendapatan /bulan'),
(5,'Daya Listrik'),
(6,'Perlengkapan yang dimiliki');
Record pertama dalam tabel nbc_atribut ini (Penggunaan Listrik) adalah merupakan class atribut, yang merupakan atribut tujuan.
Berikutnya adalah data mengenai parameter-parameter/nilai dari tiap kriteria/atribut yang akan diperhitungkan -- sesuai dengan contoh kasus di atas -- dengan dibuatkan satu tabel baru bernama nbc_parameter.
DROP TABLE IF EXISTS nbc_parameter;
CREATE TABLE IF NOT EXISTS nbc_parameter(
id_parameter TINYINT(3) UNSIGNED AUTO_INCREMENT,
id_atribut TINYINT(3) UNSIGNED NOT NULL,
nilai TINYINT(3) UNSIGNED NOT NULL,
parameter VARCHAR(100) NOT NULL,
PRIMARY KEY(id_parameter)
)ENGINE=MyISAM;
INSERT INTO nbc_parameter(id_atribut,nilai,parameter)
VALUES
(1,0,'rendah'),(1,1,'sedang'),(1,2,'tinggi'),
(2,0,'sedikit'),(2,1,'sedang'),(2,2,'banyak'),
(3,0,'kecil'),(3,1,'standar'),(3,2,'besar'),
(4,0,'kecil'),(4,1,'sedang'),(4,2,'besar'),
(5,0,'rendah'),(5,1,'sedang'),(5,2,'tinggi'),
(6,0,'sedikit'),(6,1,'sedang'),(6,2,'banyak');
Tabel nbc_responden bersifat optional, tabel ini digunakan untuk menyimpan data detail dari responder dan bisa ditambahkan field/kolom lain jika diperlukan
DROP TABLE IF EXISTS nbc_responden;
CREATE TABLE IF NOT EXISTS nbc_responden(
id_responden TINYINT(3) UNSIGNED AUTO_INCREMENT,
responden VARCHAR(50),
PRIMARY KEY(id_responden)
)ENGINE=MyISAM;
INSERT INTO nbc_responden(id_responden,responden)
VALUES
(1,'Responden 1'),(2,'Responden 2'),(3,'Responden 3'),(4,'Responden 4'),(5,'Responden 5'),
(6,'Responden 6'),(7,'Responden 7'),(8,'Responden 8'),(9,'Responden 9'),(10,'Responden 10'),
(11,'Responden 11'),(12,'Responden 12'),(13,'Responden 13'),(14,'Responden 14'),(15,'Responden 15'),
(16,'Responden 16'),(17,'Responden 17'),(18,'Responden 18'),(19,'Responden 19'),(20,'Responden 20'),
(21,'Responden 21'),(22,'Responden 22'),(23,'Responden 23'),(24,'Responden 24'),(25,'Responden 25'),
(26,'Responden 26'),(27,'Responden 27'),(28,'Responden 28'),(29,'Responden 29'),(30,'Responden 30'),
(31,'Responden 31'),(32,'Responden 32'),(33,'Responden 33'),(34,'Responden 34'),(35,'Responden 35'),
(36,'Responden 36'),(37,'Responden 37'),(38,'Responden 38'),(39,'Responden 39'),(40,'Responden 40'),
(41,'Responden 41'),(42,'Responden 42'),(43,'Responden 43'),(44,'Responden 44'),(45,'Responden 45'),
;
Data-data training, yaitu data-data sample yang akan diperhitungkan -- sesuai dengan contoh kasus di atas -- disimpan pada satu tabel baru bernama nbc_data sebagai berikut.
DROP TABLE IF EXISTS nbc_data;
CREATE TABLE IF NOT EXISTS nbc_data(
id_data INT(11) UNSIGNED AUTO_INCREMENT,
id_responden TINYINT(3) UNSIGNED NOT NULL,
id_atribut TINYINT(3) UNSIGNED NOT NULL,
id_parameter TINYINT(3) UNSIGNED NOT NULL,
PRIMARY KEY(id_data)
)ENGINE=MyISAM;
INSERT INTO nbc_data(id_responden,id_atribut,id_parameter)
VALUES
(1,1,2),(1,2,2),(1,3,2),(1,4,2),(1,5,1),(1,6,1),
(2,1,2),(2,2,2),(2,3,1),(2,4,0),(2,5,2),(2,6,1),
(3,1,2),(3,2,2),(3,3,2),(3,4,2),(3,5,2),(3,6,1),
(4,1,2),(4,2,2),(4,3,2),(4,4,0),(4,5,1),(4,6,1),
(5,1,2),(5,2,1),(5,3,2),(5,4,1),(5,5,2),(5,6,2),
(6,1,2),(6,2,1),(6,3,0),(6,4,2),(6,5,1),(6,6,0),
(7,1,2),(7,2,2),(7,3,1),(7,4,1),(7,5,2),(7,6,2),
(8,1,0),(8,2,2),(8,3,2),(8,4,2),(8,5,2),(8,6,1),
(9,1,2),(9,2,2),(9,3,2),(9,4,1),(9,5,1),(9,6,2),
(10,1,2),(10,2,1),(10,3,1),(10,4,2),(10,5,2),(10,6,2),
(11,1,2),(11,2,2),(11,3,2),(11,4,2),(11,5,1),(11,6,2),
(12,1,2),(12,2,1),(12,3,1),(12,4,2),(12,5,2),(12,6,2),
(13,1,1),(13,2,1),(13,3,2),(13,4,1),(13,5,2),(13,6,2),
(14,1,0),(14,2,1),(14,3,1),(14,4,2),(14,5,1),(14,6,2),
(15,1,1),(15,2,2),(15,3,2),(15,4,1),(15,5,2),(15,6,2),
(16,1,2),(16,2,1),(16,3,1),(16,4,2),(16,5,2),(16,6,2),
(17,1,2),(17,2,2),(17,3,2),(17,4,2),(17,5,1),(17,6,2),
(18,1,2),(18,2,0),(18,3,1),(18,4,2),(18,5,2),(18,6,1),
(19,1,2),(19,2,2),(19,3,1),(19,4,2),(19,5,1),(19,6,2),
(20,1,2),(20,2,1),(20,3,1),(20,4,2),(20,5,2),(20,6,2),
(21,1,2),(21,2,0),(21,3,0),(21,4,1),(21,5,2),(21,6,1),
(22,1,2),(22,2,2),(22,3,1),(22,4,2),(22,5,2),(22,6,2),
(23,1,2),(23,2,2),(23,3,1),(23,4,2),(23,5,1),(23,6,0),
(24,1,2),(24,2,2),(24,3,2),(24,4,2),(24,5,2),(24,6,1),
(25,1,1),(25,2,2),(25,3,2),(25,4,1),(25,5,2),(25,6,2),
(26,1,2),(26,2,1),(26,3,1),(26,4,1),(26,5,2),(26,6,0),
(27,1,2),(27,2,2),(27,3,1),(27,4,2),(27,5,2),(27,6,2),
(28,1,2),(28,2,2),(28,3,2),(28,4,2),(28,5,1),(28,6,1),
(29,1,1),(29,2,2),(29,3,1),(29,4,2),(29,5,2),(29,6,2),
(30,1,2),(30,2,1),(30,3,2),(30,4,2),(30,5,2),(30,6,1),
(31,1,1),(31,2,2),(31,3,1),(31,4,1),(31,5,0),(31,6,2),
(32,1,2),(32,2,2),(32,3,1),(32,4,2),(32,5,1),(32,6,2),
(33,1,2),(33,2,2),(33,3,2),(33,4,2),(33,5,2),(33,6,2),
(34,1,2),(34,2,2),(34,3,2),(34,4,2),(34,5,2),(34,6,2),
(35,1,0),(35,2,1),(35,3,2),(35,4,2),(35,5,2),(35,6,2),
(36,1,2),(36,2,1),(36,3,1),(36,4,2),(36,5,1),(36,6,2),
(37,1,2),(37,2,0),(37,3,2),(37,4,1),(37,5,2),(37,6,1),
(38,1,2),(38,2,2),(38,3,2),(38,4,1),(38,5,2),(38,6,2),
(39,1,2),(39,2,1),(39,3,2),(39,4,0),(39,5,2),(39,6,0),
(40,1,0),(40,2,1),(40,3,0),(40,4,2),(40,5,0),(40,6,1),
(41,1,2),(41,2,2),(41,3,2),(41,4,2),(41,5,2),(41,6,1),
(42,1,0),(42,2,0),(42,3,2),(42,4,0),(42,5,2),(42,6,1),
(43,1,2),(43,2,2),(43,3,2),(43,4,1),(43,5,2),(43,6,2),
(44,1,1),(44,2,0),(44,3,2),(44,4,2),(44,5,2),(44,6,2),
(45,1,1),(45,2,2),(45,3,2),(45,4,0),(45,5,2),(45,6,2);
Pengambilan Nilai
Sebelum dilakukan perhitungan-perhitungan menggunakan metoda Naive Bayes Classifier dengan menggunakan PHP, maka terlebih dahulu kita menyiapkan data yang akan diolah dengan mengambil (fetching) data dari database, dan disimpan (assign) ke dalam variabel-variabel PHP.
Data-data yang diambil tersebut meliputi data-data primer -- yaitu data kriteria dan parameternya -- serta data-data sekunder yaitu data training (nilai)
Koneksi ke Database
Sebelum melalukan operasi dengan data dari database, perlu dibuat script untuk koneksi ke database terlebih dahulu. Dari database yang sudah dibuat, kita bisa membuat script php untuk membuat koneksi ke database server dengan extension mysqli sebagai berikut:
<?php
//-- konfigurasi database
$dbhost = 'localhost';
$dbuser = 'root';
$dbpass = '';
$dbname = 'db_dm';
//-- koneksi ke database server dengan extension mysqli
$db = new mysqli($dbhost,$dbuser,$dbpass,$dbname);
//-- hentikan program dan tampilkan pesan kesalahan jika koneksi gagal
if ($db->connect_error) {
die('Connect Error ('.$db->connect_errno.')'.$db->connect_error);
}
?>
Sesuaikan nilai-nilai $dbhost,$dbuser,$dbpass dan $dbname dengan konfigurasi database yg digunakan.
Pengambilan Nilai Atribut
Data atribut yang akan digunakan dalam perhitungan metode Naïve Bayes Classifier ini diambil dari tabel nbc_atribut dan dimasukkan ke dalam variabel $atribut yang berupa array multidimensi. Variabel $atribut ini mempunyai index berupa id_atribut dan berisi item data nama atribut dari masing-masing atribut tersebut.
<?php
//-- query untuk mendapatkan semua data atribut di tabel nbc_atribut
$sql = 'SELECT * FROM nbc_atribut';
$result = $db->query($sql);
//-- menyiapkan variable penampung berupa array
$atribut=array();
//-- melakukan iterasi pengisian array untuk tiap record data yang didapat
foreach ($result as $row) {
$atribut[$row['id_atribut']]=$row['atribut'];
}
?>
Pengambilan Nilai Parameter
Data nilai parameter yang akan digunakan dalam perhitungan berikutnya, diambil dari tabel nbc_parameter dan dimasukkan ke dalam variabel array multidimensi $parameter.
<?php
//-- query untuk mendapatkan semua data atribut di tabel nbc_atribut
$sql = 'SELECT * FROM nbc_parameter ORDER BY id_atribut,id_parameter';
$result = $db->query($sql);
//-- menyiapkan variable penampung berupa array
$parameter=array();
$id_atribut=0;
//-- melakukan iterasi pengisian array untuk tiap record data yang didapat
foreach ($result as $row) {
if($id_atribut!=$row['id_atribut']){
$parameter[$row['id_atribut']]=array();
$id_atribut=$row['id_atribut'];
}
$parameter[$row['id_atribut']][$row['nilai']]=$row['parameter'];
}
?>
Sebagai contoh adalah, dari record yang pertama didapat data array $parameter[1][0]='rendah'. Indeks pertama dari variabel $parameter tersebut adalah nilai dari id_atribut, dan indeks keduanya adalah nilai-nya (numerik), dan isinya berupa data literal (string) dari parameter tersebut.
Pengambilan Nilai Data Training
Nilai data training yang tersimpan dalam tabel nbc_data dan nbc_responder diambil dan dimasukkan dalam variabel $data untuk diolah pada perhitungan berikutnya. Pengambilan nilai data training tersebut dapat dituliskan dalam script PHP sebagai berikut:
<?php
//-- query untuk mendapatkan semua data training di tabel nbc_responden dan nbc_data
$sql = 'SELECT * FROM nbc_data a JOIN nbc_responden b USING(id_responden) ORDER BY a.id_data';
$result = $db->query($sql);
//-- menyiapkan variable penampung berupa array
$data=array();
$responden=array();
$id_responden=0;
//-- melakukan iterasi pengisian array untuk tiap record data yang didapat
foreach ($result as $row) {
if($id_responden!=$row['id_responden']){
$responden[$row['id_responden']]=$row['responden'];
$data[$row['id_responden']]=array();
$id_responden=$row['id_responden'];
}
$data[$row['id_responden']][$row['id_atribut']]=$row['id_parameter'];
}
//-- menampilkan data training dalam bentuk tabel
?>
<table border='1'>
<caption>TABEL 1 : Data Training</caption>
<tr><th>Responden</th>
<?php
//-- menampilkan header table
for($i=2;$i<=$jml_atribut;$i++){
echo "<th>{$atribut[$i]}</th>";
}
?>
<th><?php echo $atribut[1];?></th></tr>
<?php
//-- menampilkan data secara literal
foreach($data as $id_responden=>$dt_atribut){
echo "<tr><td>{$responden[$id_responden]}</td>";
for($i=2;$i<=$jml_atribut;$i++){
echo "<td>{$parameter[$i][$dt_atribut[$i]]}</td>";
}
echo "<td>{$parameter[1][$dt_atribut[1]]}</td></tr>";
}
?>
</table>
Dari script tersebut didapatkan nilai data training , semisal untuk data dari record pertama, yaitu $data[1][1]=2; yang maksudnya adalah Nilai data training dari responder #
1 untuk atribut #1 (Penggunaan Listrik) adalah = 2 (tinggi)
Perhitungan
Pada bagian ini dihitung probabilitas dari tiap-tiap nilai atribut dan kelas dari data training yang diberikan
Perhitungan yang dilakukan meliputi penghitungan jumlah data/frekuensi untuk setiap nilai atribut dan kelas, penghitungan nilai probabilitas tiap nilai kelas (Class Probabilities), serta penghitungan nilai probabilitas tiap nilai atribut (Conditional Probabilities)
Perhitungan Frekuensi Data
Sebelum menghitung nilai probabilitas/peluang untuk setiap nilai atribut dan kelas dari data training, maka dihitung terlebih dahulu frekuensi/jumlah data untuk maasing-masing nilai atribut dan kelasnya sebagai berikut:
<?php
//-- menyiapkan variable penampung utk freq tiap atribut berupa array $freq
$freq=array();
//-- inisialisasi data awal $freq
for($i=2;$i<=$jml_atribut;$i++){
for($j=0;$j<3;$j++){
for($k=0;$k<3;$k++){
$freq[$i][$j][$k]=0;
}
}
}
//-- menyiapkan variable penampung utk freq prior berupa array $prior_freq
$prior_freq=array();
//-- iterasi tiap data training
foreach($data as $i=>$v){
//-- hitung freq tiap atribut
for($j=2;$j<=$jml_atribut;$j++){
$freq[$j][$v[$j]][$v[1]]+=1;
}
//-- hitung feq prior/kelas
if(!isset($prior_freq[$v[1]])) $prior_freq[$v[1]]=0;
$prior_freq[$v[1]]+=1;
}
ksort($prior_freq);
//-- menampilkan tabel frekuensi/jumlah data kelas
?>
<table border='1'>
<caption>TABEL 2 : Jumlah Data Kelas <?php echo $atribut[1];?></caption>
<tr><?php foreach($parameter[1] as $nilai=>$param){ echo "<th>{$param}</th>"; }?></tr>
<tr><?php foreach($prior_freq as $nilai=>$nfreq){ echo "<td>{$nfreq}</td>"; }?></tr>
</table>
<?php
//-- menampilkan tabel frekuensi/jumlah data tiap atribut
for($i=2;$i<=$jml_atribut;$i++){
echo "<table border='1'>";
//-- caption tabel utk masing-masing atribut
echo "<caption>TABEL ".($i+1)." : Jumlah Data Atribut {$atribut[$i]}</caption>";
echo "<tr><th rowspan='2'>{$atribut[1]}</th><th colspan='3'>{$atribut[$i]}</th></tr><tr>";
//-- item nilai literal tiap atribut
foreach($parameter[$i] as $nilai=>$param){
echo "<th>{$param}</th>";
}
echo "</tr>";
//-- iterasi utk tiap nilai kelas
foreach($parameter[1] as $n=>$p){
echo "<tr><td>{$p}</td>";
//-- iterasi jumlah data/freq tiap nilai atribut
for($j=0;$j<=2;$j++){
echo "<td>{$freq[$i][$j][$n]}</td>";
}
echo "</tr>";
}
echo "</table>";
}
?>
Perhitungan Class Probabilities
Perhitungan Class Probabilities adalah jumlah/frekuensi data untuk setiap nilai kelas dibagi dengan total jumlah/frekuensi data training
<?php
//-- menyiapkan variable penampung untuk class probabilities $prior
$prior=array();
//-- hitung nilai masing2 class probabilities
foreach($prior_freq as $p=>$v){
$prior[$p]=$v/array_sum($prior_freq);
}
ksort($prior);
?>
<table border='1'>
<caption>TABEL 8 : Probabilitas Kelas <?php echo $atribut[1];?></caption>
<tr><?php foreach($parameter[1] as $nilai=>$param){ echo "<th>{$param}</th>"; }?></tr>
<tr><?php foreach($prior as $nilai=>$nprior){ echo "<td>{$nprior}</td>"; }?></tr>
</table>
Perhitungan Conditional Probabilities
Perhitungan Conditional Probabilities di sini adalah jumlah/frekuensi data untuk setiap nilai atribut terhadap nilai kelas dibagi dengan jumlah/frekuensi data nilai kelas tersebut. Pada perhitungan ini dimasukkan juga routine untuk mengecek apakah ada jumlah/frekuensi data yang 0(nol) pada nilai kelas yang diperhitungkan tersebut. Jika ditemukan nilai 0(nol) maka akan dilakukan Laplace Correction pada perhitungan probabilitas tersebut.
<?php
//-- menyiapkan variable penampung utk conditional probabilities $likehood
$likehood=array();
//-- iterasi mulai atribut ke-2 sampai terakhir
for($i=2;$i<=$jml_atribut;$i++){
//-- iterasi nilai atribut
for($j=0;$j<3;$j++){
//-- iterasi nilai kelas
for($k=0;$k<3;$k++){
//-- tes kondisi jika terdapat freq yang 0(nol) utk kelas=$k
$t_nol=($freq[$i][0][$k]==0 || $freq[$i][1][$k]==0 || $freq[$i][2][$k]==0);
//-- lakukan laplace correction jika ditemukan freq 0(nol) $t_nol=true
$likehood[$i][$j][$k]=($freq[$i][$j][$k]+($t_nol?1:0))/($prior_freq[$k]+($t_nol?count($prior_freq):0));
}
}
}
//-- menampilkan tabel probabilitas tiap atribut
for($i=2;$i<=$jml_atribut;$i++){
echo "<table border='1'>";
//-- caption tabel utk masing-masing atribut
echo "<caption>TABEL ".($i+7)." : Probabilitas Atribut {$atribut[$i]}</caption>";
echo "<tr><th rowspan='2'>{$atribut[1]}</th><th colspan='3'>{$atribut[$i]}</th></tr><tr>";
//-- item nilai literal tiap atribut
foreach($parameter[$i] as $nilai=>$param){
echo "<th>{$param}</th>";
}
echo "</tr>";
//-- iterasi utk tiap nilai kelas
foreach($parameter[1] as $n=>$p){
echo "<tr><td>{$p}</td>";
//-- iterasi probabilitas tiap nilai atribut
for($j=0;$j<=2;$j++){
echo "<td>{$likehood[$i][$j][$n]}</td>";
}
echo "</tr>";
}
echo "</table>";
}
?>
Pengujian
Pengujian terhadap data training dibandingkan dengan hasil prediksi, dan memprediksi nilai kelas terhadap inputan sembarang
Pengujian Data Training
Pengujian data yang pertama dilakukan terhadap data training dengan membandingkan nilai kelas pada data training dengan hasil prediksi dari perhitungan probabilitas dengan metode Naïve Bayes. Hasil yang diperoleh berupa prosentase perbandingan prediksi yang benar (Correctly Classified Instance) dan prosentase prediksi yang tidak benar (Incorrectly Classified Instance)
<?php
//-- menyiapkan variabel penampung probabilitas per data training thd kelas
$prob=array();
//-- inisialisasi jumlah kumulatif prediksi benar dari data training
$right=0;
//-- iterasi utk setiap data training
foreach($data as $n=>$v){
$m=array();
//-- iterasi utk setiap nilai kelas
for($i=0;$i<3;$i++){
//-- inisialisasi probabilitas awal
$m[$i]=1;
//-- perkalian nilai probabilitas tiap atribut
for($j=2;$j<=$jml_atribut;$j++){
$m[$i]*=$likehood[$j][$v[$j]][$i];
}
//-- kalikan dengan prior probabilitasnya
$m[$i]*=$prior[$i];
}
//-- menentukan nilai prediksi kelas per data training
$predict[$n]=array_search(max($m),$m);
$prob[$n]=$m;
//-- hitung kumulatif prediksi yang benar
$right+=($predict[$n]==$v[1]?1:0);
}
//-- menampilkan prosentase data training yg diprediksi benar
echo "Correctly Classified Instance = ".($right/count($data)*100)."% <br>";
//-- menampilkan prosentase data training yg diprediksi tidak benar
echo "Incorrectly Classified Instance = ".((1-$right/count($data))*100)."% <br>";
?>
Prediksi Terhadap Inputan
Hasil perhitungan probabilitas dari data training yang diberikan bisa dijadikan patokan untuk memprediksi nilai kelas dari suatu set nilai atribut inputan. Pada contoh script berikut ini, nilai inputan disimulasikan dari hasil data random.
<?php
//-- menyiapkan variabel penampung data inputan
$input=array();
//-- membuat data input simulasi dengan fungsi random untuk masing2 atribut
for($i=2;$i<=$jml_atribut;$i++){
$input[$i]=rand(0,2);
}
$m=array();
//-- iterasi utk setiap nilai kelas
for($i=0;$i<3;$i++){
//-- inisialisasi probabilitas awal
$m[$i]=1;
//-- perkalian nilai probabilitas tiap atribut
for($j=2;$j<=$jml_atribut;$j++){
$m[$i]*=$likehood[$j][$input[$j]][$i];
}
//-- kalikan dengan prior probabilitasnya
$m[$i]*=$prior[$i];
}
//-- menentukan prediksi nilai kelas, berdasar probabilitas terbesar
$result=array_search(max($m),$m);
//-- menampilkan hasil prediksi nilai kelas
$s_list=array();
foreach($input as $i=>$n){
$s_list[]="<b>{$atribut[$i]}</b>=<i>{$parameter[$i][$n]}</i>";
}
echo "Untuk ".implode(' , ',$s_list)." masuk ke kelas <b>{$atribut[1]}</b>=<i>{$parameter[1][$result]}</i> ";
echo "dengan probabilitas sebesar <b>{$m[$result]}</b> ";
?>
