Daftar Isi Artikel
Di artikel Pandas dan NumPy, kita sudah membersihkan data dari duplikat dan nilai kosong. Kali ini kita lanjutkan satu langkah lebih jauh: menyiapkan dataset itu sampai benar-benar siap dipakai melatih model AI — bukan sekadar rapi, tapi juga terstruktur dengan cara yang bisa "dimengerti" model.
Mengenal Struktur Dataset
Sebelum masuk ke langkah teknis, penting memahami tiga istilah dasar dalam sebuah dataset:
- Baris (rows) — tiap baris mewakili satu contoh data, misalnya satu transaksi atau satu pelanggan
- Fitur (features) — kolom-kolom yang jadi "input" bagi model, misalnya harga, usia, atau kategori produk
- Label/target — kolom yang ingin diprediksi model, misalnya "apakah pelanggan akan membeli lagi" (ya/tidak)
Langkah Menyiapkan Dataset untuk Model AI
- 1Pahami dulu apa yang ingin diprediksi
Tentukan kolom target/label sebelum mulai — semua langkah berikutnya akan mengikuti keputusan ini.
- 2Pisahkan fitur dan label
Bagi dataset menjadi dua bagian: kolom-kolom fitur (input) dan kolom label (output) yang ingin diprediksi.
- 3Tangani data yang hilang
Putuskan apakah baris dengan data kosong akan dihapus, atau diisi dengan nilai perkiraan (rata-rata, median, dsb).
- 4Ubah data kategori jadi angka
Model AI hanya memahami angka, jadi data teks seperti "Jakarta", "Bandung" perlu diubah jadi representasi numerik lewat proses encoding.
- 5Samakan skala angka
Kolom dengan rentang angka jauh berbeda (misalnya usia 0-100 dan harga jutaan rupiah) perlu disamakan skalanya supaya model tidak bias ke angka yang lebih besar.
- 6Bagi data jadi data latih dan data uji
Sisakan sebagian data (biasanya 20%) khusus untuk menguji performa model setelah dilatih, supaya evaluasinya adil.
Contoh Kode Sederhana
Berikut contoh menerapkan beberapa langkah di atas memakai Pandas dan scikit-learn:
Kode ini memisahkan fitur dan label, membagi 80% data untuk latihan dan 20% untuk pengujian, lalu menyamakan skala angka di kolom fitur — tiga langkah penting yang hampir selalu muncul di proyek machine learning.
Kesalahan Umum Saat Menyiapkan Dataset
- Data leakage — informasi dari data uji "bocor" ke proses pelatihan, membuat performa model terlihat bagus padahal sebenarnya menyesatkan
- Data tidak seimbang (imbalanced) — misalnya 95% data berlabel "tidak" dan cuma 5% "ya", membuat model cenderung bias ke kelas mayoritas
- Lupa menyamakan skala angka — kolom dengan rentang angka jauh berbeda bisa membuat model salah menilai fitur mana yang lebih penting
- Membuang terlalu banyak data saat menangani nilai kosong — kadang lebih baik mengisi nilai kosong dengan perkiraan daripada menghapus baris sekaligus
Aturan emasData uji tidak boleh "dilihat" model dalam bentuk apa pun sebelum evaluasi akhir — termasuk saat proses scaling atau encoding, yang harus dipelajari dari data latih saja lalu diterapkan ke data uji.
Kesimpulan
Menyiapkan dataset dengan benar sering dianggap remeh, padahal inilah yang paling menentukan seberapa baik model AI bisa belajar. Enam langkah di atas — dari memahami struktur data sampai membagi data latih dan uji — adalah fondasi yang akan terus kamu pakai di hampir semua proyek machine learning. Langkah selanjutnya: mengenal konsep vector database, salah satu topik yang makin penting di era AI generatif.


