Laporan Proyek Machine Learning - Bayu Indra Kusuma

Domain Proyek

Cryptocurrency adalah sebuah bentuk uang digital yang menggunakan teknologi kriptografi untuk mengamankan transaksi dan mengontrol penciptaan unit baru. Cryptocurrency berbeda dengan mata uang konvensional karena tidak terikat dengan negara atau lembaga keuangan tertentu. Sebaliknya, cryptocurrency dikelola melalui jaringan terdesentralisasi dan transaksi cryptocurrency dicatat pada blockchain.

Cara Kerja Cryptocurrency

Setiap transaksi cryptocurrency dicatat pada blockchain, yang merupakan buku besar publik yang terdistribusi di seluruh jaringan. Setiap kali transaksi terjadi, node pada jaringan melakukan verifikasi untuk memastikan bahwa transaksi tersebut valid. Setelah transaksi terverifikasi, ia ditambahkan ke blockchain dan tidak dapat diubah lagi. Sebagai imbalannya, node yang melakukan verifikasi transaksi menerima imbalan dalam bentuk cryptocurrency.

Bagaimana Harga Cryptocurrency Ditentukan?

Harga cryptocurrency ditentukan oleh kekuatan pasar dan permintaan. Semakin banyak orang yang ingin membeli cryptocurrency tertententu, semakin tinggi harga cryptocurrency tersebut. Harga cryptocurrency juga dipengaruhi oleh faktor-faktor seperti adopsi teknologi, regulasi pemerintah, dan isu-isu keamanan. Karena cryptocurrency masih relatif baru dan sangat fluktuatif, harga cryptocurrency dapat berubah dengan cepat dan sulit diprediksi.

---

Proyek ini berfokus pada pengembangan model Machine Learning untuk memprediksi harga Ethereum (ETH). Ethereum adalah sebuah cryptocurrency yang berada di urutan kedua berdasarkan kapitalisasi pasar di seluruh dunia. Seiring dengan peningkatan popularitas dan penggunaan cryptocurrency, banyak orang tertarik untuk berinvestasi dalam Ethereum atau cryptocurrency lainnya.

Tujuan proyek ini adalah untuk membantu investor dan pedagang cryptocurrency dalam membuat keputusan investasi dengan lebih baik. Pada umumnya, harga cryptocurrency sangat fluktuatif dan sulit diprediksi. Oleh karena itu, penggunaan model Machine Learning dapat membantu memprediksi harga ETH di masa depan dengan tingkat akurasi yang lebih baik. Hal ini dapat membantu investor dalam membuat keputusan investasi yang lebih bijaksana dan menghindari kerugian.

Businnes Understanding

Problem Statements

Masalah yang ingin diselesaikan adalah fluktuasi harga Ethereum yang tinggi dan sulit diprediksi. Hal ini menyulitkan investor dan pedagang cryptocurrency dalam membuat keputusan investasi yang tepat. Sebagai contoh, jika harga ETH sedang naik, investor dan pedagang mungkin ingin membeli ETH untuk mendapatkan keuntungan di masa depan. Namun, jika harga ETH turun, mereka mungkin ingin menjual ETH untuk menghindari kerugian. Oleh karena itu, dengan menggunakan model Machine Learning untuk memprediksi harga ETH, investor dan pedagang cryptocurrency dapat membuat keputusan investasi yang lebih bijaksana. Fluktuasi harga Ethereum yang tinggi dan sulit diprediksi adalah masalah yang signifikan bagi investor dan pedagang cryptocurrency. Harga Ethereum dapat berubah dengan cepat dalam waktu singkat, yang dapat menyebabkan kerugian bagi investor dan pedagang. Sebagai contoh, pada bulan Maret 2020, harga Ethereum turun lebih dari 50% dalam waktu kurang dari 24 jam. Hal ini dapat mengakibatkan investor dan pedagang kehilangan sebagian atau bahkan seluruh investasi mereka dalam waktu singkat.

Goals

Tujuan proyek ini adalah untuk mengembangkan model Machine Learning yang dapat memprediksi harga ETH di masa depan dengan tingkat akurasi yang lebih baik. Model ini dapat membantu investor dan pedagang cryptocurrency dalam membuat keputusan investasi yang tepat. Selain itu, proyek ini juga bertujuan untuk membantu meningkatkan pemahaman tentang cryptocurrency dan penggunaan Machine Learning dalam memprediksi harga cryptocurrency.

Data Understanding

Data Source

Data yang digunakan berasal dari Ethereum Historical Data yang diambil dari Kaggle. https://www.kaggle.com/datasets/themrityunjaypathak/ethereum-historical-data

Data Description

Dataset ini berisi data harga Ethereum dari tanggal 1 Januari 2015 hingga 31 Desember 2020. Dataset ini terdiri dari 6 variabel, yaitu: Date, Open, High, Low, Close, dan Volume. Variabel-variabel tersebut merepresentasikan harga dan volume transaksi Ethereum pada tanggal tertentu. Meskipun dataset ini tidak merepresentasikan kondisi pasar cryptocurrency secara keseluruhan, namun dapat memberikan gambaran tentang fluktuasi harga Ethereum di masa lalu yang dapat membantu dalam memprediksi harga di masa depan. Selain itu, penggunaan dataset ini juga dapat memberikan pandangan tentang tren dan pola harga Ethereum yang dapat membantu dalam membuat keputusan investasi.

Dataset ini berisi 6 kolom, yaitu:

• Date: Tanggal
• Open: Harga pembukaan
• High: Harga tertinggi
• Low: Harga terendah
• Close: Harga penutupan
• Volume: Volume transaksi

ETH Price Chart

Data Preparation

• Pada tahap ini, dilakukan pengecekan terhadap data yang hilang. Pada dataset ini, tidak terdapat data yang hilang.
• Data yang dibaca dari file .csv kemudian diubah format tanggalnya menggunakan fungsi pd.to_datetime dengan format %b %d, %Y dan diubah menjadi format %Y-%m-%d.
• Data yang diambil hanya kolom 'Date' dan 'Price'.
• Data harga yang semula dalam format string diubah menjadi float dan kemudian dinormalisasi menggunakan MinMaxScaler.
• Normalisasi data dapat membantu menghindari masalah yang disebut sebagai numerical instability pada algoritma Machine Learning, dimana algoritma tersebut dapat menjadi tidak stabil dan menghasilkan output yang kurang akurat ketika nilai yang dimasukkan ke dalamnya terlalu besar atau terlalu kecil. Dalam kasus harga cryptocurrency yang sangat bervariasi, normalisasi data dapat membantu meningkatkan kinerja model Machine Learning.
• Setelah data dinormalisasi, dataset dibagi menjadi data latih dan data uji. Data latih digunakan untuk melatih model Machine Learning, sementara data uji digunakan untuk menguji performa model pada data yang tidak terlihat sebelumnya. Pemilihan proporsi data latih dan data uji harus dilakukan secara hati-hati agar model tidak terlalu overfitting atau underfitting. Salah satu metode yang dapat digunakan adalah dengan menggunakan train_test_split dari library sklearn, dengan proporsi data latih sebesar 80% dan data uji sebesar 20%.

Modeling

• Model yang digunakan adalah model sequential dengan LSTM dan beberapa lapisan dense serta dropout untuk menghindari overfitting. LSTM dipilih karena model dapat mempertahankan informasi jangka panjang dan cocok untuk menganalisis rangkaian data, seperti data harga saham atau cryptocurrency.
• Model ini dapat memberikan solusi untuk masalah fluktuasi harga Ethereum dengan mempelajari pola dan tren dari data historis, dan kemudian digunakan untuk memprediksi harga masa depan dengan tingkat akurasi yang lebih baik.
• Arsitektur model dipilih dengan melakukan eksperimen berulang-ulang pada jumlah lapisan LSTM, jumlah neuron pada setiap lapisan, dan tingkat dropout. Evaluasi dilakukan dengan membandingkan performa model pada data validasi dan memilih arsitektur model dengan hasil evaluasi terbaik.
• Kelebihan dari LSTM adalah kemampuan untuk mengingat informasi jangka panjang dan kemampuan untuk menghindari vanishing gradient problem pada model dengan banyak lapisan. Selain itu, LSTM juga memiliki kemampuan untuk memodelkan hubungan antara masukan dan keluaran yang kompleks.
• Kekurangan dari LSTM adalah kompleksitas yang lebih tinggi dibandingkan model yang lebih sederhana, sehingga memerlukan lebih banyak waktu untuk dilatih dan lebih sulit untuk diinterpretasikan.
• Dalam proyek ini, tidak digunakan model lain selain LSTM untuk memprediksi harga Ethereum.

Model Architecture

model = Sequential([
    LSTM(60, return_sequences=True),
    LSTM(60),
    Dense(30, activation="relu"),
    Dropout(0.3),
    Dense(10, activation="relu"),
    Dropout(0.2),
    Dense(1),
])

Model yang digunakan terdiri dari beberapa lapisan yang diatur menggunakan parameter berikut:

• LSTM(60, return_sequences=True): Layer pertama menggunakan LSTM dengan 60 unit neuron dan return_sequences=True untuk mengeluarkan urutan lengkap keluaran LSTM agar dapat dimasukkan ke layer berikutnya.
• LSTM(60): Layer kedua menggunakan LSTM dengan 60 unit neuron untuk memproses keluaran dari layer sebelumnya.
• Dense(30, activation="relu"): Layer ketiga menggunakan Dense layer dengan 30 unit neuron dan aktivasi ReLU.
• Dropout(0.3): Layer keempat menggunakan Dropout layer dengan tingkat dropout 0.3 untuk mencegah overfitting.
• Dense(10, activation="relu"): Layer kelima menggunakan Dense layer dengan 10 unit neuron dan aktivasi ReLU.
• Dropout(0.2): Layer keenam menggunakan Dropout layer dengan tingkat dropout 0.2 untuk mencegah overfitting.
• Dense(1): Layer terakhir menggunakan Dense layer dengan 1 unit neuron untuk menghasilkan prediksi harga Ethereum. Dengan arsitektur ini, model dapat mempertahankan informasi jangka panjang dan menghindari vanishing gradient problem, serta dapat memodelkan hubungan yang kompleks antara masukan dan keluaran. Selain itu, penggunaan dropout layer membantu mencegah overfitting pada data latih.

Evaluation

• Metrik yang digunakan untuk mengukur performa model adalah Huber loss, mean absolute error (MAE), dan akurasi.
• Huber loss dipilih karena metrik ini lebih kuat daripada mean squared error dalam menangani pencilan atau outlier pada data. Huber loss memungkinkan untuk memperlakukan data outlier secara berbeda dibandingkan dengan data reguler dalam proses pelatihan model.
• MAE dipilih karena metrik ini memberikan interpretasi yang mudah dan berarti bahwa rata-rata kesalahan prediksi model dalam satuan mata uang (dalam kasus ini, harga Ethereum).
• Akurasi dipilih untuk mengevaluasi kinerja model, namun pada kasus ini akurasi memiliki makna yang lebih rendah dibandingkan dengan MAE atau Huber loss.

Hasil Evaluasi

Model berhasil dilatih dengan baik dan mampu memprediksi harga Ethereum dengan tingkat kesalahan yang cukup rendah.

Test Loss: 0.008534647524356842
Test MAE: 0.13058969378471375
Test Accuracy: 0.002217294881120324

• Test Loss: 0.008534647524356842, merupakan nilai rata-rata dari loss pada seluruh data uji yang dievaluasi oleh model. Semakin kecil nilai loss, semakin baik performa model. Loss merupakan ukuran seberapa jauh prediksi model dari nilai sebenarnya.

• Test MAE: 0.13058969378471375, merupakan nilai rata-rata dari Mean Absolute Error pada seluruh data uji yang dievaluasi oleh model. MAE merupakan ukuran kesalahan prediksi model dalam skala yang sama dengan target. Semakin kecil nilai MAE, semakin baik performa model.

• Test Accuracy: 0.002217294881120324, merupakan akurasi dari model pada data uji. Akurasi merupakan ukuran seberapa sering model melakukan prediksi yang benar. Untuk model regresi, akurasi tidak sering digunakan sebagai metrik evaluasi, sehingga nilai akurasi yang sangat kecil seperti ini tidak menunjukkan kesimpulan yang signifikan.

Dari hasil evaluasi, dapat disimpulkan bahwa model LSTM yang telah dibangun memiliki performa yang baik karena nilai loss dan MAE yang cukup kecil. Namun, nilai akurasi yang sangat kecil menunjukkan bahwa model tidak sangat baik dalam memprediksi nilai harga ETH pada data uji. Oleh karena itu, perlu dilakukan evaluasi lebih lanjut untuk mengoptimalkan performa model.