Trend Micro Incorporated, perusahaan keamanan siber global, dalam laporan terbarunya mengenai Critical Scalability: Trend Micro Security memperingatkan bahwa generative AI (GenAI) berpotensi menjadi alat yang digunakan para pelaku kejahatan siber untuk meningkatkan serangan siber pada tahun 2024. Salah satu yang diprediksi oleh laporan tersebut adalah kemungkinan terjadinya ‘tsunami’ taktik social engineering yang canggih dan pencurian identitas yang menggunakan GenAI tersebut.
Seperti banyak teknologi baru lainnya, AI adalah pedang bermata dua dan dampaknya terhadap dimensi sosial serangan siber akan semakin terlihat pada tahun 2024. GenAI diperkirakan akan mendisrupsi pasar phishing pada tahun 2024 karena semakin banyak digunakan dan kualitasnya juga meningkat, ditambah lagi dengan dukungan penggunaan Generative Adversarial Networks (GAN). Trend Micro memprediksi transformasi ini akan memungkinkan pembuatan konten audio dan video yang sangat realistis dengan biaya yang lebih hemat. Hal ini dapat menyebabkan meningkatnya gelombang baru business email compromise (BEC), penculikan virtual, dan penipuan lainnya.
Laksana Budiwiyono, Country Manager, Trend Micro Indonesia mengatakan: “Large Language Models (LLM) yang canggih dan menguasai berbagai bahasa akan menjadi ancaman yang signifikan karena mereka mampu menghilangkan indikator khas phishing seperti format yang janggal atau kesalahan tata bahasa, sehingga semakin sulit untuk dideteksi. Perusahaan-perusahaan di Indonesia harus melakukan transisi dari pelatihan phishing konvensional dan memberikan prioritas pada penerapan pengendalian keamanan modern. Pertahanan canggih ini tidak hanya melampaui kemampuan manusia dalam mendeteksi tetapi juga memastikan ketahanan atau resiliensi terhadap taktik baru itu. Inisiatif semacam itu sangat penting seiring dengan kemajuan AI di negara ini, yang diperkirakan akan memberikan kontribusi hingga US$ 366 miliar terhadap PDB pada tahun 2030.”
Model AI sendiri mungkin juga akan menghadapi serangan pada tahun 2024. Lantaran dataset GenAI dan LLM sulit diutak-atik oleh para pelaku ancaman, mereka akan mengincar model pembelajaran mesin berbasis cloud yang terspesialisasi. Dataset pelatihan yang lebih terfokus akan menjadi lebih menyasar pada penyusupan data dengan hasil antara lain pengambilan data yang sensitif hingga merusak fraud filter dan bahkan hal-hal yang terhubung. Untuk melakukan serangan semacam itu hanya membutuhkan biaya kurang dari US$100.
Tren ini, pada gilirannya akan meningkatkan pengawasan berdasarkan regulasi dan mendorong pengambilan tindakan sendiri oleh sektor keamanan siber.
“Di tahun mendatang, industri siber akan mulai mengungguli pemerintah dalam hal mengembangkan kebijakan atau peraturan khusus keamanan siber terkait AI,” ujar Laksana Budiwiyono. “Industri ini bergerak cepat untuk mengatur diri sendiri dengan basis partisipasi.”
Laporan prediksi Trend Micro tahun 2024 juga menyoroti beberapa hal:
- Terjadinya lonjakan serangan cloud-native worm, yang menargetkan kerentanan dan miskonfigurasi serta menggunakan otomatisasi tingkat tinggi untuk menjangkau banyak container, akun, dan layanan dengan mudah.
- Keamanan cloud akan menjadi sangat penting bagi perusahaan untuk mengatasi kesenjangan keamanan di lingkungan cloud, menyoroti kerentanan pada aplikasi cloud-native terhadap serangan otomatis. Tindakan proaktif, termasuk mekanisme pertahanan yang kuat dan audit keamanan menyeluruh, sangat penting untuk mengurangi risiko.
- Lebih banyak serangan terhadap rantai pasokan akan menargetkan tidak hanya komponen software open-source di upstream tetapi juga pada manajemen identitas inventaris, seperti SIM telco, yang sangat penting untuk sistem armada dan inventaris. Penjahat siber juga akan mengeksploitasi software rantai pasokan yang ada di vendor melalui sistem CI/CD, dengan fokus serangan pada komponen pihak ketiga.
- Serangan terhadap private blockchain akan meningkat sebagai akibat dari kerentanan dalam implementasi sejumlah private blockchain. Pelaku ancaman dapat secara langsung memodifikasi, menimpa, atau menghapus data yang ada, dan kemudian meminta uang tebusan. Sebagai alternatif, bila memungkinkan mereka akan mencoba mengenkripsi seluruh blockchain untuk mengambil alih kendali atas cukup banyak node.
