Lewat sebuah acara bertajuk Cloudera End of Year Media Briefing, di penghujung tahun 2024 ini Cloudera mengungkap sejumlah tren yang diprediksi bakal hype di tahun 2025 mendatang. Cloudera diketahui merupakan satu-satunya platform true hybrid untuk data, analitik, dan AI. Perusahaan ini meraih pertumbuhan yang cukup di tahun 2024 ini.
”Di tahun 2024 ini kita lihat bahwa Cloudera Asia Pasifik ini memilliki pertumbuhan yang cukup baik dan cukup membanggakan. Jadi tidak hanya Cloudera Indonesia, tetapi Cloudera Asia Pasifik secara keseluruhan memberikan catatan yang cukup baik di tahun 2024,” ungkap Sherlie Karnidta, Country Manager Indonesia, Cloudera, di Jakarta, Selasa (10/12/2024) lalu.
Setelah memberikan update mengenai pertumbuhan bisnisnya tahun ini, Sherlie Karnidta mengungkap banyak hal terkait tren seputar AI yang diprediksi bakal bergaung di tahun 2025.
Menjembatani kesenjangan antara bisnis dan tim IT
Menjembatani kesenjangan antara bisnis dan tim IT bukanlah misi yang baru bagi perusahaan. Para pemimpin bisnis kini sudah lebih “fasih” menggunakan tool AI yang ramah pengguna seperti asisten dan copilot, yang membuat para profesional bisnis dapat memanfaatkan analitik untuk mengambil keputusan yang lebih baik. Tren ini akan terus berlanjut pada tahun 2025 saat industri membuka akses yang lebih besar kepada AI dan analitik. Namun, tren baru yang berbanding terbalik juga dapat terjadi: Tim IT dan data scientist akan mulai merasakan tujuan bisnis yang lebih besar untuk memenuhi kebutuhan perusahaan yang lebih luas.
“Di dalam suatu perusahaan tim bisnis dan tim IT itu kadang-kadang terkotak-kotak, mungkin kita bisa bilangnya itu organisasinya agak siloed. Jadi, mereka ini mempunya recuirement dan kadang-kadang pemahaman dari masing-masing divisi ini kurang nyambung. Jadi, prediksi kita untuk tahun 2025, gap atau celahnya itu akan semakin sempit dengan bantuan AI atau Generative AI itu sendiri. Karena nanti, pemimpin atau CEO-CEO dari perusahaan itu sudah mengharapkan masing-masing divisinya itu untuk menggunakan Generative AI atau AI itu sendiri di seluruh lini bisnisnya. Jadi, hal iini yang akan membantu mengecilkan gap antara user dan IT itu sendiri,” jelas Sherlie.
Gen AI akan meredup, perusahaan akan mengambil pendekatan AI yang pragmatis
Pada 2025 akan ada dua kubu – yang pertama adalah bisnis yang telah sukses dalam penggunaan GenAI dan sedang memanen hasilnya. Menurut McKinsey, 65% dari perusahaan melaporkan penggunaan GenAI secara berkala dan mengalami pengurangan biaya yang besar untuk SDM dan peningkatan pendapatan dalam manajemen rantai pasok. Di Indonesia, menurut PwC, meskipun perusahaan Indonesia masih tertinggal dibandingkan perusahaan Asia Pasifik dalam pengadopsian GenAI, diyakini bahwa pada tahun depan, GenAI akan meningkatkan kemampuan CEO dalam membangun kepercayaan pemangku kepentingan (57%) dan meningkatkan kualitas produk dan layanan (56%).
“Di akhir 2024 ini betul GenAI itu sedang ngebut-ngebutnya, tapi kita lihat di tahun 2025 ini mungkin akan sedikit memudar hype-nya dan kemudian beberapa customer kita ini mungkin akan memiliki practical approach (pendekatan yang lebih praktikal). Jadi, kalau misalkan dari sisi perusahaan-perusahaan besar yang sudah memiliki data yang besar juga dengan data yang sudah terolah dengan baik, supaya bisa menghasilkan inside dari GenAI yang terbaik, mereka akan tetap meneruskan perjuangan mereka dalam GenAi itu sendiri, tapi untuk perusahaan mungkin yang melihat ke belakang sedikit sebelum menerapkan GenAI ini. Ini data saya kira-kira sudah trusted atau sudah bisa terpercaya ngga ya, karena mereka mungkin sudah pula menyadari kalau data sendiri masih belum terpercaya, maka insidenya mungkin juga akan kurang baik. Jadi mungkin mereka akan lebih (memilih) ‘kita perbaiki dulu deh yang sekarang kita punya’ untuk mempersiapkan diri mencapai GenAi atau solusi GenAI berikutnya,” tandas Sherlie.
Lembaga layanan keuangan, contohnya, adalah pengadopsi awal GenAI, dan Cloudera melihat perubahan penting sedang terjadi di industri ini ketika semakin banyak bank beralih dari sistem yang rule-based ke yang model-based untuk pendeteksian penipuan. Value sesungguhnya dari GenAI adalah mendapatkan pengetahuan dan insight dalam skala besar – tanpa data yang bagus, model AI tidak bisa berjalan dengan baik. Dengan demikian, perusahaan yang bakal mendapatkan manfaat adalah dari sektor-sektor yang memiliki kumpulan besar data tepercaya yang bisa mereka akses untuk mendapatkan insight yang bisa ditindaklanjuti.
“Kelompok kedua adalah perusahaan yang secara tradisional tidak memiliki database dalam skala besar untuk memanfaatkan GenAI, dan mereka akan beralih ke AI tradisional atau model machine learning yang deterministik, untuk mendorong efisiensi dan produktivitas. Pada akhirnya, kami memperkirakan bahwa bisnis akan berhenti memberikan perhatian besar kepada sensasi dan kejayaan GenAI, sebaliknya mereka akan berfokus untuk memetakan roadmap investasi teknologi mereka untuk meraih target perusahaan yang lebih besar,” ujar Sherlie.
Bisnis lebih menyukai fleksibilitas dalam memilih antara private LLM dan public LLM
Lebih lanjut Sherlie mengatakan dengan inovasi enterprise AI yang menjadi pusat perhatian di tahun depan, bisnis harus dapat memilih kapan harus menggunakan public large language models (LLM) atau privat yang bisa memberikan insight akurat berdasarkan konteks organisasi. Menurut riset McKinsey , kurang dari setengah (47%) perusahaan secara signifikan melakukan kustomisasi dan mengembangkan model mereka sendiri saat ini dan kami yakin ini akan berubah di tahun 2025 saat perusahaan mengembangkan chatbot yang digerakkan AI, asisten virtual, dan aplikasi berbasis agen yang disesuaikan dengan bisnis perorangan dan industri.
“Jadi, dari sisi bisnis sendiri mungkin akan mulai memilih-milih nih, kita akan menggunakan LLM yang sifatnya private atau publik. Jadi, mereka ingin bisa memilih, sebagai contoh di industri perbankan, itu LLM model itu mereka memilih untuk melakukannya secara private. Kenapa? Karena banyak hal-hal sensitif di LLM model yang sifatnya publik. Contohnya, misalkan data customer, kalau mereka lakukan di public LLM mungkin mereka akan takut data itu akan tersebar keluar. Tapi mungkin untuk suatu data-data sifatnya publik, laporan keuangan atau itu produk-produk dari customer dari sisi perbankan itu sendiri mereka boleh bisa menggunakan Public LLM itu, karena data-data itu juga sudah ada di publik dan bisa digunakan,” jelas Sherlie.
“Nah, ini akan erat kaitannya, per 17 Oktober 2024 itu kan ada Undang-Undang Perlindungan Data Pribadi. Di sini nanti akan mempengaruhi bagaimana GenAI seharusnya diterapkan di pemerintahan Negara Indonesia. Jadi, masing-masing perusahaan juga sekerang sudah lebih hati-hati untuk melakukan perkembangan solusi dari Generative AI sendiri,” sambungnya.
Saat semakin banyak perusahaan menjalankan LLM kelas enterprise, mereka akan membutuhkan dukungan GPU untuk performa yang lebih cepat dibandingkan CPU tradisional, dan sistem tata kelola data yang kuat dengan keamanan dan privasi yang ditingkatkan. Dalam semangat yang sama, perusahaan juga akan meningkatkan penggunaan metode retrieval-augmented generation untuk mengubah LLM generik menjadi data repository yang khusus untuk industri atau perusahaan tertentu, yang lebih akurat dan andal bagi pengguna akhir yang bekerja di field support, SDM, atau rantai pasokan.
Infrastruktur hybrid cloud saja tidak lagi cukup
Jika 2024 adalah tahun percontohan untuk Gen AI, pada tahun 2025 kita akan melihat perusahaan akan melangkah maju menuju ke produksi penuh dan melakukan pengembangan dengan penerapan GenAI. Ini artinya menjalankan infrastruktur hybrid cloud saja tidak akan cukup, dan perusahaan akan menghadapi kebutuhan mendesak untuk memiliki kemampuan multi-cloud atau hybrid cloud untuk data dan analitik. Dengan pertumbuhan di lingkungan hybrid, jejak data perusahaan akan meluas di on-premise, mainframe, di public cloud, dan di edge.
Bisnis membutuhkan kemampuan untuk membawa model Gen AI ke mana pun data berada, dan dengan lancar memindahkan data dan beban kerja ke seluruh bisnis, untuk mendapatkan insight berharga dan menjawab kebutuhan perusahaan. Dengan begitu banyak data yang diberikan kepada layanan model AI, keamanan dan tata kelola akan muncul ke permukaan. Undang-undang Perlindungan Data Pribadi (PDP) yang mulai berlaku tahun ini mengharuskan perusahaan untuk memastikan keamanan dan kerahasiaan data pribadi. Pelanggaran terhadap peraturan ini akan membuat perusahaan berhadapan dengan sanksi administratif, hukuman pidana, dan denda yang besar.
“Saya ingat tahun lalu atau mungkin dua tahun sebelumnya kami di Cloudera itu bilang bahwa satu hal yang mungkin yang akan menjadi marak di industri terutama di dunia data dan analitik itu adalah AI dan teknologi Hybrid. Kenapa Hybrid dan AI ini menjadi terhubung satu sama lain, karena waktu itu kami di Cloudera memprediksi bahwa apa yang kami lihat di customer-customer kami terutama di Indonesia ketika mau melakukan implementasi menggunakan teknologi AI, terkadang apa yang kita punya saat ini itu belum siap. Jadi, yang perlu dilakukan apa, oh ternyata kita butuh infrastruktur tambahan. Tapi ternyata untuk kita bisa mempunyai infrastruktur yang mendukung AI, ternyata tuh ngga semudah itu,” jelas Fajar Muharandy, Solution Engineer, Cloudera.
Akhirnya, lanjut Fajar, perlu banyak dilakukan oleh klien, mereka kemudian melihat, kalau kita mau mengimplementasikan AI kita mungkin harus melakukan itu di Cloud. Namun, ketika mereka kemudian melihat ke Cloud, mereka sadar, data kita semua masih ada di sini.
“Bagaimana caranya ini data kita sekarang ada di datacenter kita, tapi ternyata teknologi yang memungkinkan kita untuk bisa embracing AI itu ada di Cloud. Biasanya klien kami punya dua opsi, ya udah kalau gitu teknologi-teknologi yang bisa membuat kita membawa AI di organisasi kita itu semua kita bawa ke tempat kita di on premise (data center) kita sendiri. Itu yang pertama. Kelebihannya apa? Kita bisa melakukan itu secara private, datanya pakai data kita sendiri, kita tidak usah khawatir datanya dilempar ke luar. Itu opsi pertama,” jelas Fajar.
Opsi kedua, lanjut Fajar, kalau kita mau pakai opsi pertama, kan membutuhkan waktu yang lama. Karena untuk melakukannya dibutuhkan infrastruktur dengan GPU berkapasitas besar begitupun dengan power supply dan pendingin yang juga besar.
“Kayaknya nih, ngga langsung siap nih datacenter kita. Ya udah kita pakai cloud, tapi cloud itu kan mungkin disconnected karena data kita masih ada di datacenter (on premise) kita. Caranya gimana? Caranya hybrid, tahun lalau kita bicara tentang hybrid dan bagaimana Cloudera itu kita punya solusi yang memang bisa membantu klien kita mewujudkan data dan analitik dalam pendekatan hybrid. Jadi, Cloudera itu bisa running di data center (on premise) dan Cloudera bisa running juga di cloud. Dan ketika kita mau menghubungkan data kita yang ada di cloud dengan di on premise, Cloudera itu bisa bikin supaya datanya ini bisa benar-benar mirip seperti apa yang di on premise,” ungkap Fajar.
Jadi, lanjut Fajar, pendekatan Cloudera ketika melakukan implementasi hybrid tidak hanya infrastrukturnya yang ada di cloud dan di on premise, tapi bagaimana Cloudera bisa mengalirkan data secara terus menerus. “Jadi, bukan kaya cuma ya udah sekali saja datanya kita pindahin di cloud terus kita main-main, akibatnya data yang di cloud gitu aja, tidak ada update data baru dari on premis mengalir ke cloud. Hal-hal seperti harus kita pikirkan, tidak hanya menggunakan infrastruktur yang ada di cloud dan on premise, tapi juga bagaimana data movement dan governance-nya bisa secara simeless,” tandasnya.
Agen AI akan memberikan keunggulan kompetitif bagi perusahaan
Evolusi agen AI yang cepat akan membentuk cara perusahaan memanfaatkan data untuk mendapatkan insight yang bisa ditindaklanjuti dan mendorong ROI. Pemimpin harus bergerak melampaui metodologi agile tradisional dan mengintegrasikan kemampuan AI ke dalam proses pengembangan core mereka agar bisa berkembang dalam lingkungan yang bergerak cepat ini. Perusahaan yang berinvestasi pada alur kerja agen dan model yang foundational, akan mendapatkan keunggulan kompetitif, mengubah tugas-tugas yang kompleks menjadi tindakan yang efisien dan memberikan hasil dengan cepat. Untuk memaksimalkan potensi ini, perusahaan harus memprioritaskan pengembangan tim dengan keahlian yang difokuskan pada pembelajaran berkelanjutan dan mahir dalam pemanfaatan AI.
“Kita pasti sudah familiar sama teknologi AI, mungkin sekarang yang pakai WhatsApp terbaru sudah ada tuh Meta AI Chat. Sayangnya, kalau kita lihat kebanyakan dari kita itu masih melihat AI itu, terutama Generative AI itu dalam konteks Chating (Chatbot),” ungkap Fajar.
Di luar sana, kata Fajar, AI itu tidak hanya digunakan dalam bentuk chating atau Chatbot. Sadar ngga kalau kita pakai AI atau Chatbot, AI itu cuma kasih tahu kita tapi dia tidak bisa take action. Dalam arti, AI itu masih kita gunakan creat sebagai input-output.
“Kita kasih input, dia kasih jawaban. Yang menarik di dunia AI sekarang perkembangannya, dan ini yang kami believe di Cloudera, satu atau dua tahun ke depan, AI itu tidak hanya sekadar kita tanya memberi jawaban, tapi sudah masuk sudah masuk dalam konteks yang dikenal dengan istilah namanya Agentic AI. Apa itu Agentic AI, Agentic AI adalah AI yang bukan sekadar ia kasih jawaban berupa teks, tapi dia bisa melakukan action buat kita. Jadi, aplikasinya ini saya sudah mulai melihat banyak bermunculan di luar sana,” jelas Fajar.
Saat agen AI berkembang, tata kelola data yang kuat akan jadi penting untuk mendapatkan insight yang bisa diandalkan. Perusahaan yang memanfaatkan AI untuk inovasi dan efisiensi akan menjadi pemimpin pasar. Dengan mengadopsi alur kerja agen, mereka bisa mengotomatisasi proses yang kompleks, memungkinkan pengambilan keputusan dengan lebih cepat dan respons yang agile terhadap perubahan pasar. Integrasi ini akan mendorong adaptabilitas, memungkinkan tim tetap berada di depan tren. Mereka yang menangkap peluang yang diberikan agen AI akan menentukan masa depan industri mereka.
