Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria di acara Tech & Telco Summit 2025, di Jakarta, Jumat, 21/02/2025, memaparkan tujuh tantangan terkait etika dalam teknologi kecerdasan buatan (AI yang perlu diantisipasi masyarakat.
Pertama, bias dan diskriminasi. Karena AI menggunakan data, dan pengolahan data ini dilakukan atau disiapkan oleh sebuah foundation model, yang berisi algoritma tertentu dan penyusunan algoritma ini juga tidak luput dari bias para developer-nya. Bias ini disebabkan oleh manusia, di mana dalam konteks ini merupakan developer (pengembang) dari AI tersebut. Manusia memiliki kepercayaan tertentu dalam hal tertentu juga. Kemudian, data-data dari AI pun diambil dari sumber-sumber yang sudah ada bias-bias tertentu. Bias ini pun beragam, meliputi ras, suku, agama sehingga hasil data AI juga cukup mendorong pada kelompok masyarakat tertentu.
Kedua, transparansi dan akuntabilitas. Banyak dari sistem AI beroperasi seperti black box (kotak hitam), di mana proses internalnya sulit dipahami. Sehingga sulit ditebak dengan model yang ada dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini. Hal itu berdampak pada sulitnya menilai serta mengetahui, siapa yang bertanggung jawab atas keputusan yang dibuat oleh teknologi AI.
Ketiga, perihal privasi, keamanan dan pengawasan. AI membutuhkan data dalam jumlah yang besar, untuk menghasilkan keputusan yang efektif. Namun hal ini membuat data yang dibutuhkan meliputi data-data sensitif seperti data pribadi. Hal ini menimbulkan kecemasan dan juga kekhawatiran terkait pengumpulan, penyimpanan, dan penggunaan data yang dapat melanggar privasi individu.
Keempat, dampak penggantian tenaga kerja dengan teknologi AI. Kemajuan teknologi AI memang membuka peluang pekerjaan yang baru untuk manusia. Namun, terdapat juga risiko-risiko yang ditimbulkan akibat kemajuan teknologi AI. Salah satunya yakni kehilangan pekerjaan pada sejumlah sektor industri tertentu, yang diakibatkan penggantian tenaga kerja dengan teknologi AI.
Sehingga dalam membuat policy dan membuat kebijakan di masa transisi atau di masa transformasi digital ini, dibutuhkan data-data yang cukup valid. Lalu strategi yang tepat juga agar kita bisa memastikan pekerjaan yang terdampak, dapat beradaptasi dengan perubahan.
Kelima, antisipasi dalam kreativitas dan kepemilikan karya seni oleh AI. Kreativitas dan kepemilikan karya seni dari AI tidak jelas status kepemilikannya. Hal ini pun membuat banyak pihak menjadi komplain, serta fokus membahas mengenai hak cipta sebuah karya seni.
Keenam, algoritma AI yang dimanfaatkan untuk manipulasi sosial. Isu algoritma AI menjadi isu yang diperhatikan karena rekayasa sosial lewat media sosial, bisa dilakukan dengan teknologi AI.
Ketujuh, pengembangan senjata otonom berbasis teknologi AI, yang level autonomus-nya bisa tanpa kendali manusia. Senjata itu bisa beroperasi sendiri dengan sejumlah data-data yang ada di dalamnya. Dan dia bisa melakukan reasoning sendiri lalu mengambil keputusan sendiri. Teknologi ini mirip dengan teknologi AI agentik yang sedang berkembang. Bahkan akan menjadi tren setelah generatif AI.
