Menjajaki penggunaan AI yang aman di Indonesia.

Sejauh mana pekerjaan dapat didelegasikan ke AI?

• Terdapat pandangan bahwa diperlukan perubahan pola pikir (mindset shift) mengenai delegasi pekerjaan ke AI.
• Perencanaan dinilai tidak boleh didelegasikan ke AI. Yang dapat didelegasikan ke AI adalah eksekusinya. Pekerjaan seperti coding dinilai dapat didelegasikan, dengan syarat perencanaan yang detail.
• Disampaikan bahwa untuk pekerjaan yang bersifat teknis, agentic flow saat ini sangat memudahkan (sehingga pengguna cenderung untuk “dimanjakan”).
• Cara kerja pekerja dengan AI juga dinilai sudah berubah. Pada awalnya, chat prompting manual, sekarang multi-agentic system dengan alur yang sangat cepat.
• Pertanyaan terbesar yang mengemuka: ketika AI melakukan kesalahan, siapa yang bertanggung jawab? Jalan tengah yang diusulkan:
  • Keputusan tidak ditangani kasus per kasus.
  • Fondasi ditetapkan di awal, berupa sistem dengan guardrail dan titik eskalasi yang jelas.
  • AI dapat memutuskan dalam batas tersebut dan melakukan eskalasi ke manusia saat menemui kebuntuan.
• Pembagian tugas antara AI dan human-in-the-loop diusulkan ditentukan melalui diskusi tim.
• Terkait EU AI Act:
  • Disampaikan bahwa EU AI Act sudah memiliki panduan terkait hal ini.
  • Muncul juga pandangan bahwa meskipun aturannya sudah ada, EU AI Act tetap belum komprehensif.
• Terkait dampak kognitif:
  • Muncul pandangan bahwa semakin banyak pekerjaan yang di-offload ke AI maka kemampuan manusia untuk memutuskan semakin lemah.
  • Argumen sebaliknya: offloading membuka ruang bagi fungsi kognitif lain, dan membantu manusia agar tidak menjadi bottleneck yang memperlambat kemajuan.
  • Muncul pula pandangan bahwa makin lama, makin besar usaha yang dibutuhkan untuk tidak mendelegasikan ke AI.

Bagaimana menyeimbangkan peran pemerintah, praktisi, akademisi, dan pelaku frontier AI?

• Proses menyeimbangkan peran para pihak ini dinilai sangat lambat. Bahkan sebelum tata kelola AI, tata kelola internet pun dinilai masih memiliki ruang perbaikan yang besar (belum seimbang) sehingga diusulkan untuk mengambil referensi dari regulasi internet.
• Sempat disinggung prinsip WSIS Multistakeholderism: semua stakeholder harus diajak bicara.
• Contoh dari negara lain:
  • Tiongkok: terdapat pembatasan penggunaan AI pada beberapa profesi yang dilindungi, yaitu pekerjaan yang dianggap dan dinilai belum siap menerima AI.
  • Korea Selatan: AI diberikan secara gratis di beberapa sektor sebagai insentif untuk belajar dan meningkatkan literasi AI.
• Fokus regulasi:
  • Level mikro: fokus pada governance dan adoption framework.
  • Level makro: fokus pada irisan dengan undang-undang lain yang sudah ada.
• Dinilai perlu memahami terlebih dahulu siapa pengguna dan apa kebutuhannya, tidak hanya membahas framework.
• Upaya yang dapat diusahakan pemerintah adalah menentukan sektor yang akan terpengaruh oleh AI, lalu melindungi sektor tersebut.

Apa saja concern pemerintah dan lembaga besar dunia?

Dampak AI terhadap tenaga kerja

• Dampak dinilai terjadi tidak hanya di level mikro, tetapi juga makro, termasuk layoff. Contoh di Filipina: diperkirakan akan terjadi layoff besar karena peran customer service digantikan oleh AI.

Dampak makroekonomi

• Banyak layoff → pajak pekerjaan formal berkurang → pendapatan negara berkurang.
• Negara perlu pendekatan baru untuk mendapatkan pemasukan.
• Contoh: pajak atas AI asing. Meskipun data tidak disimpan di negara tersebut, penggunaan dapat dideteksi melalui IP address yang mengakses dari negara tersebut.
• Tantangan tiap negara berbeda:
  • Jepang: tidak terjadi layoff. Tantangannya adalah budaya senioritas, yaitu bagaimana para senior bersedia menjalani reverse mentorship (senior diajari junior).
  • Thailand: dampak pada pendidikan mendorong pendekatan human-first, seperti evaluasi mahasiswa melalui wawancara tatap muka. Tantangannya, jumlah tenaga kependidikan terbatas dibanding jumlah mahasiswa.

Dampak di level organisasi dan individu

• Disampaikan contoh perusahaan yang membatasi AI karena regulasi:
  • Salah satu negara anggota Uni Eropa beberapa perusahaan melarang penggunaan AI sama sekali di beberapa pekerjaan karena takut melanggar AI Act.
  • Ada pula perusahaan yang tidak mengizinkan kode hasil AI karena regulasi.
  • Muncul pandangan bahwa Indonesia mungkin dapat mempertimbangkan hal serupa untuk melindungi pekerja.
• Perluasan scope kerja akibat AI dinilai memperlebar kesenjangan jenjang karier antara junior dan senior.

Perhatian dari kalangan swasta

• Permintaan untuk level junior turun, sedangkan permintaan untuk level senior naik. Posisi senior yang dibutuhkan tidak terisi, karena pekerja junior sulit menyamai kompetensi pekerja senior dengan cepat. Akibatnya, pekerja senior harus overwork untuk memenuhi ekspektasi produktivitas.
• Produktivitas meningkat, tetapi dinilai mengorbankan wellbeing karena meninjau hasil kerja AI dinilai menjadi pekerjaan yang melelahkan.
• Perusahaan dinilai terus menuntut produktivitas lebih tinggi karena sudah ada AI.
• Muncul pandangan perlunya regulasi untuk isu ini. Regulasi harus mempertimbangkan upskilling junior, sehingga lowongan kerja tidak hanya meminta level senior.

Mungkinkah tetap menjadi manusia yang kreatif dalam kondisi saat ini?

• Diusulkan untuk membangun di bidang di mana kita merupakan subject matter expert, dengan mengkombinasikan pengetahuan domain expert di atas platform AI.
• Nilai, taste, dan persona tertentu dinilai tidak dapat digantikan oleh AI.
• Disorot peran critical thinking, problem solving, komunikasi, dan keterampilan lain yang tidak dapat digantikan AI.
• Contoh use case: market research dengan AI sebagai responden. Namun, agar “responden” tersebut valid, data dari manusia harus ada terlebih dahulu.
• Australia: tidak hanya menjadikan siswa pengguna AI, tetapi memasukkan ke kurikulum bagaimana menjadi problem solver.

Mungkinkah Indonesia menstandarkan perlindungan data, seperti masking data sebelum keluar?

• Muncul pandangan bahwa salah satu cara Indonesia dapat bersaing dalam perlombaan AI adalah memiliki kedaulatan (sovereignty) atas data yang dimiliki.
• Muncul juga pandangan bahwa data bukan lagi komoditas, perusahaan besar sudah memiliki data kita, dan posisi data tidak lagi sepenting sebelumnya.
• Data lama dinilai sudah terlanjur terambil, tetapi data baru perlu dilindungi.
• Diusulkan pengembangan fine-tuning untuk kasus spesifik lokal.
• Diusulkan implementasi Edge AI secara lokal. Dengan keterbatasan internet di Indonesia, Edge AI dinilai menarik untuk dieksplorasi.
• Inisiatif level global, Digital Public Infrastructure, dapat didorong ke pemerintah agar ada aset bersama (common asset), misalnya clean dataset.

Apa yang perlu dipertahankan sebagai batas kemanusiaan terhadap AI?

• Etika dinilai sebagai hal yang membuat manusia tetap menjadi subjek dalam AI. Penggunaan AI yang etis dan bertanggung jawab memposisikan AI sebagai inovasi, bukan dihadapi dengan resistensi.
• Perlindungan pekerjaan, misalnya melalui regulasi AI terkait tenaga kerja (AI workforce regulations).
• Perlindungan pendidikan, misalnya pelarangan AI untuk pelajar tingkat pendidikan dasar seperti disebut terjadi di NYC, untuk menjaga critical thinking.