Terapkan 6 Langkah Praktis Etika AI, agar Bisnis UMKM Makin Cuan dan Dipercaya

Wawasan Bisnis Tips Bisnis

Terapkan 6 Langkah Praktis Etika AI, agar Bisnis UMKM Makin Cuan dan Dipercaya

Dhaniel Ilyas • Penulis

Penulis

Admin • Editor

28 Juli 2026 • Waktu Baca 7 menit

28 Jul 2026

Waktu Baca 7 menit

Halo, Sahabat Wirausaha!

Belakangan ini, dimana-mana, obrolan seputar Artificial Intelligence (AI) alias 'kecerdasan buatan' seolah tidak ada habis-habisnya. Mulai dari membuat caption media sosial yang catchy memakai ChatGPT, Gemini atau Claude, mendesain logo dengan Canva AI, sampai bikin balasan chat otomatis untuk para pengguna di WhatsApp. Buat kalian yang menjalankan usaha mikro, kecil, dan menengah (UMKM), AI ini mungkin terasa seperti sebuah asisten berkekuatan 'super'. Sesuatu yang dulunya butuh waktu berjam-jam, sekarang bisa beres hanya dalam waktu hitungan detik saja.

Namun, di balik euforia kemudahan tersebut, ada satu hal penting yang sering luput dari perhatian kita, yaitu Etika AI. Mendengar kata "etika", mungkin sebagian dari kita akan langsung mengernyitkan dahi. "Duh, bisnis lagi susah begini kok malah disuruh mikirin teori etika segala? Yang penting kan operasional jalan dan jualan laku!"

Pemikiran seperti itu sangatlah wajar. Sahabat Wirausaha para pelaku UMKM banyak yang berasumsi bahwa tata kelola AI dan aturan etika itu cuma urusan perusahaan teknologi besar (Big Tech) yang pastinya punya tim pengacara sendiri. Mengadopsi AI tanpa pemahaman etika yang benar ibarat menyerahkan kunci mobil sport berkecepatan tinggi kepada seseorang yang tidak paham rambu lalu lintas. Cepat, memang. Tapi potensi menabrak dan kecelakaannya juga sangat besar.

Bagi UMKM, kegagalan menerapkan etika dalam penggunaan AI bisa berujung pada satu hal yang sangat fatal, yaitu hilangnya kepercayaan pelanggan. Kepercayaan adalah urat nadi bisnis kecil. Sekali pelanggan merasa dicurangi, dibeda-bedakan, atau data pribadinya tidak dijaga, mereka tidak akan ragu untuk pindah ke pesaing lainnya.

Selain itu, etika AI di Indonesia sebenarnya sudah diatur oleh pemerintah. Salah satu payung hukumnya adalah UU No. 27/2022 tentang Pelindungan Data Pribadi yang mewajibkan setiap pelaku usaha, termasuk UMKM, untuk meminta persetujuan dan menjaga kerahasiaan data pribadi pelanggan atau user. Kementerian Komunikasi dan Informatika (sekarang menjadi Kementerian Komunikasi dan Digital, Komdigi) juga sudah menerbitkan Surat Edaran Menkominfo No. 9/2023 tentang Etika Kecerdasan Artifisial, yang menghimbau para pelaku usaha berbasis AI dan penyelenggara sistem elektronik publik maupun privat, untuk menjunjung nilai-nilai inklusivitas, keadilan, dan akuntabilitas sebagai acuannya. Saat ini pemerintah masih sedang dalam proses dalam menyiapkan undang-undang dan regulasi yang khusus mengatur AI.

Jadi, bagaimana sebenarnya panduan penerapan etika AI di sektor UMKM? Mari kita bedah satu per satu.

**Pahami Ruang Lingkup Kendali pada ‘algoritma platform’ dan ‘algoritma milik kita sendiri’, untuk hindari jebakan ‘black box’ dan ‘ketidakadilan algoritma’**

Pernahkah kalian membuka aplikasi ojek online (seperti Gojek atau Grab) atau e-commerce (seperti Shopee dan Tokopedia) bersama seorang teman di lokasi yang sama, tapi harga yang tertera di layar HP kalian jauh lebih mahal daripada teman kalian? Itulah harga dinamis (dynamic pricing) yang dihasilkan oleh algoritma platform tersebut.

Penting digarisbawahi disini bahwa contoh di atas adalah kasus UMKM sebagai pihak yang terdampak algoritma milik platform besar, bukan kasus UMKM yang mengelola AI-nya sendiri. UMKM memang biasanya tidak punya kendali penuh atas algoritma pricing perusahaan besar seperti Meta, Tiktok, Shopee dan Tokopedia. Ini kita sebut dengan istilah “algoritma platform”.

Sementara beberapa fitur yang didasarkan atas sistem AI atau algoritma tertentu yang kita pakai sendiri, misalnya fitur-fitur custom pada alat iklan otomatis, chatbot, atau sistem rekomendasi produk di akun toko online milik masing-masing UMKM, adalah bagian dari “algoritma milik kita sendiri”. Sama halnya dengan berbagai jenis aset lain, dibalik setiap kepemilikan, ada tanggung jawab. Oleh karena itu, pada ruang lingkup kendali tersebutlah, tanggung jawab etika AI UMKM sebenarnya dimulai.

Ketika UMKM mulai memanfaatkan alat-alat AI untuk menentukan harga promo, mendistribusikan voucher diskon, atau memberikan rekomendasi produk kepada pelanggan, kita berhadapan dengan risiko 'black box', dimana AI mengambil keputusan tanpa kita (bahkan si pembuat algoritma), sehingga kita tidak tahu bagaimana proses pengambilan keputusan itu terjadi. Kondisi ini menjadi risiko, karena keputusan AI tidak akan selalu tepat. Ada kalanya mungkin keputusannya akan membingungkan konsumen.

Hal berikutnya yang juga bisa menimbulkan masalah pada UMKM adalah terkait dengan "keadilan algoritma" (algorithmic fairness). Misalkan Sahabat Wirausaha sudah menyisihkan sedikit anggaran bulanan untuk beriklan otomatis berbasis AI. Sistem ini dirancang untuk mencari klik yang paling murah dan konversi yang paling cepat, tetapi dengan secara diam-diam tools AI itu dapat memblokir iklan kita dari kelompok masyarakat yang terpinggirkan hanya karena data historis menganggap mereka sebagai kelompok yang "kurang potensial" atau “jarang belanja produk kita”.

Secara tidak sadar, pembiaran terkait hal ini dapat membuat bisnis kalian telah melakukan sebuah diskriminasi. Sebuah penelitian komprehensif oleh Tsamados et al. (2022) menyoroti bahwa data yang digunakan untuk melatih algoritma sering kali merefleksikan bias yang ada di masyarakat, sehingga sistem AI berisiko memproduksi ulang ketidaksetaraan struktural yang merugikan kelompok etnis atau demografi tertentu.

Seperti yang ditulis pada kajian Mikalef et al. (2022) terkait "sisi gelap" AI, salah satu tantangan terbesar adalah ketika keputusan mesin menjadi semakin 'buram' dan sepenuhnya diotomatisasi, yang bisa merusak transparansi dan akuntabilitas bisnis di mata para pengguna. Solusi idealnya adalah Explainable AI (XAI), yaitu sistem yang terbuka dan memfasilitasi pelacakan keputusan yang dilakukan. Sayangnya, penerapan XAI secara penuh bisa menimbulkan biaya yang cukup besar bagi UMKM.

Untungnya, ada 3 langkah praktis, mudah, dan murah, yang cukup efektif memitigasi risiko tersebut:

Cek manual berkala (spot-check). Sisihkan 10-15 menit setiap minggu untuk membuka laporan iklan atau rekomendasi produk, lalu ceklah, apakah ada kelompok pelanggan tertentu yang konsisten tidak pernah muncul atau selalu mendapat harga lebih mahal?
Buat pernyataan transparansi secara dua arah. Selain menulis "Penentuan harga dan promo pada platform kami dihitung secara otomatis oleh sistem/algoritma X dengan didasarkan karakteristik pelanggan/user", tambahkan kanal komplain yang jelas, misalnya dengan menuliskan "Jika menurut kamu harga atau rekomendasi ini tidak adil, hubungi kami di [nomor/email] untuk ditinjau ulang oleh tim kami." Kalimat tambahan ini akan mengubah transparansi dari sekadar pemberitahuan menjadi hak nyata bagi pelanggan untuk komplain.
Tetap pakai manusia sebagai pemeriksa akhir (human-in-the-loop). Sebelum sebuah keputusan otomatis (misalnya penolakan target iklan atau harga promo khusus) benar-benar dijalankan ke pelanggan dalam jumlah besar, biasakan ada satu orang di tim yang meninjau sampel hasilnya secara manual. Ini adalah bentuk XAI 'versi UMKM' yang tidak memerlukan biaya perangkat lunak tambahan.

Selalu Jaga Kerahasiaan Data Pelanggan

Ini mungkin poin yang paling sering dianggap sepele oleh para pelaku usaha mikro. Mentang-mentang ada aplikasi web gratis yang mengklaim bisa menganalisis "sentimen pelanggan", kita dengan polosnya mengunggah file Excel berisi data pelanggan, lengkap dengan nomor WhatsApp dan alamat rumah, ke aplikasi tak dikenal tersebut. Tujuannya sih baik, ingin tahu menu apa yang paling laku. Tapi bagaimana jika server aplikasi gratisan itu bocor? Seminggu kemudian, pelanggan setia kalian tiba-tiba mendapat teror spam chat pinjaman online.

Stahl et al. (2022) dalam tinjauan sistematisnya terkait penilaian dampak AI (AI Impact Assessments) menemukan bahwa isu perlindungan data dan privasi selalu menjadi poin paling krusial yang wajib dievaluasi oleh organisasi yang mengadopsi AI. Di Indonesia, kewajiban ini bukan cuma sekedar anjuran. Sesuai UU No. 27/2022 tentang Pelindungan Data Pribadi, data pelanggan wajib diperlakukan sebagai 'titipan' yang dilindungi secara hukum, dan pelanggaran atas hal ini bisa berujung pada sanksi administratif, bukan sekadar risiko reputasi.

Terkait ini, juga ada nih 3 langkah praktis yang bisa langsung dipraktekkan tanpa perlu berlangganan jasa aplikasi tertentu, alias, modal kemauan kita saja untuk menggunakan AI dengan lebih etis.

Hapus atau samarkan data pribadi yang sensitif sebelum diunggah. Sebelum memasukkan data pelanggan ke aplikasi AI apa pun (termasuk yang gratis), hapus dulu kolom nomor telepon, alamat rumah, atau data pribadi lain yang sebenarnya tidak diperlukan untuk analisis tersebut. Kalau hanya ingin tahu menu yang paling laku, cukup unggah kolom nama menu dan jumlah pembelian saja.
Pilih tools dari vendor yang punya reputasi dan kebijakan data yang jelas. Layanan resmi dari penyedia besar (baik versi gratis maupun berbayar) umumnya punya kebijakan retensi data yang lebih transparan dibanding aplikasi pihak ketiga kecil yang tidak dikenal namanya.
Baca kebijakan privasi vendor sebelum memakainya, khususnya soal penggunaan data untuk pelatihan model. Cukup luangkan 5 menit membaca bagian "penggunaan data" di syarat dan ketentuan. Kalau tidak ada kejelasan apakah data yang diunggah dipakai untuk melatih ulang model AI mereka, anggap saja jawabannya "iya", dan jangan unggah data pelanggan yang sensitif ke sana.

Menuju UMKM 'naik kelas', dengan Etika AI yang mengatasi Hambatan-Sosial

Setiap UMKM pasti punya mimpi untuk naik kelas, mungkin melalui suntikan modal dari bank atau investor potensial. Pertanyaannya, apa yang menghalangi bisnis mengadopsi sistem digital mutakhir untuk berekspansi?

Berdasarkan studi Cubric (2020) mengenai adopsi AI di sektor bisnis dan manajemen, rintangan terbesar bagi perusahaan tidak hanya terletak pada masalah biaya atau infrastruktur teknis, tapi lebih kepada "hambatan-hambatan secara sosial", seperti kurangnya rasa percaya, ketakutan akan hilangnya pekerjaan, isu keamanan, dan dilema etika ketergantungan pada sebuah sistem yang tidak didasarkan oleh keputusan manusia.

UMKM yang dengan sadar menetapkan tata kelola AI sejak awal, misalnya dengan mengikuti nilai-nilai dalam Surat Edaran Menkominfo No. 9/2023 (inklusivitas, keadilan, dan akuntabilitas), telah melangkah ke depan untuk mengurangi dan menghilangkan hambatan-hambatan sosial tersebut. UMKM kalian akan terlihat jauh lebih profesional, rapi, dan bisa dipertanggungjawabkan. Bisnis dengan tata kelola digital yang beretika ini, pada akhirnya dapat dinilai memiliki skor kelayakan investasi yang lebih unggul.

Rekap: 6 Langkah Praktis Terapkan Etika AI, bisa dimulai minggu ini

Berikut ringkasan langkah-langkah efisien dan efektif yang bisa langsung dikerjakan oleh UMKM:

Tulis SOP AI satu halaman. Cukup buat sebuah dokumen sederhana dengan menyatakan data apa yang boleh/tidak boleh dimasukkan ke AI, tools apa saja yang dipakai tim, dan siapa yang wajib meninjau hasil AI sebelum dipublikasikan ke pelanggan.
Buat file basis data baru khusus untuk dianalisis AI, yang mana data pribadi dan sensitif konsumennya sudah dihapus.
Baca seksama kebijakan privasi vendor AI, sebelum memakainya untuk melatih model AI kamu.
Lakukan spot-check manual mingguan, khususnya terhadap hasil keputusan otomatis (harga, target iklan, rekomendasi produk).
Tambahkan kanal komplain yang jelas, di setiap pernyataan transparansi AI, agar konsumen tahu harus menghubungi siapa jika ingin menyampaikan komplainnya. Dengan begitu, pernyataan transparansi tersebut bukan sekadar pemberitahuan satu arah.

Kesimpulan, "Etika adalah setir, AI adalah mesin"

Banyak yang berpikir bahwa berfokus pada etika AI hanya akan membuat bisnis berjalan lebih lambat dan mahal. Memang, di awal mungkin terasa sedikit lebih merepotkan. Namun, seperti yang sudah dibahas sebelumnya, sebagian besar langkah etika AI yang benar-benar penting bagi UMKM bisa dilakukan dengan kebutuhan biaya yang tidak begitu besar, hanya kebiasaan dan kedisiplinan baru.

Etika adalah setir kendaraan, sementara AI adalah mesinnya. Kalian bisa jadi membutuhkan mesin (AI) untuk membuat UMKM kalian melaju kencang meninggalkan pesaing. Tetapi, kalian mutlak butuh setir (etika) yang solid, agar mobil (bisnis) bisa berjalan dengan baik, tetap berada di jalur yang benar dan tidak mengecewakan para pelanggan.

Mulai sekarang, jadikanlah transparansi dan kejujuran ber-AI sebagai keunggulan kompetitif baru dari bisnis UMKM kalian!

Penulis adalah Dosen Fakultas Ekonomi dan Bisnis – Universitas Indonesia

Ilmu dan informasi yang bermanfaat layak untuk terus bergerak. Yuk, bantu kami sebarkan kepada sesama pelaku usaha yang mungkin sedang membutuhkannya.

Kamu juga bisa berkontribusi lebih jauh dengan mendukung keberlanjutan konten edukatif ini melalui fitur Dukung Kami di bawah artikel ini.

Bagi Sahabat Wirausaha yang ingin tumbuh dalam komunitas yang saling menguatkan, bergabunglah di ukmindonesia.id/registrasi. Tempat para pelaku UMKM belajar bersama dan naik kelas.

Daftar Pustaka

Cubric, M. (2020). Drivers, barriers and social considerations for AI adoption in business and management: A tertiary study. International Journal of Information Management, 53, 102127.

Kementerian Komunikasi dan Informatika Republik Indonesia. (2023). Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.

Mikalef, P., Conboy, K., Lundström, J. E., & Popovič, A. (2022). Thinking responsibly about responsible AI and 'the dark side' of AI. European Journal of Information Systems, 31(3), 257-268.

Republik Indonesia. (2022). Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.

Stahl, B. C., Antoniou, J., Bhalla, N., Brooks, L., et al. (2022). A systematic review of artificial intelligence impact assessments. Artificial Intelligence Review, 55(8), 6147-6169.

Tsamados, A., Aggarwal, N., Cowls, J., Morley, J., Roberts, H., Taddeo, M., & Floridi, L. (2022). The ethics of algorithms: key problems and solutions. AI & Society, 37(1), 215-230.