Penerbitan Ke-9

PERSPEKTIF DAN PANDANGAN GLOBAL

Kecerdasan Buatan (Artificial Intelligence/AI) -
Pertimbangan untuk Profesi Audit Internal
Edisi Khusus
2 globaliia.org
Tentang IIA
Institute of Internal Auditor (IIA)
adalah advokat, pendidik, dan
penyedia standar, panduan, dan
sertifikasi profesi audit internal yang
paling banyak dikenal. Didirikan pada
tahun 1941, IIA saat ini melayani lebih
dari 190.000 anggota dari lebih dari
170 negara dan teritori. Kantor pusat
global IIA berada di Lake Mary,
Florida, AS. Untuk informasi lebih
lanjut, kunjungi www.globaliia.org.
Daftar Isi
Pendahuluan...........................................................................................2
Konteks Artificial Intelligence (AI)...........................................................2
AI – Hal Hal Mendasar............................................................................3
Big Data dan Algoritma....................................................................3
Jenis Jenis AI.....................................................................................4
Peluang dan Risiko AI..............................................................................4
Peluang.............................................................................................5
Risiko................................................................................................5

Feedback Pembaca Peran Audit Internal...............................................................................5

Kirimkan pertanyaan dan komentar ke
globalperspectives@theiia.org.
Penerbitan Sebelumnya
Penerbitan isu isu dan pembahasan
berbagai topik dalam Perspektif dan
Pandangan Global sebelumnya dapat
ditemukan di www.theiia.org/gpi.
Kompetensi AI: Menutup Celah Pemahaman..................................6
Memperkuat Ketahanan Cyber........................................................7
Kerangka Audit AI...................................................................................7
Strategi.............................................................................................7
Komponen........................................................................................8
Kesimpulan.............................................................................................9

Disclaimer
Pendapat yang diungkapkan dalam
Perspektif dan Pandangan Global
tidak mewakili pendapat pribadi
kontributor atau organisasi dimana
kontributor bekerja.

Hak Cipta
Hak Cipta © 2017 oleh The Institute
of Internal Auditors, Inc.

Diterjemahkan dan diselaraskan oleh IIA Indonesia Volunteers:

1. I Made Suandi Putra MSc, CIA, CRMP

2. Yullyan, SE, MAk, Ak., CPA, CIA, CA

globaliia.org
1
Kecerdasan Buatan (Artificial Intelligence/AI)
Pertimbangan Untuk Profesi Audit Internal
Pendahuluan
Kecerdasan Buatan (AI) adalah istilah umum yang
mengacu pada teknologi yang mampu membuat mesin
menjadi "cerdas." Organisasi berinvestasi dalam
penelitian dan aplikasi AI untuk mengotomatisasi,
meningkatkan, atau mereplikasi kecerdasan manusia -
analisis dan pengambilan keputusan manusia - dan
profesi audit internal harus siap untuk berpartisipasi
penuh dalam inisiatif organisasi dalam menerapkan AI.
Ada banyak istilah lain yang terkait dengan AI, seperti,
deep learning (pembelajaran mendalam), machine
learning (mesin yang mampu belajar), pengenalan
gambar, pemrosesan bahasa alami, cognitive computing
(komputasi yang mampu mengenali sesuatu), amplifikasi
kecerdasan, peningkatan kognitif, peningkatan
kecerdasan mesin, dan peningkatan kecerdasan. AI, yang
digunakan dalam pembahasan ini, mencakup semua
konsep dan istilah diatas.
Konteks Artificial Intelligence (AI)
AI bukan hal yag baru. Menurut makalah diskusi
McKinsey Global Institute's (MGI) "Artificial Intelligence:
The Next Digital Frontier," gagasan AI sudah ada sejak
tahun 1950 ketika Alan Turing pertama kali
mengemukakan bahwa sebuah mesin dapat
berkomunikasi dengan cukup baik untuk meyakinkan
seorang manusia yang bertindak sebagai evaluator
bahwa mesin tersebut juga adalah manusia.
AI mewakili serangkaian kemajuan signifikan dalam
teknologi, namun ini bukanlah kemajuan yang pertama,
dan sepertinya tidak akan menjadi yang terakhir.
Melihat kembali pada beberapa dekade terakhir,
kemunculan komputer, PC, spreadsheet, database
relasional, konektivitas yang canggih, dan kemajuan
teknologi serupa, semuanya mempengaruhi bagaimana
organisasi beroperasi dan mencapai tujuan mereka. AI
siap melakukan hal yang sama dengan potensi untuk
menjadi atau lebih disruptive (menyebabkan
2 globaliia.org
perubahan) daripada banyak kemajuan teknologi
sebelumnya.
AI dapat dipandang sebagai kemajuan signifikan terbaru
dalam rangkaian kemajuan yang telah terjadi dalam
perkembangan teknologi. Apa yang menjadi
perkembangan terbaru adalah kemajuan dan skalabilitas
teknologi yang membuat penerapan AI dapat
dipergunakan secara praktis (practical).
Penerapan ini ditunjukkan secara terbuka kepada
khalayak luas pada tahun 2011 saat platform AI milik
IBM, yaitu IBM Watson, mampu menjadi pemenang
dalam sebuah acara kuis Jeopardy!. Menurut IBM
Research, IBM "dipandu oleh istilah 'augmented
intelligence' daripada 'artificial intelligence', dan
berfokus pada pengembangan aplikasi AI yang praktis
dan dapat membantu orang-orang dalam sebuah tugas
yang terdefinisi dengan baik." Keahlian manusia dapat
mengembangkan teknologi untuk membuat mesin
cerdas, dan mesin yang cerdas, selanjutnya, lebih
meningkatkan kemampuan manusia.
Penerapan AI sudah terjadi di berbagai sektor (publik,
swasta, pemerintah, dan nirlaba) dan industri. Dibawah
ini merupakan contoh dimana AI memungkinkan
sejumlah kemampuan baru yang masih mustahil
beberapa tahun yang lalu:
 Pabrikan otomotif mengembangkan kendaraan yang
mampu menyetir sendiri (self-driving).
 Mesin pencari online yang mampu
merekomendasikan hasil pencarian yang diinginkan.
 Media sosial mampu mengenali wajah dalam foto
dan menyaring berita berita.
 Perusahaan media mampu merekomendasikan buku
buku dan pertunjukan kepada para pelanggannya.
 Toko retail yang mampu membuat pengalaman
online yang dipersonalisasi bagi para pelanggan
 Global Perspectives: Artificial Intelligence
 Perusahaan logistik yang mampu menemukan jalur
pengiriman paling optimal
 Pemerintah mampu memperkirakan sebuah epidemi
penyakit.
 Profesional pemasaran memberikan konten yang
dipersonalisasi secara personal kepada pelanggan
secara real time.
 Asisten virtual menggunakan bahasa alami untuk
berinteraksi dengan konsumen.
Tapi bukan hanya aktivitas baru saja yang dipengaruhi AI.
Aktivitas rutin yang telah dipraktekkan selama beberapa
dekade turut terpengaruh dan dapat ditingkatkan
kualitasnya oleh AI seperti pe-modelan rugi, analisa
kredit, penilaian, pemrosesan transaksi, dan sejumlah hal
lainnya.
Sangat penting bagi auditor internal untuk
memperhatikan penerapan praktis AI dalam bisnis, dan
mengembangkan kompetensi yang memungkinkan
profesi audit internal untuk memberikan layanan
konsultasi dan assurance atas AI yang diterapkan
organisasi di semua sektor dan di semua industri.
AI bergantung pada Big Data dan Algoritma, hal ini
mungkin dapat mengintimidasi, terutama untuk kegiatan
audit internal dan organisasi yang belum menguasai Big
Data. Namun auditor internal tidak harus menjadi
seorang Data Scientist atau analis kuantitatif untuk
memahami apa yang AI dapat lakukan untuk organisasi,
pemerintah, dan masyarakat pada umumnya.
Tulisan ini:
 Menyajikan overview dasar-dasar AI.
 Mengeksplorasi peran audit internal dalam
penerapan AI.
 Membahasa risiko dan peluang penerapan AI.
 Menyajikan kerangka kerja bagi auditor internal (the
Framework).
Tulisan ini adalah Bagian I dari tiga seri. Bagian II dan III
akan memberikan informasi lebih rinci tentang Kerangka
Kerja dan penerapan praktisnya.
FOKUS AUDIT
Standard IIA 1210: Proficiency (Kutipan)
Auditor internal harus memiliki pengetahuan,
keterampilan, dan kompetensi lain yang
diperlukan untuk melaksanakan tanggung jawab
individualnya. Kegiatan Audit Internal secara
kolektif harus memiliki atau memperoleh
pengetahuan, keterampilan, dan kompetensi lain
yang diperlukan untuk melaksanakan tanggung
jawabnya.
1210.A3 – Auditor internal harus memiliki
pengetahuan yang cukup mengenai risiko dan
pengendalian teknologi informasi utama dan
teknik audit berbasis teknologi untuk melakukan
pekerjaan mereka. Namun, tidak semua auditor
internal diharapkan memiliki keahlian
sebagaimana yang dimiliki auditor yang tanggung
jawab utamanya adalah audit teknologi informasi.
AI – Hal Hal Mendasar
Big Data dan Algoritma
AI dijalankan melalui algoritma tertentu, dan algoritma
tersebut menggunakan Big Data, jadi sebelum sebuah
organisasi memulai penggunaan AI, organisasi harus
memiliki dasar yang kuat dalam Big Data. Dan sebelum
audit internal berpikir untuk menangani AI, seharusnya
mereka sudah memiliki pondasi yang kuat dalam Big
Data. Untuk panduan komprehensif dalam memahami
dan mengaudit Big Data, termasuk diskusi tentang
peluang, risiko, dan contoh program kerja, dapat melihat
GTAG IIA tentang “Memahami dan Mengaudit Big Data”,
yang tersedia gratis untuk anggota IIA, dan juga tersedia
untuk non-anggota melalui Toko Buku IIA
(www.theiia.org).
Big Data memiliki arti lebih dari sekedar data dalam
jumlah besar – Big Data mengacu pada data (informasi)
yang memiliki volume, variasi, kecepatan, dan variabilitas
tinggi yang diinvestasikan oleh organisasi dalam
arsitektur sistem, peralatan, dan praktik yang dirancang
khusus untuk menangani data. Sebagian besar data ini
dihasilkan oleh organisasi itu sendiri, sementara data lain
globaliia.org
3
mungkin tersedia untuk umum atau dibeli dari sumber
eksternal.
Untuk menggunakan Big Data dengan baik, organisasi
harus mengembangkan algoritma. Algoritma adalah
seperangkat aturan atau prosedur yang harus diikuti oleh
mesin. Algoritma inilah yang memungkinkan sebuah
mesin untuk memproses sejumlah data dengan cepat,
yang mungkin tidak mampu diproses atau dipahami
manusia dalam waktu dan dengan cara yang masuk akal.
Kinerja dan keakuratan algoritma sangat penting.
Algoritma pada awalnya dikembangkan oleh manusia,
sehingga human error dan bias (baik disengaja maupun
tidak disengaja) akan berdampak pada kinerja algoritma.
Algoritma yang salah dapat menyebabkan gangguan
minor atau menyebabkan sebuah bencana besar dalam
operasi organisasi. Secara umum diketahui bahwa
algoritma cacat, setidaknya sebagian, memicu krisis
keuangan global tahun 2008.
Jenis Jenis AI
Dalam Perbincangan "Memahami Empat Jenis AI, dari
Robot Yang Reaktif sampai menjadi Sesuatu Yang
Memiliki Kesadaran Sendiri," Arend Hintze, asisten
profesor Biologi Integratif & Ilmu Komputer dan Teknik di
Michigan State University, menguraikan empat jenis AI:
Type I. Reactive machines: Jenis ini merupakan AI
yang paling sederhana. Reactive machines
menanggapi situasi yang sama dengan cara
yang persis sama, setiap saat. Contoh dari ini
adalah mesin yang bisa mengalahkan pemain
catur kelas dunia karena telah diprogram
untuk mengenali semua bagian catur,
mengetahui bagaimana bagian catur tersebut
bergerak, dan bisa memprediksi pergerakan
berikutnya dari setiap pemain.
Type II. Limited memory: Mesin AI Limited memory
dapat melihat ke masa lalu, namun tidak
melakukan penyimpanan memory. Mesin
Limited memory tidak bisa membangun
memory atau "belajar" dari pengalaman masa
lalu. Contohnya adalah kendaraan yang
bergerak sendiri (self-driving vehicle) yang bisa
memutuskan untuk mengganti jalur karena
beberapa saat yang lalu ia mencatat adanya
hambatan di jalurnya.
4 globaliia.org
Type III. Theory of mind: Theory of mind mengacu pada
gagasan bahwa sebuah mesin dapat
mengenali bahwa orang lain yang berinteraksi
dengannya memiliki pikiran, perasaan, dan
harapan. Mesin yang disematkan pada Tipe III
AI dapat memahami pikiran, perasaan, dan
harapan orang lain, dan dapat menyesuaikan
tingkah lakunya sendiri.
Type IV. Self-awareness: Sebuah mesin dengan AI Tipe
IV memilki kesadaran diri. Hal ini merupakan
pengembangan dari Theory of Mind, dimana
mesin memiliki kesadaran akan dirinya sendiri,
tahu tentang keadaan internalnya, dan dapat
memprediksi perasaan orang lain.
Dengan kata lain, kendaraan self-driving dengan AI Tipe II
akan memutuskan untuk mengubah jalur saat pejalan
kaki berada di jalurnya, karena mesin mengenali pejalan
kaki sebagai penghalang. Kendaraan self-driving dengan
AI tipe III akan mengerti bahwa pejalan kaki akan
mengharapkan dia berhenti, dan kendaraan self-driving
dengan AI tipe IV akan tahu bahwa dia harus berhenti
karena itulah yang dia inginkan seandainya dia berada
pada jalur kendaraan lain yang sedang melaju dari arah
berlawanan. Wow.
Sebagian besar "Mesin Cerdas" saat ini adalah
manifestasi AI Tipe I atau Tipe II. Inisiatif penelitian dan
pengembangan yang berkelanjutan akan memungkinkan
organisasi untuk maju menuju aplikasi praktis dari AI Tipe
III dan Tipe IV.
Peluang dan Risiko AI
Langkah awal untuk memahami peluang dan risiko bagi
organisasi dalam penerapan AI adalah memahami secara
menyeluruh peluang dan risiko Big Data bagi organisasi.
Sekali lagi, untuk panduan komprehensif dalam
memahami dan mengaudit Big Data, termasuk diskusi
tentang peluang, risiko, dan contoh program kerja, dapat
melihat GTAG IIA tentang “Memahami dan Mengaudit
Big Data”, yang tersedia gratis untuk anggota IIA, dan
juga tersedia untuk non-anggota melalui Toko Buku IIA
(www.theiia.org).
 Global Perspectives: Artificial Intelligence
Contoh dari peluang dan risiko penerapan AI adalah:
Peluang
 Kemampuan untuk mempersingkat siklus
pengolahan data.
 Kemampuan untuk mengurangi kesalahan dengan
mengganti tindakan tindakan yang dilakukan
manusia dengan tindakan mesin yang dilakukan
secara berulang dengan sempurna.
 Kemampuan untuk mengganti aktivitas yang semula
membutuhkan waktu lama dengan aktivitas yang
lebih hemat waktu (otomatisasi proses), mengurangi
waktu dan biaya tenaga kerja.
 Kemampuan untuk menempatkan robot atau drone
untuk menggantikan manusia dalam situasi yang
berpotensi bahaya.
 Kemampuan untuk membuat prediksi yang lebih
baik, mulai dari memprediksi penjualan barang
tertentu di pasar tertentu hingga memprediksi
epidemi dan malapetaka alam.
 Kemampuan untuk menghasilkan pendapatan dan
meningkatkan pangsa pasar melalui inisiatif
penggunaan AI.
Risiko
 Risiko bahwa “bias” manusia yang tidak
teridentifikasi akan tertanam dalam teknologi AI.
 Risiko kesalahan logika manusia akan tertanam
dalam teknologi AI.
 Risiko bahwa pengujian dan pengawasan terhadap
AI tidak memadai, sehingga menghasilkan sesuatu
yang dapat dipertanyakan secara etika.
 Risiko bahwa produk dan layanan AI akan
membahayakan, mengakibatkan kerusakan finansial
dan/atau reputasi.
 Risiko bahwa pelanggan atau pemangku kepentingan
lainnya tidak akan menerima atau mengadopsi
inisiatif penggunaan AI organisasi.
 Risiko bahwa organisasi akan kalah dari pesaing jika
tidak berinvestasi di AI.
FOKUS AUDIT
Standar IIA 2120: Risk Management (Kutipan)
Kegiatan audit internal harus mengevaluasi
efektifitas dan berkontribusi terhadap
peningkatan proses manajemen risiko.
2120.A1 – Kegiatan audit internal harus
mengevaluasi eksposur risiko yang berkaitan
dengan tata kelola, operasi, dan sistem informasi
organisasi mengenai:
 Pencapaian tujuan organisasi.
 Keandalan dan Integritas informasi keuangan
dan operasional.
 Efektifitas dan Efisiensi operasi dan program.
 Pengamanan asset.
 Kepatuhan terhadap hukum, peraturan,
kebijakan, prosedur, dan kontrak.
 Risiko bahwa investasi di AI (infrastruktur, penelitian
dan pengembangan, dan akuisisi sumber daya
manusia) tidak akan menghasilkan ROI yang
diharapkan.
Informasi lebih mendalam tentang risiko AI akan
dipaparkan di Bagian II dan III dari seri Perspektif dan
Pandangan Global ini, yang memberikan rekomendasi
pemanfaatan Kerangka (Framework) dalam memberikan
jasa assurance dan konsultasi terkait AI akan dijelaskan.
Peran Audit Internal
Audit internal mahir dalam mengevaluasi dan memahami
risiko dan peluang terkait kemampuan organisasi dalam
mencapai tujuannya. Dengan memanfaatkan
kemampuan ini, audit internal dapat membantu
organisasi dalam mengevaluasi, memahami, dan
mengkomunikasikan sejauh mana AI memberi dampak
(negatif atau positif) pada kemampuan organisasi untuk
menciptakan nilai dalam jangka pendek, menengah, atau
panjang. Audit internal dapat melakukan setidaknya lima
aktivitas penting yang terkait dengan kecerdasan buatan:
globaliia.org
5
 Untuk seluruh organisasi, audit internal harus
memasukkan AI dalam penilaian risikonya dan
mempertimbangkan apakah akan menyertakan AI
dalam rencana audit berbasis risikonya.
 Bagi organisasi yang sedang mengeksplorasi AI, audit
internal harus dilibatkan secara aktif dalam proyek
AI sejak awal, untuk dapat memberikan saran dan
masukan yang berkontribusi terhadap keberhasilan
implementasi. Namun, untuk menghindari persepsi
atau penurunan aktual terhadap independensi dan
objektivitas, audit internal seharusnya tidak
memiliki, atau bertanggung jawab atas, pelaksanaan
proses, kebijakan, atau prosedur AI.
 Untuk organisasi yang telah menerapkan beberapa
aspek AI, baik dalam operasinya (seperti pabrikan
yang menggunakan robot pada kegiatan produksi)
atau digabungkan ke dalam produk atau layanan
(seperti retailer yang menyesuaiakn penawaran
produk kepada pelanggan berdasarkan riwayat
pembelian), audit internal harus memberikan
keyakinan (assurance) terhadap pengelolaan risiko
terkait dengan keandalan algoritma dan data yang
dipergunakan.
 Audit internal harus memastikan isu moral dan etika
yang mungkin ada di sekitar penggunaan AI telah
dipertimbangkan dan dinilai.
 Seperti penggunaan sistem lainnya, struktur tata
kelola (governance) yang baik perlu dibentuk dan
audit internal dapat memberikan assurance
mengenai governance tersebut.
Terlepas dari aktivitas spesifik yang perlu dilakukan, audit
internal sangat sesuai untuk menjadi kontributor utama
pada kegiatan terkait dengan AI organisasi, karena Audit
Internal:
 Memahami tujuan strategis organisasi dan proses
yang diimplementasikan untuk mencapai tujuan
tersebut.
 Mampu mengevaluasi apakah kegiatan AI mencapai
tujuan penerapannya.
6 globaliia.org
 Dapat memberikan keyakinan (assurance) internal
atas aktivitas pengelolaan manajemen risiko yang
relevan dengan risiko AI.
 Dianggap sebagai penasihat terpercaya yang dapat
mendukung secara positif adopsi AI untuk
memperbaiki proses bisnis atau meningkatkan
kualitas produk dan layanan.
Audit internal harus menangani AI seperti menangani
hal hal yang lainnya - dengan metode yang sistematis
dan disiplin untuk mengevaluasi dan meningkatkan
efektivitas proses manajemen, pengendalian, dan tata
kelola risiko yang berkaitan dengan AI.
Kompetensi AI: Menutup Celah Pemahaman
Profesional dalam bidang teknologi yang memiliki
keahlian di bidang AI jumlahnya tidak banyak. Organisasi
yang ingin berpartisipasi dalam revolusi AI perlu
mengembangkan atau mendapatkan sumber daya
manusia dengan kompetensi di banyak bidang seperti:
 Pemrosesan Bahasa secara Natural.
 Antarmuka Program Aplikasi/Application program
interfaces (APIs) seperti pengenalan wajah, analisa
gambar, and analisa teks.
 Algoritma dan Pemodelan tingkat lanjut.
 Teori Probabilitas dan Statistik Terapan.
 Analisis Data.
 Rekayasa Perangkat Lunak.
 Bahasa Pemrograman.
 Mesin yang mampu belajar/Machine learning.
 Computer vision, dimana komputer dapat mengenali
unsur unsur dalam gambar dan video.
 Robotics.
Meskipun saat ini hanya sedikit organisasi di bidang
teknologi, otomotif, manufaktur, jasa keuangan, dan
industri utilitas yang tampaknya memimpin revolusi
AI, sulit membayangkan ada organisasi yang tidak akan
terpengaruh oleh AI. Sama seperti komputer,
spreadsheet, dan pemrosesan terdistribusi yang
 Global Perspectives: Artificial Intelligence

diterapkan secara terbatas pada tahap awal, pada

akhirnya semua organisasi mengadopsi aspek
 Berkolaborasi dengan bagian IT dan pihak lainnya
untuk meyakinkan sistem pertahanan dan respon
teknologi tersebut. Ketika AI pada saatnya nanti yang efektif telah tersedia.
menjadi lebih umum diterapkan, kegiatan audit
internal harus siap untuk menyediakan layanan  Memfasilitasi komunikasi dan melakukan koordinasi
assurance dan konsultasi terkait AI. terkait risiko-risiko dengan semua pihak dalam
organisasi.
Bagaimana CAE dapat meningkatkan skills auditor
Pelanggaran terhadap keamanan Cyber AI yang
internal agar siap menghadapi tantangan? Langkah
dampaknya berpotensi bencana bukanlah hal yang
pertama adalah menyadari bahwa serangkaian
terlalu dilebih lebihkan. Jika organisasi belum memiliki
keterampilan baru memang dibutuhkan. Secara kolektif,
ketahanan cyber yang kuat, maka CAE harus segera
aktivitas audit internal harus memiliki pemahaman AI
berinisiatif mendorong diperkuatnya keamanan cyber
yang memadai, bagaimana organisasi menggunakannya,
tersebut.
dan risiko AI bagi organisasi. CAE harus dapat
mengkomunikasikan pemahaman ini kepada manajemen
senior, dewan, dan komite audit. Tempat yang baik untuk
memulai adalah dengan membaca IIA Thought Kerangka Audit AI
Leadership tentang AI, dan panduan tambahan IIA
Kerangka Audit AI terdiri dari 6 komponen, dan
mengenai topik seperti Big Data dan Talent
semuanya ditetapkan sesuai dengan konteks strategi AI
Management.
organisasi.
Memperkuat Ketahanan Cyber
Strategi
Ancaman keamanan cyber terus meningkat. Adopsi dan
Strategi AI masing-masing organisasi akan berbeda
evolusi AI akan memaksa organisasi untuk terus
sesuai dengan pendekatan masing masing dalam
memperkuat kembali kemampuan ketahanan cyber
memanfaatkan peluang yang diberikan AI. Strategi AI
mereka. Karena AI menjadi lebih powerful dan lebih
organisasi mungkin merupakan perluasan strategi data
banyak keputusan diserahkan ke algoritma baru, rumit,
digital atau Big Data organisasi secara keseluruhan -
membingungkan, dan menggunakan kumpulan data yang
organisasi dengan penerapan strategi digital/big-data
besar, maka melindungi sistem ini dari ancaman yang
yang dikembangkan dengan baik akan berada satu
berasal dari luar organisasi menjadi sangat penting dalam
langkah di depan dalam penerapan AI. Menurut MGI,
mencapai kesuksesan. Laporan EY 2014 mendefinisikan
organisasi yang "menggabungkan kemampuan digital
ketahanan cyber sebagai kemampuan untuk melawan,
yang kuat, adopsi AI yang menyeluruh, dan strategi
bereaksi, dan pulih dari serangan cyber - dan
yang proaktif memiliki kinerja keuangan yang kuat."
memodifikasi lingkungan untuk meningkatkan keamanan
dan keberlanjutan operasi dari waktu ke waktu. Audit internal harus mempertimbangkan strategi AI
Ketahanan Cyber sangat penting bagi organisasi organisasi terlebih dahulu. Apakah organisasi memiliki
manapun yang semakin bergantung pada AI. strategi yang jelas untuk penerapan AI? Apakah
organisasi mengeluarkan investasi dalam penelitian dan
Di antara semua kompleksitas seputar keamanan cyber,
pengembangan AI? Apakah ada proses identifikasi
ada empat area utama dimana kegiatan audit internal
ancaman, peluang AI dan langkah-langkah mitigasi
dapat memberikan dampak secara langsung:
risiko AI? AI dapat menjadi keunggulan kompetitif bagi
organisasi, dan audit internal harus membantu
 Memberikan keyakinan (assurance) atas kesiapan
manajemen dan dewan direksi untuk menyadari
dan respon terhadap ancaman cyber.
pentingnya merumuskan strategi AI yang sesuai dengan
 Mengkomunikasian level risiko dan upaya tujuan organisasi.
penangangan risiko kepada Eksekutif dan Dewan.

globaliia.org
7
Komponen
Tata Kelola AI
Tata kelola AI mengacu pada struktur, proses, dan
prosedur yang diterapkan untuk mengarahkan,
mengelola, dan memantau aktivitas AI organisasi dalam
mencapai tujuan organisasi. Tingkat formalitas dan
struktur tata kelola perusahaan AI akan bervariasi
berdasarkan karakteristik spesifik organisasi tersebut.
Terlepas dari pendekatan spesifik, tata kelola AI
menetapkan mekanisme pertanggungjawaban dan
pengawasan, membantu memastikan bahwa mereka
yang bertanggung jawab memiliki keterampilan dan
keahlian yang diperlukan untuk memantau AI secara
efektif, dan membantu memastikan nilai organisasi
tercermin dalam aktivitas AI-nya. Poin terakhir ini tidak
boleh diabaikan atau kurang mendapat perhatian.
Kegiatan AI harus menghasilkan keputusan dan
tindakan yang sesuai dengan tanggung jawab etis,
sosial, dan hukum organisasi.
Arsitektur dan Infrastruktur Data
Arsitektur dan infrastruktur AI kemungkinan besar
menggunakan arsitektur dan infrastruktur yang sama
dengan Big Data. Hal ini termasuk pertimbangan-
pertimbangan untuk:
 Cara mengakses data (metadata, taxonomy,
identifikasi yang unik, dan konvensi penamaan).
 Privasi informasi dan keamanan di seluruh siklus
pengolahan data (pengumpulan data, penggunaan,
penyimpanan, dan penghancuran).
 Peran dan tanggung jawab untuk kepemilikan dan
penggunaan data sepanjang siklus pengolahan data.
Kualitas Data
Kelengkapan, keakuratan, dan reliabilitas data yang
digunakan oleh Algoritma AI sangat penting. Sayangnya,
hal yang biasanya terjadi, organisasi memiliki struktur
data yang tidak didefinisikan secara jelas dan tidak
koheren. Seringkali, sistem tidak berkomunikasi satu
sama lain atau komunikasi dilakukan melalui add-on atau
kustomisasi yang rumit. Bagaimana data disatukan,
disarikan, dan divalidasi memegang peranan sangat
penting.
8 globaliia.org
Mengukur Kinerna AI
Seiring organisasi mengintegrasikan AI ke dalam aktivitas
mereka, ukuran kinerja harus didefinisikan untuk
mengaitkan aktivitas AI ke tujuan bisnis dan secara jelas
menggambarkan apakah AI secara efektif mendukung
pencapaian tujuan tersebut. Manajemen harus secara
aktif memantau kinerja kegiatan AI-nya.
Faktor Manusia
Algoritma dikembangkan oleh manusia. Kesalahan dan
bias manusia (baik disengaja maupun tidak disengaja)
akan berdampak pada kinerja algoritma. Komponen
faktor manusia diperhitungkan untuk
mempertimbangkan apakah:
 Risiko bias manusia yang tidak disengaja
kemungkinan termasuk dalam desain AI telah
diidentifikasi dan dikelola.
 Pengujian terhadap efektifitas AI telah dilakukan
untuk meyakinkan bahwa hasil AI sesuai dengan
tujuan awalnya.
 Teknologi AI bisa transparan mengingat teknologi
tersebut bersifat rumit.
 Output AI digunakan secara legal, etis, dan
bertanggung jawab.
Secara umum kesalahan manusia adalah penyebab
utama dari pelanggaran privasi dan keamanan informasi.
Demikian pula, komponen faktor manusia menjadi hal
utama untuk mengatasi risiko kesalahan manusia yang
dapat memperlemah kemampuan AI untuk memberikan
hasil yang diharapkan.
Faktor Kotak Hitam (Black Box)
Menurut kamus online Merriam-Webster, Kotak Hitam
adalah "perangkat elektronik yang biasanya rumit yang
mekanisme dasarnya tersembunyi atau misterius bagi
pengguna; secara umum: apapun yang memiliki fungsi atau
mekanisme internal yang misterius atau tidak dikenal. "
Seiring kemajuan organisasi dalam menerapkan teknologi
AI Tipe III dan Tipe IV yang memanfaatkan mesin atau
platform yang dapat belajar sendiri atau berkomunikasi
satu sama lain, mekanisme algoritma beroperasi menjadi
tidak transparan atau sulit difahami. Faktor kotak hitam
 Global Perspectives: Artificial Intelligence

akan semakin menjadi tantangan karena aktivitas AI

organisasi menjadi lebih canggih. FOKUS AUDIT
Standar IIA Utama Yang Relevan Untuk AI
Kesimpulan
Standar Internasional IIA untuk Praktik Profesional
Profesi audit internal tidak boleh tertinggal dalam apa
Audit Internal mencakup beberapa standar yang
yang mungkin menjadi kemajuan digital berikutnya, yaitu
sangat relevan bagi AI, termasuk:
Artificial Intelligence (Kecerdasan Buatan). Untuk
mempersiapkan diri, auditor internal harus memahami
dasar-dasar AI, peran yang harus dilakukan oleh audit  Standar IIA 1210: Kemampuan Professioal
(Proficiency)
internal, dan risiko dan peluang AI. Untuk memenuhi
tantangan ini, auditor internal harus memanfaatkan  Standar IIA 2010: Perencanaan (Planning)
Kerangka ini dalam melakukan metode yang sistematis
dan disiplin untuk mengevaluasi dan meningkatkan  Standar IIA 2030: Manajemen Sumber Daya
efektivitas proses manajemen risiko, pengendalian, dan (Resource Management)
tata kelola organisasi yang berkaitan dengan AI.
 Standar IIA 2100: Sifat Pekerjaan (Nature of
Work)
Makalah ini adalah Bagian I dari seri tiga bagian. Bagian II
akan memberikan informasi dan rekomendasi lebih rinci
 Standar IIA 2110: Tata Kelola (Governance)
mengenai Tata Kelola AI; Arsitektur Data dan
Infrastruktur; dan komponen Kualitas Data. Bagian III  Standar IIA 2130: Pengendalian (Control)
akan memberikan informasi dan rekomendasi lebih rinci
mengenai komponen Pengukuran Kinerja, Faktor
 Standar IIA 2200: Perencanaan Penugasan
(Engagement Planning)
Manusia, dan komponen Black Box. Bagian II dan III akan
mencakup tujuan dan prosedur penugasan yang relevan  Standar IIA 2201: Pertimbangan dalam
yang dapat digunakan oleh kegiatan audit internal untuk Perencanaan (Planning Considerations)
menyesuaikan program audit AI agar sesuai dengan profil
risiko dan tujuan strategis organisasi mereka.
 Standar IIA 2210: Tujuan Penugasan
(Engagement Objectives)

 Standar IIA 2220: Ruang Lingkup Penugasan

(Engagement Scope)

 Standar IIA 2230: Alokasi Sumber Daya untuk

Penugasan (Engagement Resource Allocation)

 Standar IIA 2240: Program Kerja Penugasan

(Engagement Work Program)

 Standar IIA 2310: Mengidentifikasi Informasi

(Identifying Information)

Teks lengkap untuk Standar tersedia di

www.theiia.org. Setiap standar dilengkapi dengan
Panduan Implementasi.

globaliia.org
9
 globaliia.org
10 globaliia.org