AI governance
- StageTahap
- 4 · ITIL & AI
- Reading timeWaktu baca
- 10 min10 menit
- LevelLevel
- BeginnerPemula
AI governance is how an organization makes sure AI is used responsibly, safely and lawfully, and that it actually delivers value. It applies the general idea of governance from Fundamentals (evaluate, direct, monitor) to the particular risks of AI.
AI governance adalah cara organisasi memastikan AI digunakan secara bertanggung jawab, aman, dan sesuai hukum, serta benar-benar memberikan value. Ini menerapkan konsep umum governance dari Fundamentals (evaluasi, arahkan, pantau) pada risiko khusus AI.
What good AI governance coversCakupan AI governance yang baik
| AreaArea | In practiceDalam praktik |
|---|---|
| InventoryInventaris | An AI register listing every AI use, its owner, its Cs and its risk level.AI register yang mencatat setiap penggunaan AI, pemiliknya, C-nya, dan tingkat risikonya. |
| AccountabilityAkuntabilitas | A named person owns each AI system’s results, not "the vendor" or "the model".Satu orang yang ditunjuk bertanggung jawab atas hasil setiap sistem AI, bukan "vendornya" atau "modelnya". |
| Proportionate controlsKontrol yang proporsional | Light rules for low-risk uses, strict ones for high-risk uses such as coordination or decisions about people.Aturan ringan untuk penggunaan berisiko rendah, aturan ketat untuk yang berisiko tinggi seperti coordination atau keputusan tentang orang. |
| Data and privacyData dan privasi | What data AI may see, where it is processed, and how personal data is protected.Data apa yang boleh dilihat AI, di mana diproses, dan bagaimana data pribadi dilindungi. |
| Human oversightPengawasan manusia | Where a human in the loop must review or approve.Di titik mana human in the loop wajib meninjau atau menyetujui. |
| Monitoring and incidentsPemantauan dan incident | Tracking quality, drift and complaints, and treating AI failures as incidents.Memantau kualitas, drift, dan keluhan, serta memperlakukan kegagalan AI sebagai incident. |
| TransparencyTransparansi | Telling users when they are dealing with AI, and explaining important decisions.Memberi tahu pengguna saat mereka berinteraksi dengan AI, dan menjelaskan keputusan penting. |
A four-step improvement loopSiklus perbaikan empat langkah
ITIL’s AI governance guidance describes an improvement model with four steps. Public overviews label them slightly differently, but the idea is the same: governance is a loop that keeps up with fast-changing AI.
Panduan AI governance ITIL menjelaskan improvement model dengan empat langkah. Ringkasan publik memberi label yang sedikit berbeda, tetapi idenya sama: governance adalah siklus yang mengikuti perkembangan AI yang cepat.
- Assess and stress-testWhere are we today? Where would our controls break under pressure?
- Define requirements and designSet controls that fit the context and risk, no more and no less.
- Implement improvementsRoll out the changes to people, processes and tools.
- MaintainMonitor, check and keep improving as AI and rules change.
- Assess dan stress-testDi mana posisi kita saat ini? Di titik mana kontrol kita akan gagal saat ditekan?
- Define kebutuhan dan designTetapkan kontrol yang sesuai konteks dan risiko, tidak berlebihan dan tidak kurang.
- Implement perbaikanTerapkan perubahan pada orang, proses, dan tools.
- MaintainPantau, periksa, dan terus perbaiki seiring perubahan AI dan regulasi.
Laws matter too. Many countries now have data protection rules, including Indonesia’s Personal Data Protection Law (UU PDP), and some have AI-specific rules. Governance is where you make sure AI use stays within them.
Regulasi juga penting. Banyak negara kini memiliki aturan perlindungan data, termasuk Undang-Undang Pelindungan Data Pribadi (UU PDP) di Indonesia, dan sebagian memiliki aturan khusus AI. Governance adalah tempat Anda memastikan penggunaan AI tetap sesuai dengan aturan tersebut.
Real-world example: shadow AI at a fintechContoh kasus: shadow AI di perusahaan fintech3 min3 menit
A fintech discovers that support agents paste customer chats into a free public chatbot to draft replies. Nobody approved it, and customer data is leaving the company.
Sebuah perusahaan fintech mendapati agen support menempelkan chat pelanggan ke chatbot publik gratis untuk menyusun draf balasan. Tidak ada yang menyetujuinya, dan data pelanggan keluar dari perusahaan.
Banning AI would just push it underground. Instead they assess current use, define a simple policy (approved tools only, no personal data in public tools), implement an approved assistant inside their own environment, and maintain it with monthly usage reviews. Agents keep the speed, and the data stays protected.
Melarang AI hanya akan membuatnya dipakai diam-diam. Sebagai gantinya mereka melakukan assess terhadap penggunaan saat ini, define kebijakan sederhana (hanya tools yang disetujui, tanpa data pribadi di tools publik), implement asisten resmi di lingkungan mereka sendiri, dan maintain dengan review penggunaan bulanan. Agen tetap bekerja cepat, dan data tetap terlindungi.
- Common mistake: writing a 40-page AI policy that nobody reads. Start with one page.
- Create an AI register this month, even as a spreadsheet: use, owner, Cs, data used, risk.
- Add "AI gave a wrong or harmful result" as an incident category.
- Kesalahan umum: menulis kebijakan AI 40 halaman yang tidak dibaca siapa pun. Mulailah dengan satu halaman.
- Buat AI register bulan ini, meskipun berupa spreadsheet: penggunaan, pemilik, C, data yang dipakai, risiko.
- Tambahkan "AI memberikan hasil yang salah atau merugikan" sebagai kategori incident.
The 6C capability names and the improvement model steps come from public ITIL (Version 5) overviews. Explanations, examples and checklists are written in our own words; check the official ITIL publications for exact definitions.Nama keenam capability 6C dan langkah improvement model berasal dari ringkasan publik ITIL (Version 5). Penjelasan, contoh, dan checklist ditulis dengan kata-kata sendiri; periksa publikasi resmi ITIL untuk definisi yang tepat.