AI Risk dan Model Risk Management (IT034)

Deskripsi Training

Training ini memberikan pemahaman tentang risiko yang terkait dengan penggunaan Artificial Intelligence (AI) serta teknik manajemen risiko dalam pengembangan dan penerapan model AI. Peserta akan mempelajari berbagai jenis risiko seperti bias, transparansi, privasi, keamanan, hingga risiko operasional dan regulasi. Selain itu, peserta akan memahami kerangka kerja dan praktik terbaik untuk mengelola risiko model, termasuk validasi, monitoring, dan tata kelola AI. Dengan mengikuti training ini, peserta akan mampu merancang strategi mitigasi risiko AI yang selaras dengan kebutuhan organisasi serta standar etika dan regulasi yang berlaku.

Silabus Training

• Modul 1: Pengenalan AI Risk dan Model Risk Management
  Definisi AI risk dan model risk; pentingnya manajemen risiko dalam penerapan AI; studi kasus risiko AI di berbagai sektor industri.
• Modul 2: Jenis-Jenis Risiko dalam AI
  Risiko bias dan diskriminasi algoritma; risiko privasi dan keamanan data; risiko transparansi, explainability, dan akuntabilitas.
• Modul 3: Regulatory dan Ethical Considerations
  Regulasi global terkait AI (EU AI Act, NIST AI RMF); prinsip AI yang etis dan bertanggung jawab; tantangan kepatuhan dalam implementasi AI.
• Modul 4: Framework Manajemen Risiko Model
  Konsep three lines of defense; identifikasi, pengukuran, mitigasi, dan pemantauan risiko; integrasi framework risiko dengan strategi organisasi.
• Modul 5: Model Development and Validation
  Best practices pengembangan model yang aman; validasi model (stress testing, backtesting); monitoring performa model secara berkelanjutan.
• Modul 6: Operational dan Security Risks pada AI
  Ancaman adversarial attacks pada model AI; risiko penggunaan data yang salah/tidak representatif; business continuity planning untuk sistem berbasis AI.
• Modul 7: Governance dan Risk Culture dalam AI
  Peran dewan, manajemen, dan tim teknis dalam tata kelola risiko AI; membangun budaya risiko dalam organisasi; penetapan kebijakan dan prosedur kontrol internal.
• Modul 8: Strategi Implementasi Model Risk Management untuk AI
  Roadmap penerapan AI risk management; tools & teknologi pendukung monitoring risiko; continuous improvement dalam manajemen risiko AI.

Contoh Kasus

Analisis bias pada model kredit scoring; evaluasi risiko privasi pada model pengenalan wajah; penyusunan framework model risk management untuk bank/fintech; dan simulasi monitoring performa model prediktif dalam bisnis.