LKPD Koding dan Kecerdasan Artifisial Kelas 10: Mengevaluasi Batasan Pengambilan Keputusan pada KA agar Kondisi Tertentu Tidak Sepenuhnya Diserahkan pada KA

INFORMASI UMUM

TUJUAN PEMBELAJARAN

1. Mengevaluasi batasan pengambilan keputusan pada KA agar kondisi tertentu tidak sepenuhnya diserahkan pada KA

PETUNJUK UMUM

• Bacalah setiap skenario kasus penggunaan Kecerdasan Artifisial (KA) dengan saksama.
• Bekerjalah secara mandiri atau berpasangan sesuai petunjuk pada tiap kegiatan.
• Fokuskan evaluasi pada batasan kemampuan KA, risiko dampak pengambilan keputusan otomatis, serta alasan mengapa kendali manusia (human-in-the-loop) tetap mutlak dibutuhkan pada kondisi kritis.
• Tuliskan hasil evaluasi dan argumentasimu secara terstruktur pada ruang jawaban yang telah disediakan.

KEGIATAN

Kegiatan 1: Aktivitas 1: Menelaah Batasan KA pada Pengambilan Keputusan Otomatis

Estimasi: 25 menit

Alat & Bahan:

• Alat tulis
• Lembar kerja/buku catatan

Petunjuk Pengerjaan:

1. Cermati 3 skenario penggunaan sistem KA berikut: (A) Sistem diagnosis darurat medis di rumah sakit, (B) Sistem penentuan kelulusan beasiswa siswa kurang mampu, (C) Algoritma kurasi daftar putar lagu di aplikasi musik.
2. Evaluasi tingkat risiko dan batasan keputusan untuk masing-masing skenario.
3. Tentukan apakah keputusan boleh diserahkan sepenuhnya kepada KA atau wajib melibatkan keputusan akhir manusia, lalu sertakan alasannya.

Pertanyaan:

1. Lengkapilah tabel evaluasi batasan keputusan KA untuk skenario A, B, dan C berdasarkan aspek:

1. Batasan/Kelemahan KA jika memutuskan sendiri,
2. Tingkat Keputusan (Boleh Penuh Otomatis / Wajib Kendali Manusia), dan
3. Alasan evaluasinya.

Tabel 4 kolom: [Skenario Kasus] | [Batasan/Kelemahan KA] | [Status Keputusan: Otomatis Penuh / Kendali Manusia] | [Alasan Evaluasi]

Kegiatan 2: Aktivitas 2: Evaluasi Kritis Dilema Akuntabilitas dan Kondisi Kritis

Estimasi: 35 menit

Alat & Bahan:

• Lembar studi kasus
• Alat tulis

Petunjuk Pengerjaan:

1. Pelajari studi kasus: 'Sebuah sistem kendali pertahanan otonom (senjata otomatis berbasis KA) mendeteksi objek mencurigakan di area perbatasan dan memiliki algoritma untuk meluncurkan serangan dalam 10 detik tanpa konfirmasi personel manusia guna menghemat waktu reaksi.'
2. Diskusikan bersama rekan sebangkumu dan evaluasi keputusan penyerahan kewenangan tersebut kepada KA.
3. Jawablah pertanyaan evaluatif berikut secara mendalam.

Pertanyaan:

1. Berdasarkan prinsip akuntabilitas etika dan hukum, evaluasilah mengapa keputusan tindakan letal/penyerangan bersenjata TIDAK BOLEH diserahkan sepenuhnya kepada KA!

2. Rumuskan 3 kondisi/kriteria situasi di mana pengambilan keputusan SAMA SEKALI TIDAK BOLEH diserahkan sepenuhnya pada KA!

Format uraian terstruktur: Pertanyaan 1 dijawab dalam 1 paragraf argumentatif; Pertanyaan 2 ditulis dalam bentuk poin-poin bernomor (1, 2, 3).

Kegiatan 3: Aktivitas 3: Perumusan Batasan Kendali Manusia (Human-in-the-Loop)

Estimasi: 30 menit

Alat & Bahan:

• Buku kerja siswa
• Pena/spidol warna

Petunjuk Pengerjaan:

1. Pilihlah salah satu sektor layanan publik: (a) Penegakan Hukum & Pengadilan, atau (b) Sistem Penerimaan Pegawai/Siswa Baru.
2. Evaluasi dan tentukan pada tahapan mana KA hanya boleh berfungsi sebagai 'Pemberi Rekomendasi/Alat Bantu' dan tahapan mana yang menjadi 'Batas Tegas Keputusan Akhir Manusia'.
3. Sajikan hasil evaluasimu dalam bentuk bagan alur pemisahan peran KA vs Manusia.

Pertanyaan:

1. Gambarkan alur keputusan pada sektor yang kamu pilih dan jelaskan batasan tegas batas kewenangan KA serta titik intervensi manusia pengambil keputusan!

Bagan alur 2 jalur: Kolom Kiri [Peran KA: Analisis & Rekomendasi Data] -> Batas Titik Kritis -> Kolom Kanan [Peran Manusia: Evaluasi Konteks, Moral, & Keputusan Final].

REFLEKSI

1. Setelah mengevaluasi berbagai kasus, mengapa menurutmu secanggih apa pun KA, sentuhan moral dan tanggung jawab manusia tidak pernah bisa digantikan?

2. Pada aspek kehidupan sehari-harimu saat ini, keputusan apa yang sudah mulai kamu serahkan ke KA dan apakah menurutmu batasan kendalimu atas keputusan itu sudah tepat?