LKPD Koding dan Kecerdasan Artifisial Kelas 11: Mengevaluasi Kepatuhan Prinsip Human-Centered dalam Kolaborasi Manusia dan Sistem KA di Dunia Kerja

INFORMASI UMUM

TUJUAN PEMBELAJARAN

1. Mengevaluasi prinsip human-centered yang harus dipatuhi oleh pengembang KA dalam lingkungan kerja

PETUNJUK UMUM

• Bacalah setiap skenario implementasi sistem Kecerdasan Artifisial (KA) di lingkungan kerja dengan teliti.
• Fokuskan perhatianmu pada evaluasi kepatuhan prinsip human-centered: kolaborasi manusia dan mesin (manusia tetap memegang kendali/human-in-the-loop), keterlibatan pengguna, keamanan dan privasi data pekerja, serta inklusivitas/keadilan.
• Bekerjalah secara mandiri pada kegiatan awal, diskusikan evaluasi kasus bersama kelompok pada kegiatan berikutnya, dan selesaikan seluruh tugas sesuai format tabel serta uraian yang disediakan.

KEGIATAN

Kegiatan 1: Evaluasi Awal: Telaah Kepatuhan Prinsip Human-Centered pada Kasus Seleksi Karyawan

Estimasi: 35 menit

Alat & Bahan:

• Lembar bacaan skenario kasus PT Global Tech
• Alat tulis

Petunjuk Pengerjaan:

1. Bacalah teks kasus 'Sistem KA Rekrutmen Cepat PT Global Tech' berikut: 'PT Global Tech menggunakan sistem KA untuk menyeleksi 1.000 berkas pelamar kerja per hari secara otomatis penuh tanpa peninjauan staf HR. Sistem ini dilatih menggunakan data karyawan historis 10 tahun terakhir yang didominasi oleh kelompok gender tertentu. Akibatnya, pelamar dari kelompok minoritas tereliminasi otomatis tanpa penjelasan alasan penolakan, dan data pribadi ijazah serta kontak pelamar disimpan tanpa persetujuan eksplisit.'
2. Lakukan evaluasi terhadap kepatuhan prinsip human-centered pengembang pada sistem tersebut dengan menjawab 2 pertanyaan terstruktur.

Pertanyaan:

1. Berdasarkan skenario PT Global Tech, tentukan kepatuhan (Patuh/Tidak Patuh) serta berikan evaluasi kritis terhadap 3 prinsip human-centered: (a) Keterlibatan Pengguna & Kontrol Manusia, (b) Inklusivitas & Keadilan (non-bias), dan (c) Keamanan & Privasi Data.

2. Rumuskan simpulan evaluasi: Apakah pengembang KA dalam kasus tersebut sudah memenuhi tanggung jawab prinsip human-centered di lingkungan kerja? Berikan alasan berdasarkan dampak langsungnya terhadap pekerja/pelamar!

Tabel 3 kolom: Kolom 1 (Prinsip Human-Centered: Keterlibatan Pengguna/Kontrol Manusia; Inklusivitas/Keadilan; Keamanan/Privasi), Kolom 2 (Status Kepatuhan: Patuh / Tidak Patuh), Kolom 3 (Penjelasan Evaluasi Kritis); dilanjutkan 1 bidang uraian paragraf simpulan evaluasi 3-4 kalimat.

Kegiatan 2: Evaluasi Komparatif Kelompok: Audit Kepatuhan KA Monitoring Pekerja Gudang Logistik

Estimasi: 50 menit

Alat & Bahan:

• Teks skenario audit KA logistik
• Lembar kertas plano atau lembar kerja kelompok

Petunjuk Pengerjaan:

1. Bentuk kelompok beranggotakan 3-4 orang.
2. Cermati skenario: 'Sebuah perusahaan logistik memasang sistem KA Computer Vision dan sensor wearable pada kurir gudang. Sistem KA A: Menghitung kecepatan angkat barang, langsung memotong upah otomatis jika pekerja diam >3 menit, dan tidak ada jalur sanggahan. Sistem KA B: Memberikan rekomendasi rute teraman, memberi peringatan detak jantung jika pekerja kelelahan untuk istirahat, serta data metrik kerja hanya boleh ditinjau bersama manajer dan perwakilan pekerja untuk evaluasi keselamatan kerja mingguan.'
3. Diskusikan dan evaluasi kepatuhan kedua sistem terhadap prinsip human-centered pengembang KA di lingkungan kerja.

Pertanyaan:

1. Bandingkan dan evaluasi Sistem KA A dan Sistem KA B! Nilai kepatuhan masing-masing sistem terhadap 2 prinsip utama:

1. Menempatkan manusia sebagai mitra kolaborasi (bukan objek eksploitasi mesin), dan
2. Akuntabilitas serta hak dengar pekerja.

2. Jika kalian bertindak sebagai auditor etika KA, apa penilaian akhir kalian terhadap kelayakan implementasi Sistem KA A untuk dunia kerja? Berikan argumentasi berbasis prinsip human-centered!

Tabel perbandingan 3 kolom (Aspek Evaluasi, Sistem KA A, Sistem KA B) dan 1 kolom analisis kelayakan audit etika disertai argumentasi kelompok.

Kegiatan 3: Evaluasi Rekomendasi: Perbaikan Desain Kolaborasi Human-Centered di Tempat Kerja

Estimasi: 50 menit

Alat & Bahan:

• Lembar evaluasi mandiri
• Alat tulis

Petunjuk Pengerjaan:

1. Secara mandiri, evaluasilah draf kebijakan pengembang sistem KA Customer Care di sebuah bank: 'Sistem KA membalas keluhan nasabah, mendeteksi emosi nada bicara staf bank saat menerima telepon komplain, dan otomatis memberi skor kinerja tanpa konsultasi.'
2. Tentukan titik-titik ketidakpatuhan human-centered pada draf tersebut dan berikan evaluasi rekomendasi konkret agar pengembang mematuhi prinsip human-centered.
3. Selesaikan tugas evaluasi ini dan ikuti refleksi pembelajaran di akhir pertemuan.

Pertanyaan:

1. Evaluasilah 2 kelemahan kepatuhan prinsip human-centered pada sistem pemantau emosi staf bank tersebut!

2. Rancang evaluasi rekomendasi: Bagaimana seharusnya pengembang merombak alur kerja sistem KA tersebut agar mematuhi prinsip human-centered dalam kolaborasi staf dan KA?

Isian terstruktur 2 nomor: Nomor 1 memuat 2 poin evaluasi kelemahan kepatuhan; Nomor 2 memuat 3 butir evaluasi rekomendasi perbaikan sistem human-centered.

REFLEKSI

1. Dari kasus-kasus sistem KA di lingkungan kerja yang telah kamu evaluasi, prinsip human-centered mana yang menurutmu paling sering diabaikan oleh pengembang? Mengapa?

2. Bagaimana evaluasi ini mengubah sudut pandangmu ketika kelak kamu memasuki dunia kerja yang memanfaatkan kecerdasan artifisial?