Texas Information

Meskipun RUU Senat California 7 tidak menjadi undang-undang dan RUU Majelis California 1018 saat ini tidak aktif, kedua undang-undang tersebut meninjau jenis kewajiban pengungkapan, dokumentasi, dan pengawasan yang telah dipertimbangkan oleh anggota parlemen California sehubungan dengan penggunaan alat otomatis oleh pemberi kerja dalam keputusan ketenagakerjaan.

Banyak perusahaan sudah menggunakan alat otomatis untuk menyaring pelamar, mengevaluasi kinerja, dan mendukung keputusan perekrutan dan disipliner. Namun dalam beberapa kasus, orang yang menggunakan alat tersebut tidak memahaminya dengan baik. Misalnya, pengusaha mungkin tidak mengetahui masukan apa yang diandalkan oleh alat tersebut, bagaimana alat tersebut menghasilkan keluaran, atau bagaimana alat tersebut menerapkan keluaran tersebut dalam “pengambilan keputusan”. Kesenjangan tersebut menimbulkan risiko kepatuhan terhadap undang-undang yang ada karena pemberi kerja mungkin tidak dapat menjelaskan atau membuktikan bagaimana keputusan ketenagakerjaan tertentu dibuat.

Sejak 1 Oktober 2025, pemberi kerja di California telah beroperasi berdasarkan peraturan sistem keputusan otomatis Dewan Hak Sipil negara bagian tersebut, yang memperjelas bagaimana undang-undang anti-diskriminasi yang ada berlaku ketika pemberi kerja menggunakan kecerdasan buatan, algoritme, dan alat otomatis lainnya dalam pengambilan keputusan ketenagakerjaan. Peraturan tersebut menegaskan bahwa pengusaha tetap bertanggung jawab atas penggunaan dan hasil dari alat-alat ini.

Dengan latar belakang tersebut, dua proposal baru-baru ini yang diajukan oleh Badan Legislatif California mengenai AI dapat dipahami sebagai upaya untuk mengatasi permasalahan terkait: tidak hanya apakah sistem otomatis memberikan hasil yang diskriminatif, namun juga apakah perusahaan dapat menunjukkan bagaimana sistem tersebut digunakan, apa yang menjadi sandaran sistem tersebut, dan kontrol apa yang mengatur penggunaannya.

Pertama, RUU Senat 7 yang kini gagal, kadang-kadang disebut sebagai “Undang-undang Tanpa Robo Bos”, akan secara langsung mengatur penggunaan sistem pengambilan keputusan otomatis oleh pemberi kerja dalam pekerjaan dengan mewajibkan pemberitahuan kepada pelamar dan karyawan, menerapkan kewajiban pencatatan, dan membatasi ketergantungan pada keluaran otomatis dalam membuat keputusan ketenagakerjaan tertentu.

Kedua, RUU Majelis 1018 yang sekarang tidak aktif akan mengambil pendekatan yang lebih luas dengan menerapkan persyaratan pada pengembang dan pengguna sistem keputusan otomatis yang digunakan dalam keputusan penting, termasuk keputusan ketenagakerjaan, seperti penilaian dampak, pengungkapan, kontrol tata kelola, dan peluang untuk tinjauan manusia.

Meskipun RUU Senat 7 belum menjadi undang-undang dan RUU Majelis 1018 belum disahkan, keduanya mencerminkan fokus yang konsisten pada pengungkapan, dokumentasi, dan pengawasan.

Bagi pengusaha, signifikansi dari usulan-usulan ini bukanlah bahwa usulan tersebut mengusulkan teori pertanggungjawaban yang baru, namun bahwa usulan tersebut mengidentifikasi potensi konsensus yang muncul mengenai ekspektasi kepatuhan. Pertanyaan-pertanyaan kuncinya bersifat praktis: dapatkah pengusaha menjelaskan alat-alat apa yang digunakan, apa fungsi alat-alat tersebut, data apa yang mereka andalkan, dan bagaimana keluaran mereka dimasukkan ke dalam keputusan ketenagakerjaan? Jika jawabannya tidak jelas, pemberi kerja mungkin akan terkena paparan karena pemberi kerja tidak dapat membuktikan bagaimana “pemberi kerja” (melalui alat AI) membuat keputusan terkait ketenagakerjaan.

Persoalan-persoalan abstrak ini dapat muncul secara konkrit. Jika alat penyaringan otomatis mengecualikan suatu kategori pelamar, pemberi kerja harus dapat menjelaskan kriteria apa yang mendorong hasil tersebut dan mengapa kriteria tersebut terkait dengan pekerjaan. Jika alat produktivitas atau pemantauan mengevaluasi perilaku karyawan, pemberi kerja harus dapat menunjukkan bahwa keluaran alat tersebut ditinjau sesuai konteks dan tidak diterapkan secara mekanis. Jika keputusan perekrutan atau keputusan disiplin bergantung pada skor, peringkat, atau rekomendasi yang dihasilkan oleh suatu sistem, pemberi kerja harus dapat menjelaskan bagaimana keluaran tersebut dihasilkan dan apakah keluaran tersebut dievaluasi secara independen sebelum tindakan diambil. Masalah dokumentasi dan pengawasan ini secara langsung mempengaruhi kemampuan pengusaha untuk menjelaskan (dan karenanya membela) keputusannya berdasarkan undang-undang anti-diskriminasi yang ada.

Dilihat dari sudut pandang tersebut, usulan legislatif terbaru ini mengarah pada kerangka kerja yang berpusat pada tiga persyaratan inti:

1. Penyingkapan. Pengusaha harus menghadapi tekanan yang semakin besar untuk mengungkapkan kapan alat otomatis digunakan dengan cara yang berdampak signifikan terhadap perekrutan, disiplin, promosi, kompensasi, atau keputusan ketenagakerjaan lainnya.




2. Dokumentasi. Pengusaha harus dapat mengidentifikasi sistem apa yang digunakan, apa yang dirancang untuk dilakukan oleh sistem tersebut, data apa yang mereka andalkan, dan bagaimana keluarannya ditentukan. Hal ini termasuk memelihara catatan yang cukup untuk menjelaskan bagaimana alat tertentu diperhitungkan dalam keputusan ketenagakerjaan tertentu.




3. Pengawasan. Pengusaha harus memastikan bahwa keluaran otomatis tunduk pada tinjauan manusia yang bermakna, termasuk kemampuan untuk mengevaluasi dan, jika perlu, mengesampingkan hasil yang dihasilkan sistem daripada mengandalkan hasil tersebut sebagai penentu.

Praktisnya, banyak organisasi tidak terstruktur berdasarkan persyaratan ini. Alat otomatis sering kali diterapkan di berbagai fungsi, termasuk perekrutan, manajemen kinerja, penjadwalan, dan operasi — tanpa visibilitas terpusat. Vendor dapat mengontrol aspek-aspek penting dari fungsionalitas sistem, sementara dokumentasi pihak pemberi kerja tentang cara alat tersebut beroperasi dan cara penggunaannya masih terbatas. Manajer mungkin mengandalkan keluaran tanpa memahami keluarannya atau batasan sistem apa pun. Kurangnya koordinasi dapat menambah risiko kepatuhan.

Mengatasi risiko tersebut tidak perlu menunggu undang-undang baru. Pengusaha harus melakukan inventarisasi internal terhadap alat-alat otomatis yang digunakan dalam pengambilan keputusan ketenagakerjaan, mengidentifikasi di mana alat-alat tersebut mempengaruhi keputusan tertentu, dan memastikan bahwa penggunaannya didokumentasikan dengan cara yang dapat dijelaskan dan didukung. Pengusaha juga harus menilai apakah ada tinjauan manusia yang berarti sebelum mengambil tindakan yang merugikan dan apakah hubungan vendor memberikan informasi yang cukup tentang bagaimana sistem berfungsi, termasuk batasan atau asumsi apa pun yang ada di dalamnya. Yang terakhir, pengusaha harus mengevaluasi apakah mereka dapat dengan jelas mengartikulasikan, jika diperlukan, bagaimana alat tertentu digunakan dalam pengambilan keputusan ketenagakerjaan tertentu.

Fakta bahwa RUU Senat 7 tidak menjadi undang-undang dan RUU Majelis 1018 saat ini tidak aktif tidak mengurangi relevansinya. Hal ini memberikan indikasi yang jelas mengenai fokus perhatian California: tidak hanya pada hasil namun juga apakah pengusaha dapat menunjukkan kendali atas alat yang mereka gunakan. Pengusaha yang menyelaraskan praktik mereka seputar pengungkapan, dokumentasi, dan pengawasan akan memiliki posisi yang lebih baik untuk memenuhi harapan tersebut berdasarkan undang-undang yang ada dan dalam kerangka apa pun yang akan datang.

Isi artikel ini dimaksudkan untuk memberikan panduan umum mengenai pokok bahasan. Nasihat spesialis harus dicari mengenai keadaan spesifik Anda.