Keberangkatan A Undang-undang baru tentang pengaturan kecerdasan buatan Memperkuat kebutuhan untuk terus mengevaluasi proses dan algoritma untuk mencegah diskriminasi terkait AI. Sebagai pasar bakat yang berkomitmen untuk menjadikan perekrutan lebih adil, Hired berupaya memastikan bahwa layanan berbasis AI tetap transparan dan bebas bias. Hired secara rutin melakukan audit AI dan peninjauan teknologi platformnya untuk memaksimalkan dan mendukung tujuan dan praktik DEI.

Undang-undang AI untuk memerangi bias dalam proses perekrutan

Ledakan kecerdasan buatan generatif (GenAI) baru-baru ini telah menimbulkan pertanyaan tentang etika, terutama dalam proses perekrutan.

Mulai 5 Juli 2023, di Kota New York Kode alat pengambilan keputusan perekrutan otomatis Mewajibkan pemberi kerja di New York untuk melakukan pemeriksaan bias pada alat otomatis sebelum menggunakannya untuk mengevaluasi kandidat pekerjaan.

Berdasarkan undang-undang ini, pemberi kerja dilarang menggunakan alat pengambilan keputusan perekrutan otomatis untuk menyaring calon pekerja, kecuali teknologi tersebut tunduk pada “audit bias” yang dilakukan satu tahun sebelum alat tersebut digunakan.

Perusahaan juga harus memberi tahu karyawan atau kandidat jika alat tersebut digunakan untuk mengambil keputusan pekerjaan.

New York memimpin sebagai negara bagian pertama yang mewajibkan audit untuk solusi kepegawaian AI. Negara bagian dan kota lain seperti Jersey baru Dan Washington DC Mereka kemungkinan besar akan mengikuti dan mempertimbangkan undang-undang serupa untuk mencegah diskriminasi AI dalam pekerjaan.

Mengapa transparansi seputar AI penting?

AI Transparan berarti algoritme terbuka, sumber data yang jelas, dan dialog berkelanjutan tentang implikasi etis dari keputusan yang didorong oleh AI. Tanpa pemahaman yang jelas tentang bagaimana sistem AI mengklasifikasikan dan memilih kandidat, organisasi berisiko melanggengkan bias, mengabaikan individu yang memenuhi syarat, dan menumbuhkan ketidakpercayaan di antara para pencari kerja.

Ini lebih dari sekedar memanfaatkan teknologi canggih untuk mengisi lowongan; Hal ini tentang memastikan solusi AI efektif sekaligus menjaga proses perekrutan tetap adil dan dapat dimengerti oleh semua pihak yang terlibat.

Ditunjuk secara proaktif untuk meninjau kinerja guna memastikan AI tidak memihak

Hired telah mengambil tindakan pencegahan khusus untuk memastikan algoritmenya tetap bebas bias dan kandidat yang memenuhi syarat memiliki peluang yang adil dalam proses perekrutan. Setiap tahun, mitra ditunjuk dengan Kecerdasan buatan holistikuntuk melakukan audit bias, yang merupakan evaluasi teknis terhadap metode organisasi untuk mencegah, mendeteksi, dan memperbaiki bias algoritmik.

“Sebagai pemimpin dalam rekrutmen dan penempatan staf keberagaman, kami bermitra dengan Holistic AI untuk melakukan audit platform guna memastikan algoritme kami tidak memihak,” kata CTO yang ditunjuk, Dave Walters, sementara Undang-Undang Bias AI 2021/144 di New York mulai berlaku awal bulan ini. , kami secara proaktif mendukung undang-undang ini untuk memerangi bias dan mendorong kesetaraan kesempatan dalam pekerjaan. Kami berharap undang-undang ini, serupa dengan undang-undang transparansi gaji, akan menginspirasi negara-negara lain untuk mengadopsi praktik perekrutan yang inklusif.

Fitur yang disewa meningkatkan keragaman dalam perekrutan

Selain melakukan audit rutin menggunakan AI, platform Hired secara aktif memitigasi bias. Mereka mempekerjakan model AI terlatih untuk mencari potensi bias dan terus memperbaikinya. Sistem ML Hired menggunakan teknik pengambilan sampel untuk memastikan bahwa ras, jenis kelamin, atau usia kandidat tidak memengaruhi keputusan algoritme.

“Setiap perusahaan mendapat manfaat dari pelatihan komprehensif model kami,” kata Dave. “Bahkan jika sebagian kecil perusahaan kami memiliki bias mendasar dalam penelusuran mereka, keseluruhan model dilatih di seluruh data semua orang, sehingga mencegah churn yang signifikan.

Hal ini menjawab salah satu kekhawatiran utama masyarakat mengenai alat rekrutmen berbasis AI, yaitu bahwa mereka “dilatih” mengenai hal-hal yang ketinggalan jaman atau… Data yang bias.

Memberikan suaka

Dave menunjukkan contoh yang lebih spesifik tentang perlunya menjelaskan dan memahami prediksi algoritma pembelajaran mesin. “Untuk meningkatkan peluang kandidat untuk disetujui dan sukses di platform, Hired perlu memberikan wawasan tentang kandidat yang belum disetujui di pasar dan bagaimana mereka dapat meningkatkan profil mereka,” katanya.

Saran-saran ini harus dapat dicapai dalam jangka waktu yang wajar dan mengecualikan perubahan radikal, seperti mendapatkan kredit tambahan atau mengembangkan serangkaian keterampilan yang tidak terduga.

Karena pendekatan pembelajaran mesin saat ini kurang memiliki kecepatan dan kapasitas eksekusi atau gagal menemukan perubahan yang dapat diandalkan untuk membatalkan keputusan sistem, kami telah mengembangkan pendekatan kami sendiri terhadap sistem pembelajaran mesin di Hired.

Pengusaha juga mendapat manfaat dari sistem ini. Sistem penilaian kami akan mengabaikan kandidat yang berharga jika tidak memberikan umpan balik yang dapat ditindaklanjuti kepada kandidat. Hal ini dapat menyebabkan perekrut kehilangan kandidat hebat.

Terkait: Pelajari lebih lanjut tentang bagaimana Hired mendukung teknologi dan kandidat penjualan Temui Tim Pengalaman Kandidat yang Dipekerjakan: Mendukung pencari kerja di setiap langkahnya.

Fitur DEI pada platform Hired

Fitur platform perekrutan juga menyediakan DEI dan alat anti-bias untuk membantu perusahaan menampilkan talenta yang kurang terwakili tanpa mengeluarkan kandidat relevan yang cocok.

  • Dengan diaktifkannya penemuan DEI, permintaan wawancara untuk kandidat yang kurang terwakili mencapai 52% dibandingkan dengan 23% jika dinonaktifkan
  • Mode Pengurangan Bias menyembunyikan rincian demografis kandidat untuk mengurangi bias yang tidak disadari oleh pemberi kerja
  • Peringatan Bias Gaji mendorong kompensasi yang transparan dengan memberi tahu pemberi kerja dan kandidat apakah mereka menerima atau meminta gaji yang jauh di atas atau di bawah rata-rata untuk posisi dan tingkat pengalaman mereka.
  • Penilaian keterampilan menstandardisasi proses penilaian dan mendorong perekrutan berbasis keterampilan

Kecerdasan buatan di masa depan tempat kerja

“Kami tidak membayangkan tim akan mengadopsi AI generatif dalam skala besar sebagai a menggantikan Untuk talenta yang berkualitas. Kami melihatnya sebagai aset bagi tim mereka untuk mendorong efisiensi, mengotomatiskan proses yang memakan waktu, dan menutup kesenjangan produktivitas.

Karena kita masih berada pada tahap awal penerapan AI Generatif, terdapat peluang bagi tim pimpinan eksekutif untuk mempertimbangkan bidang-bidang di mana mereka menghadapi hambatan produktivitas yang paling signifikan dan mengidentifikasi bagaimana tim internal dapat berkolaborasi lebih baik dengan teknologi AI Generatif untuk menyederhanakan pekerjaan mereka. bisnis. Alur kerja.”

Terkait: Cara menggunakan AI dalam perekrutan: Wawasan dari Director of Talent Sourcing Activision Blizzard

Jika digunakan dengan benar, Hired melihat lebih banyak peluang daripada ancaman ketika mengintegrasikan AI ke dalam tempat kerja. Tim perekrutan dan akuisisi bakat memahami bahwa waktu sangatlah terbatas. Ada peluang untuk menggunakan AI untuk mengurangi tugas yang memakan waktu dan berulang serta mengalihkan fokus ke hal yang benar-benar penting – aspek yang berpusat pada manusia yang berupaya memaksimalkan dampak.

Terkait: Perekrutan awal, penggunaan AI dalam perekrutan, dan banyak lagi: Rekap Talent Talk to Me pada tanggal 23 Juni

Visi Hired adalah menjadikan proses perekrutan adil, efisien, dan transparan. Berpartisipasi secara proaktif dalam audit AI yang sedang berlangsung adalah bagian dari memperkuat pentingnya visibilitas tersebut.

Apakah Kamu siap untuk membangun kumpulan talenta terbaik yang komprehensif? Dapatkan demo yang disesuaikan dengan kebutuhan unik Kamu.

Apakah Kamu mencari peran teknis atau penjualan berikutnya? Lengkapi profil gratis Kamu hari ini.