एआई रिज्यूम स्क्रीनिंग और एट्रिशन स्कोरिंग के बारे में हर बहस एक ही मूक तुलना करती है: एल्गोरिदम बनाम एक निष्पक्ष, सुसंगत, पूर्वाग्रह-मुक्त मानव समीक्षक। वह समीक्षक मौजूद नहीं है, और एक बार जब आप तुलना छोड़ देते हैं, तो अधिकांश घबराहट बहुत अधिक जटिल हो जाती है।
छोटे और मध्यम आकार के व्यवसायों के लिए वास्तविक आधार रेखा नियुक्ति पक्ष पर असंरचित आंत-फील बायोडाटा समीक्षा है और प्रतिधारण पक्ष पर तथ्य के बाद आश्चर्य, त्याग पत्र किसी ने आते नहीं देखा। उस आधार रेखा के विरुद्ध मापे जाने पर, एल्गोरिथम स्कोरिंग सहित संरचित स्कोरिंग, आमतौर पर जीतती है। कठिन सवाल यह नहीं है कि क्या एआई पक्षपाती है। सभी मूल्यांकनकर्ता हैं. यह है कि एल्गोरिथम पूर्वाग्रह मानव पूर्वाग्रह से भिन्न व्यवहार करता है, और वह अंतर वह है जो वास्तव में कुछ भी खरीदने या प्रतिबंधित करने से पहले आपका ध्यान आकर्षित करता है।
आप जो आधार रेखा बदल रहे हैं वह पहले से ही भेदभावपूर्ण है
कार्मिक मनोविज्ञान सामाजिक विज्ञानों में सबसे अधिक दोहराए गए निष्कर्षों में से एक है: संरचना आंत की भावना को मात देती है। श्मिट और हंटर के 85 वर्षों के चयन अनुसंधान के 1998 संश्लेषण ने संरचित साक्षात्कारों को असंरचित साक्षात्कारों के लिए r = .38 के मुकाबले r = .51 की वैधता पर रखा, जिसमें असंरचित साक्षात्कार पूर्वानुमानित पदानुक्रम के निचले भाग के निकट बैठे। सैकेट, झांग, बेरी और लिवेन्स द्वारा 2022 के पुन: विश्लेषण ने संख्याओं पर दोबारा गौर किया और, यदि कुछ भी हो, तो उपलब्ध कार्य प्रदर्शन के एकल सर्वोत्तम भविष्यवक्ता के रूप में संरचना के मामले को मजबूत किया। संरचित साक्षात्कारों की तुलना में असंरचित साक्षात्कार भी पूर्वाग्रह के प्रति अधिक संवेदनशील होते हैं।
और “गट फील” एक तटस्थ प्लेसहोल्डर नहीं है। यह एक प्रलेखित भेदभाव मशीन है। बर्ट्रेंड और मुलैनाथन के 2004 के फील्ड प्रयोग ने बोस्टन और शिकागो में 1,300 नौकरी विज्ञापनों के लिए लगभग 5,000 काल्पनिक बायोडाटा भेजे। सफ़ेद-ध्वनि वाले नामों के समान बायोडाटा में काले-ध्वनि वाले नामों के लिए 6.45% के मुकाबले 9.65% कॉलबैक दर प्राप्त हुई, जिसका अर्थ है कि समान योग्यताओं के लिए सफ़ेद-ध्वनि वाले नामों को लगभग 50% अधिक कॉलबैक मिला। यह वास्तविक आधारभूत एआई उपकरण है जो कुछ आदर्शीकृत मानव मूल्यांकनकर्ता नहीं, बल्कि प्रतिस्थापित कर रहे हैं।
मानवीय विवेक को दूर करने का प्रमाण उतना ही प्रत्यक्ष है। हॉफमैन, काह्न और ली के 15 सेवा-क्षेत्र फर्मों में नौकरी-परीक्षण रोलआउट के 2018 के अध्ययन में पाया गया कि जिन प्रबंधकों ने एल्गोरिदमिक सिफारिशों को ओवरराइड किया, वे औसतन खराब नियुक्तियों के साथ समाप्त हुए, और उच्च परीक्षण स्कोर ने लंबे कार्यकाल की भविष्यवाणी की। जब प्रबंधक किसी टूल की सिफ़ारिश से विचलित होते हैं, तो वह विचलन आम तौर पर पूर्वाग्रह जैसा दिखता है, बेहतर निर्णय नहीं।
विफलता मोड अधिक पूर्वाग्रह नहीं है. यह एकसमान पूर्वाग्रह है.
यहीं पर यह वास्तव में कठिन हो जाता है। मानवीय पूर्वाग्रह असंगत है: यह प्रबंधक, मनोदशा और कंपनी के अनुसार भिन्न होता है, इसलिए एक अस्वीकृत उम्मीदवार को आमतौर पर कहीं और अन्य शॉट मिलते हैं। एल्गोरिथम पूर्वाग्रह व्यवस्थित है। एक ही मॉडल, हजारों नियोक्ताओं में तैनात किया गया है, प्रत्येक उम्मीदवार पर एक ही समय में एक ही तिरछा लागू होता है, और यह एक संख्या के अधिकार को धारण करते हुए ऐसा करता है।
अमेज़ॅन का स्क्रैप्ड रेज़्युमे टूल इसका प्रामाणिक उदाहरण है। एक दशक के पुरुष-प्रधान नियुक्ति डेटा पर प्रशिक्षित, इसने खुद को “महिला” शब्द को दंडित करना और महिला कॉलेजों के स्नातकों को डाउनग्रेड करना सिखाया। अमेज़ॅन ने प्रोजेक्ट को ख़त्म कर दिया क्योंकि वह इस बात की गारंटी नहीं दे सकता था कि मॉडल को उसी पैटर्न के लिए नए प्रॉक्सी नहीं मिलेंगे।
वह पैटर्न ख़त्म नहीं हुआ है. विल्सन और कैलिस्कन द्वारा 2024 के ऑडिट में नौ व्यवसायों में बायोडाटा स्क्रीनिंग में उपयोग किए जाने वाले ओपन-सोर्स एम्बेडिंग मॉडल का परीक्षण किया गया और पाया गया कि उन्होंने 85.1% मामलों में सफेद-संबंधित नामों का समर्थन किया और केवल 11.1% मामलों में महिला-संबंधित नामों का समर्थन किया, जिसमें काले पुरुष उम्मीदवार 100% तक परीक्षण किए गए परिदृश्यों में वंचित थे। GPT-4 श्रेणी के मॉडलों के एक अलग स्टैनफोर्ड लॉ ऑडिट में 42 अलग-अलग प्रॉम्प्ट टेम्प्लेट में नस्लीय अल्पसंख्यकों और महिलाओं से जुड़े नामों के लिए लगातार नुकसान पाया गया, जिसमें अश्वेत महिलाएं सबसे खराब रहीं। पूर्वाग्रह कोई बग नहीं है जो कभी-कभार दिखाई देता है। यह डिफ़ॉल्ट सेटिंग है, जिसे मॉडल तैनात किए जाने पर हर जगह दोहराया जाता है।
किसी भी एल्गोरिदम के एकल स्कोर चलाने से पहले भी इसे बेक किया जा सकता है। 2011 में नौकरी-विज्ञापन भाषा पर शोध, जिसे स्टार्टअप्स के लिए 2024 में फिर से दोहराया गया, से पता चलता है कि “प्रतिस्पर्धी” और “प्रमुख” जैसे मर्दाना-कोडित शब्द पुरुषों की प्रतिक्रिया को प्रभावित किए बिना महिलाओं के लिए नौकरी की आकर्षकता को कम कर देते हैं। यदि नौकरी का विवरण टेढ़ा है, तो एआई के छूने से पहले ही आवेदक पूल टेढ़ा हो जाता है।
प्रतिधारण पक्ष बहुत कमज़ोर दावा है
एक अवधारणा के रूप में कर्मचारी सहभागिता ठोस अनुसंधान पर टिकी हुई है। गैलप का Q12 कार्यक्रम अब लगभग 184,000 व्यावसायिक इकाइयों और 3.3 मिलियन कर्मचारियों पर 736 अध्ययनों को फैलाता है, और यह संगठनात्मक स्तर पर टर्नओवर के साथ जुड़ाव को विश्वसनीय रूप से जोड़ता है। लेकिन यह भविष्यवाणी करना कि कौन सा विशिष्ट कर्मचारी नौकरी छोड़ने वाला है, एक अलग और बहुत ही चौंकाने वाला दावा है। सबसे मजबूत प्रकाशित सटीकता संख्याएं, अक्सर 85 से 98%, लगभग पूरी तरह से 1,470 काल्पनिक रिकॉर्ड के एक छोटे सिंथेटिक डेटासेट से आती हैं, और जो पेपर इसका उपयोग करते हैं वे नियमित रूप से ओवरफिटिंग की बात स्वीकार करते हैं। जब आईबीएम के अपने सीईओ ने 2019 में एक सम्मेलन में 95% सटीकता का दावा किया, तो वह एक मार्केटिंग स्टेटमेंट था, कोई मान्य परिणाम नहीं। गार्टनर की हेलेन पोइटेविन, इस क्षेत्र में अधिक विश्वसनीय स्वतंत्र आवाज़ों में से एक, यथार्थवादी उड़ान-जोखिम सटीकता को 70 से 80% के करीब रखती है, और कहती है कि उन्हें 90% या बेहतर का दावा करने वाले विक्रेताओं पर संदेह है।
वैसे भी बड़ा मुद्दा सटीकता नहीं है। ऐसा तब होता है जब कोई प्रबंधक उड़ान-जोखिम स्कोर देखता है। मानव संसाधन विश्लेषकों और एसएचआरएम के स्वयं के रिपोर्टिंग दस्तावेज़ में एक सुसंगत दंडात्मक पैटर्न है: कर्मचारियों को उड़ान जोखिम के रूप में चिह्नित किया जाता है, उन्हें उच्च-संभावना वाले ट्रैक से चुपचाप खींच लिया जाता है या विकास के लिए पार कर दिया जाता है, जो कि उपकरण द्वारा सक्षम की जाने वाली प्रारंभिक-चेतावनी, सहायक बातचीत के विपरीत है। Intuit और HireVue के खिलाफ एक लंबित ACLU शिकायत, जो अभी भी अप्रमाणित है और दोनों कंपनियों द्वारा अस्वीकार की गई है, का आरोप है कि स्वचालित भाषण स्कोरिंग ने एक बधिर कर्मचारी के स्क्रिप्ट के अनुपालन को गलत तरीके से पढ़ा और उसके पुन: असाइनमेंट में योगदान दिया। नतीजा चाहे जो भी हो, यह दर्शाता है कि यह श्रेणी निगरानी की उस बढ़त की ओर बढ़ सकती है, जिसकी ओर बिना सोचे-समझे किसी तरह की रोक-टोक की जा सकती है।
इनमें से कोई भी उतना मायने नहीं रखता अगर एआई स्क्रीनिंग और एट्रिशन स्कोरिंग कानूनी सलाहकार और स्टैंडबाय पर ऑडिट बजट के साथ एंटरप्राइज़ एचआर विभागों के अंदर बंद रहे। उन्होंने नहीं किया. सुविधाएं तेजी से बाजार में नीचे चली गई हैं, और पांच व्यक्तियों की कंपनी अब वही “उद्देश्य स्कोर” खरीद सकती है जिसके लिए फॉर्च्यून 500 एचआर एनालिटिक्स टीम की आवश्यकता होती थी।
यहां बहुवचन पर करीब से नजर डालने लायक है, ठीक इसलिए क्योंकि इसे बाजार के लिए अनुकूलित करने के बजाय इसी छोर के लिए बनाया गया था। यह छोटी टीमों के लिए एक करियर पेज और आवेदक ट्रैकिंग परत है: उम्मीदवार एक ब्रांडेड लिंक के माध्यम से आवेदन करते हैं, प्रत्येक आवेदन को आपके नौकरी विवरण और भर्ती मार्गदर्शन के अनुसार स्वचालित रूप से स्कोर किया जाता है, और प्लुरल एक खाली संख्या के बजाय उम्मीदवार के प्रासंगिक अनुभव और अंतराल के सादे भाषा सारांश लिखता है। आप अपनी स्वयं की पाइपलाइन खोज सकते हैं जिस तरह से आप किसी सहकर्मी से पूछ सकते हैं, कुछ इस तरह कि “सैलून नेतृत्व अनुभव वाले ब्रुकलिन स्टाइलिस्ट,” और यह कीवर्ड ट्रिक्स के बजाय अर्थ के आधार पर मेल खाता है। यह साक्षात्कार शेड्यूलिंग को आपके कैलेंडर के साथ समन्वयित करता है, नए-एप्लिकेशन अलर्ट को स्लैक पर भेजता है, और सीधे क्लाउड या चैटजीपीटी से जुड़ता है ताकि आप सामान्य बातचीत में नियुक्ति संबंधी प्रश्न पूछ सकें। एक छोटे व्यवसाय के लिए जिसमें कभी एटीएस नहीं था, आई/ओ मनोवैज्ञानिक की तो बात ही छोड़ दें, यह संरचित, रक्षात्मक नियुक्ति के लिए सार्थक रूप से निचली मंजिल है।
यह एक व्यापक लहर के साथ बैठता है: जैज़एचआर का हीरो प्लान $40 प्रति माह से शुरू होता है, बैम्बूएचआर तीसरे पक्ष के एआई स्क्रीनर्स को बंडल करता है जो सीधे उम्मीदवार प्रोफाइल में 0 से 100 मैच स्कोर लिखते हैं, ब्रीज़ी एचआर अपने भुगतान किए गए स्तरों पर एआई क्रेडिट भेजता है, और कल्चर एम्प, लैटिस और वर्कडे पीकॉन सभी अब एंटरप्राइज़ ऐड-ऑन के बजाय एक मानक सुविधा के रूप में भविष्य कहनेवाला एट्रिशन स्कोरिंग प्रदान करते हैं। दिशा स्पष्ट है. टूलींग के लिए एक अनुपालन टीम की आवश्यकता होती थी। अब इसके लिए क्रेडिट कार्ड की जरूरत पड़ती है.
वास्तव में इसके बारे में क्या करना है
सबूत इन उपकरणों पर प्रतिबंध लगाने की ओर इशारा नहीं करते हैं, और यह उन पर आँख बंद करके भरोसा करने की ओर भी इशारा नहीं करते हैं। यह एक विशिष्ट, उबाऊ, रक्षात्मक प्लेबुक की ओर इशारा करता है।
-
नियुक्ति पक्ष में संरचित स्कोरिंग अपनाएं। इस बात के सबूत कि संरचना आंत की भावना को मात देती है, इतना जबरदस्त है कि “एआई पक्षपाती हो सकता है” आपको असंरचित समीक्षा में वापस नहीं लाना चाहिए, जो वैधता और निष्पक्षता दोनों पर बदतर है।
-
लिखित रूप में असमान प्रभाव वाले ऑडिट की मांग करें और इसे अद्यतन रखें। अपने विक्रेता से सीधे पूछें कि क्या उपकरण का नस्ल, लिंग और उम्र के प्रतिकूल प्रभाव के लिए परीक्षण किया गया है, और क्या यह NYC स्थानीय कानून 144-शैली के प्रकटीकरण को पूरा करता है, भले ही आप न्यूयॉर्क में नहीं रहते हों। “हमारा उपकरण पूर्वाग्रह-मुक्त है” एक लाल झंडा है, आश्वासन नहीं। ईईओसी ने इतना स्पष्ट रूप से कहा है।
-
एक इंसान को लूप में रखें, और स्कोर को समर्थन के रूप में मानें, नियमों के रूप में नहीं। EEOC के iTutorGroup निपटान और चल रहे Mobley बनाम कार्यदिवस मामले दोनों ही सार्थक मानवीय समीक्षा के बिना स्वचालित अस्वीकृति पर आधारित हैं। एक कठिन कटऑफ कानूनी जोखिम है। एक रैंक वाली शॉर्टलिस्ट जिसे कोई व्यक्ति वास्तव में पढ़ता है वह बचाव योग्य है।
-
प्रतिधारण पर, उड़ान-जोखिम डेटा को समग्र रूप से रिपोर्ट करें, व्यक्तिगत प्रबंधकों को नाम से कभी नहीं। यह एक ऐसी रेलिंग है जिस पर इस क्षेत्र का हर गंभीर विश्लेषक सहमत है। वेतन और पदोन्नति वेग जैसे प्रणालीगत चालकों को ठीक करने के लिए सिग्नल का उपयोग करें, न कि जिन लोगों को यह चिह्नित करता है उन्हें चुपचाप किनारे करने के लिए।
-
80% के उत्तर में किसी भी सटीकता के दावे पर छूट दें। प्रतिधारण-भविष्यवाणी साहित्य पतला है और लगभग पूरी तरह से एक सिंथेटिक डेटासेट पर बनाया गया है। विक्रेता सटीकता संख्याओं को तब तक मार्केटिंग के रूप में मानें जब तक वे आपके अपने कार्यबल के विरुद्ध सिद्ध न हो जाएँ।
तल – रेखा
नियामक स्तर तेजी से और असमान रूप से बढ़ रहा है। EU AI अधिनियम अगस्त 2026 में दायित्वों के साथ नियुक्ति और निगरानी उपकरणों को उच्च जोखिम के रूप में वर्गीकृत करता है। NYC के स्थानीय कानून 144 के लिए पहले से ही वार्षिक पूर्वाग्रह ऑडिट की आवश्यकता है। ईईओसी ने अपना पहला एआई भर्ती मामला पहले ही सुलझा लिया है, और मोब्ले बनाम वर्कडे देश भर में लाखों आवेदकों तक पहुंच सकता है। राज्य का कानून एक ही समय में हर दिशा में आगे बढ़ रहा है, जिसका मतलब है कि इसके हर संस्करण में जो सुरक्षा उपाय मौजूद हैं, वे वही हैं जो नियामक द्वारा आपको बनाए जाने से पहले अपनी शर्तों पर अपनाने लायक हैं: एक इंसान को लूप में रखें, अलग-अलग प्रभाव के लिए ऑडिट करें, और स्कोर को निर्णय के लिए शुरुआती बिंदु के रूप में उपयोग करें, न कि इसके प्रतिस्थापन के रूप में।
एआई ने नियुक्ति और प्रतिधारण में पूर्वाग्रह का आविष्कार नहीं किया। यह जिस असंरचित प्रक्रिया की जगह ले रहा है वह पहले से ही चुपचाप भेदभावपूर्ण थी, बस असंगत रूप से। एआई जो बदलता है वह समस्या का स्वरूप है: पूर्वाग्रह जो बिखरा हुआ होता था और साबित करना कठिन होता था अब व्यवस्थित है और ऑडिट करना आसान है, अगर कोई देखने की जहमत उठाता है। यह इन उपकरणों से बचने का कोई कारण नहीं है। यह उसे चुनने का कारण है जो पारदर्शी रूप से स्कोर करता है, खुद को सरल भाषा में समझाता है, और आपको ब्लैक बॉक्स के बजाय एक ऑडिट ट्रेल देता है।
