هیلکه شلمان، روزنامه نگار در کتاب جدید خود به نام الگوریتم، نرم افزاری را بررسی می کند که غربالگری رزومه و توصیه های تبلیغاتی را خودکار می کند و نگرانی هایی را در مورد تبعیض در استخدام ایجاد می کند.

اگر نگران این هستید که الگوریتم های غربالگری رزومه ممکن است بین شما و شغل رویایی شما قرار بگیرند، خواندن الگوریتم هیلک شلمان شما را نگران تر میکند. کتاب جدید خبرنگار و استاد روزنامه‌نگاری دانشگاه نیویورک، نحوه استفاده دپارتمان‌های منابع انسانی از نرم‌افزار اتوماسیونی را که نه تنها تبعیض را افزایش میدهد، بلکه در کاری که ادعا می‌کند انجام می‌دهد هم شکست می‌خورد، کدام کار؟ یافتن بهترین نامزد برای هر شغلی.

شلمن به عنوان یک شکارچی شغلی آینده نگر برای آزمایش برخی از این نرم افزارها ظاهر شد، نرم افزارهایی که از نمایشگرهای مخصوص و تست های مبتنی بر بازی های ویدیویی تا ارزیابی های شخصیتی که حالات چهره، لحن های صوتی و رفتار رسانه های اجتماعی را تجزیه و تحلیل می کند، را شامل می شوند. یکی از ابزارها او را به عنوان یک گزینه مناسب ارزیابی کرد، حتی وقتی که او به حالت خیلی بدی آلمانی صحبت می کرد. در مقابل یک الگوریتم ارزیابی شخصیت بر اساس استفاده از توییتر به او امتیاز بالایی برای «ثبات» و بر اساس پروفایل لینکدین او امتیاز پایینی داد.

کیتلین هرینگتون: شما در چند سال گذشته در مورد استفاده از هوش مصنوعی در استخدام برای وال استریت ژورنال، بررسی فناوری MIT و گاردین گزارش تهیه کردید. در چه مرحله ای به فکر انتشار کتاب افتادید؟

Hilke Schellmann: یکی زمانی بود که به یکی از اولین کنفرانس های فناوری منابع انسانی در سال 2018 رفتم و با ابزارهای هوش مصنوعی در حال ورود به بازار مواجه شدم. حدود 10000 نفر، صدها فروشنده، تعداد زیادی خریدار و شرکت های بزرگ وجود داشتند. من متوجه شدم که این یک بازار غول پیکر است و در حال تسخیر شغل منابع انسانی است.

شرکت های نرم افزاری اغلب محصولات خود را به عنوان راهی برای حذف تعصبات انسانی در پروسه استخدام ارائه می کنند. اما مطمئناً هوش مصنوعی هم میتواند سوگیری داشته باشد و این خیلی خطرناک تر است. در این بازار حتی غربالگر رزومه را کشف کردیم که با تشخیص عبارت “آفریقایی آمریکایی” در رزومه داوطلب، نمرات آنها را تغییر میداد.

مطمئناً شرکت‌ها خواهند گفت که ابزارهای آنها سوگیری ندارند، اما چگونه آزمایش شده‌اند؟ آیا کسی به این موضوع نگاه کرده است که در شرکت کار نمی کند؟

کتابچه راهنمای یکی از شرکت‌ها بیان می‌کند که هوش مصنوعی استخدامی آن‌ها بر اساس داده‌های دانشجویان ۱۸ تا ۲۵ ساله آموزش دیده است. آنها ممکن است به تازگی چیزی بسیار خاص برای افراد 18 تا 25 ساله پیدا کرده باشند که برای سایر کارگرانی که ابزار مورد استفاده قرار گرفته است قابل استفاده نیست.

تنها صدمات زیادی وجود دارد که یک مدیر استخدام انسانی می تواند وارد کند، و بدیهی است که ما باید سعی کنیم از آن جلوگیری کنیم. اما الگوریتمی که برای امتیاز دهی به صدها هزار کارگر استفاده می‌شود، در صورت ایراد، می‌تواند به تعداد بیشتری از افراد دیگر آسیب برساند.

زمانی که هوش مصنوعی تبعیض قائل می شود، مسئولیت این موضوع با چه کسی است؟

این یک سوال باز است زیرا ما دعوی قضایی ندیده ایم. بسیاری از وکلا می گویند که شرکتی که استخدام را انجام می دهد در نهایت مسئول است، زیرا آن شرکت تصمیم گیری استخدام می کند. من فکر می کنم همه کارفرمایان امیدوارند که این ابزارها موفق ترین کاندیداها را پیدا کنند، اما ما شواهد زیادی برای اثبات این حرف نداریم.

شاید ساده لوحانه فکر کردم که مردم بیشتر آگاه می شوند که نمی توان کورکورانه به هوش مصنوعی اعتماد کرد و اغلب به مداخله انسانی نیاز دارد. اما برای بسیاری از شرکت‌ها، تشخیص این موضوع مخالف صرفه‌جویی در زمان که هدف اصلی استفاده از این ابزار های بوده را نفی می‌کند.

بسیاری از فروشندگان از شبکه‌های عصبی عمیق برای ساخت این نرم‌افزار هوش مصنوعی استفاده می‌کنند، بنابراین اغلب نمی‌دانند که این ابزار دقیقاً پیش‌بینی‌های خود را بر چه اساسی استوار می‌کند. اگر یک قاضی از آنها بپرسد که چرا کسی را رد کرده اید، بسیاری از شرکت ها احتمالاً نمی توانند پاسخ دهند. این یک مشکل در تصمیم گیری های پرمخاطره است. ما باید بتوانیم ابزار را بررسی کنیم. شاید بهتر باشد همه مردم آموزش هوش مصنوعی را شروع کنند!

شما برخی از این ارزیابی‌های شخصیتی مبتنی بر بازی و تجزیه و تحلیل حالات چهره را با شبه‌علوم باستانی مانند فیزیوگنومی و فرنولوژی مقایسه می‌کنید. چه چیزی این ارتباط را در ذهن شما ایجاد کرد؟

فکر می‌کنم از زمانی شروع شد که مطالعه «Gaydar» منتشر شد، که سعی کرده بود واقعیت افرادی که خود را همجنس‌گرا یا دگرجنسگرا می‌شناسند با استفاده از یک الگوریتم و عکس‌های یک برنامه دوستیابی پیدا کند. هنوز این باور عمیق وجود دارد که سیگنال‌های بیرونی، حالات چهره، نحوه حرکت بدن ما، آهنگ صداهای ما، واقعیت ما را مشخص می‌کنند. ما این را در گذشته با تجزیه و تحلیل حالات چهره در قرن نوزدهم دیده‌ایم که ادعا می‌کرد مجرمان چهره‌های متفاوتی با غیر مجرمان دارند، یا تحلیل دست‌خط. واقعاً هیچ علمی پشت آن نبود، اما این چیز های همیشه جذاب هستند.

یک کامپیوتر می تواند یک لبخند را تشخیص دهد، اما کامپیوتر نمی داند که آیا من از زیر آن خوشحال هستم یا خیر.

هوش مصنوعی مولد در واقع مقداری قدرت را به متقاضیان شغل بازگردانده است. من افراد زیادی را در رسانه های اجتماعی دیده ام که در مورد نحوه استفاده از ChatGPT برای ساختن رزومه بهتر و نوشتن نامه های کاری صحبت می کنند. برخی از متقاضیان از آن برای آموزش پاسخ به سوالات مصاحبه استفاده می کنند. در اینجا هوش مصنوعی را در مقابل هوش مصنوعی قرار داده ایم.

ابزارهای آنلاینی وجود دارد که می توانید شرح شغل و رزومه خود را آپلود کنید و با کمک الگوریتم های مختلف میزان همپوشانی رزومه شما و پوزیشن شغلی مورد نظرتون رو محاسبه کند. شما نمی خواهید از 100 درصد نیاز نیست رزومه خود را 100 درصد طبق آگهی شغلی بهینه کنید، شعار قدیمی «شما باید متمایز شوید» با ورود این ابزارها دیگر قابل اجرا نیست، زیرا به احتمال زیاد رزومه شما توسط هوش مصنوعی بررسی می‌شود که بیشتر از آن چیزی که بیشتر مردم فکر می‌کنند مستعد خطا است. بنابراین یک ستون داشته باشید و بخش هایی مانند “تجربه کاری” و “مهارت ها” را به وضوح برچسب گذاری کنید تا کامپیوتر بتواند آنها را بخواند.

یکی دیگر از مواردی که ممکن است به شما کمک کند که مورد توجه قرار بگیرید تماس با استخدام کنندگان در لینکدین پس از ارسال یک اپلیکیشن (درخواست کاری) است. من از صحبت با بسیاری از استخدام‌کنندگان یاد گرفتم که ممکن است بخواهید درخواست خود را مستقیماً از طریق وب‌سایت شرکت ارسال کنید، زیرا استخدام‌کنندگان ابتدا به اینجا نگاه می‌کنند و سپس به پلتفرم های شغلی مانند LinkedIn یا Indeed می روند.

به نظر شما دولت باید چه نقشی در تنظیم قوانین برای این ابزارها داشته باشد؟

برخی از کارشناسان می گویند ما باید یک آژانس مجوز دولتی داشته باشیم که ابزارهایی که برای تصمیم گیری های پرمخاطره استفاده می شوند را آزمایش کند. من مطمئن نیستم که آیا دولت ها توانایی انجام این کار را دارند یا خیر، زیرا این یک تعهد بزرگ خواهد بود. اما من امیدوارم که دولت شفافیت بیشتری را اعمال کند و دسترسی به داده‌ها را باز کند که به محققان، دانشمندان و روزنامه‌نگاران این امکان را می‌دهد تا خودمان وارد عمل شویم و آزمایش ها را انجام دهیم.

آکادمی فرااپلای با برگزاری بوت کمپ آنلاین هوش مصنوعی، فرصتی را برای علاقه‌مندان به یادگیری هوش مصنوعی فراهم می‌کند تا با کسب مهارت‌های مورد نیاز، در این حوزه به موفقیت دست یابند. این بوت کمپ با بهره‌گیری از اساتید اروپایی و محتوای آموزشی باکیفیت، به دانشجویان کمک می‌کند تا در مدت زمان کوتاهی، دانش و مهارت‌های لازم برای ورود به بازار کار هوش مصنوعی را کسب کنند. اگر علاقه مند به آموزش هوش مصنوعی هستیند این فرصتی عالی برای شما است تا با کسب مهارت‌های مورد نیاز، در این حوزه به موفقیت دست یابند.