В последнем эпизоде нашей серии AI at Work Partner Парень Бреннер и главный адвокат Джонатан Медрейк Приближаясь к критической проблеме: расхождения между способом, которым разработаны инструменты искусственного интеллекта (или ИИ), и как они действительно используются на практике. Многие разработчики ИИ подчеркивают свои тщательные усилия по устранению смещений, заверяя работодателей, что их инструменты являются справедливыми и объективными, но система, предназначенная для предвзятости, может всегда давать предвзятые результаты, если они плохо используются. Заставьте вас затем подключить, чтобы мы исследуем примеры реального мира этих рисков и того, что работодатели могут сделать, чтобы убедиться, что они воспользуются искусственным интеллектом ответственным образом.
Парень Бреннер: Добро пожаловать в Проскауэром: горячие предметы в области труда и трудового законодательства. Я — парень Бреннер, партнер группы споров и советов о занятости Proskauer, базирующейся в Вашингтоне, округ Колумбия, ко мне присоединился мой коллега, Джонатан Струйк, специальный юридический консультант в практической группе, базирующейся в Лос -Анджелесе. Это последний эпизод нашей первой серии в нескольких частях, подробно описывающих то, что работодатели должны знать об использовании искусственного интеллекта или ИИ с точки зрения решений о занятости, таких как найм и продвижение по службе. Джонатан, спасибо, что присоединились ко мне сегодня.
Джонатан Медрейк: Это здорово быть здесь, парень.
Парень Бреннер: Итак, если наши слушатели не слышали предыдущие платежи серии, мы рекомендуем вам вернуться и послушать их. В первой части мы переживаем то, что мы надеемся стать полезным контекстом о том, что такое ИИ, и о решениях, которые он предлагает работодателям. Во второй части мы говорим о проблемах с данными обучения и о том, как это может привести к предвзятым прогулкам или иным образом проблематично с инструментами искусственного интеллекта. В третьей части мы обсудили так называемые проблемы черного ящика. Другими словами, проблемы, которые возникают из -за того, что может быть трудно понять внутреннее функционирование многих передовых систем ИИ. Сегодняшний эпизод касается смещений между дизайном инструмента ИИ и тем, как инструмент используется на практике. Джонатан, на фоне, разработчики ИИ обычно прилагают много усилий, чтобы устранить предубеждения из своих продуктов, верно?
Джонатан Медрейк: Да, это правда. И это основной аргумент для продажи для многих из этих разработчиков. Работодатели, очевидно, заинтересованы в обеспечении того, чтобы они развернули инструмент, который не будет создавать непроизвольный путь. И поэтому, если вы продолжите почти все веб -сайты этих разработчиков, вы можете найти заявления или даже полные страницы о усилиях и продолжительности, которые они проходят, чтобы гарантировать, что они публикуют продукты без предвзятости. И это должно обеспечить некоторый комфорт работодателям. Это явно то, что разработчики участвуют в конкуренции. Но даже если продукт действительно без обзора, он все равно может дать предвзятые результаты, если он будет развернут таким образом, что разработчик не собирался делать этот бетон. Я хочу пройти несколько примеров. Итак, давайте сначала предположим, что работодатель просит его сканер учебного плана, чтобы фильтровать кандидатов, которые находятся более чем на определенном расстоянии от рабочего места. Возможно, в той теории, что эти люди с меньшей вероятностью будут серьезными кандидатами на эту должность. И если вы помните, в первой части этой серии менеджеры по найму перегружены приложениями в наши дни. Учитывая возможность отправки крупных CVS на таких платформах, как LinkedIn или даже. Парень, вы видите проблему с этими конкретными критериями проверки?
Парень Бреннер: Ну, Джонатан, я вижу привлекательность. И я также могу увидеть, как я могу сделать что -то подобное, на что менеджеры по работе думали в прошлом, когда это было бы невозможно. Знаете, из -за скорости, эффективности и способности ИИ делать что -то через несколько секунд. И это кажется беспристрастным и объективным, и это рациональная база, чтобы попытаться уменьшить многие виды учебных программ, работодатели, работодатели, затопляются каждый раз, когда они пытаются обеспечить должность. Но дело в том, что многие из мест, где мы живем, очень разделены расой и этнической принадлежностью. Таким образом, в зависимости от места, где находится рабочее место, этот тип подхода может обнаружить законных кандидатов некоторых породов непропорционально, даже если это не намерение.
Джонатан Медрейк: ВЕРНО. И даже если бы это было то, что вы могли бы сделать вручную, менеджер по работе может просто решить бросить все виды учебного плана определенного почтового кода. Делать это с помощью технологий увеличивает риск. Опять же, менеджер по работе, выполняющий это вручную, мог бы начать замечать модель в данный момент времени и осознавая, что этот критерий проверки создал нерепрезентативный пул. Разница с использованием программного обеспечения для такого рода вещей заключается в том, что это может быть сделано в больших масштабах очень быстро, и показывает только вывод. Итак, тот же менеджер по работе, который делает это с помощью технологий, мог в основном обнаружить расовые меньшинства и понятия не имеет, что это было даже так. Все в порядке. Гипотетический следующий. И если работодатель использует инструмент, который пытается проверить историю кандидата, ссылаясь на социальные сети, то стимулирует кандидатов, чья история поддается подтверждению таким образом? Проблемы с этим?
Парень Бреннер: Что ж, тот, кто приходит мне в голову, я имею в виду, что я не думаю, что это спорное предложение, что в целом молодые кандидаты более активны в социальных сетях, чем кандидаты старше. И я думаю, что это усугубляется в соответствии с платформой, о которой мы говорим.
Джонатан Медрейк: Таким образом, у нас есть данные по этому вопросу. Поэтому это не стереотип. На самом деле это на Pew Research, опубликованные данные, подтверждающие то, что я все думаю, что я думаю.
Парень Бреннер: ВЕРНО. Поэтому нетрудно представить себе адвоката предприимчивого заявителя, утверждающего, что такой инструмент проверки может оказать разнородное влияние на пожилых кандидатов. Я также был бы обеспокоен, если оценка получает другую информацию о страницах в социальных сетях, которая может быть использована в качестве прокси для дискриминационных решений.
Джонатан Медрейк: Хорошо, еще одна гипотетическая. Предположим, что работодатель, пытающийся заполнить позиции для колл -центра, использует тест, который пытается предсказать, сможет ли заявитель управлять отвлекающими факторами в типичных условиях труда. И предположим, что этот колл -центр, который включает в себя много фоновых значений. Поэтому это явно механизм скрининга, который проверяет что -то, что связано с работой. Работодатель хочет увидеть, как этот человек будет работать в соответствии с условиями, в которых мы ожидаем, что он будет размещен, когда мы действительно поместим его в работу. Есть ли проблема с этим типом теста?
Парень Бреннер: Что ж, во -первых, как и любой другой тест, вы хотели бы знать, оказывает ли сам тест разнородным влиянием на конкретную группу, вы хотели бы подтвердить его. Но я также хочу знать, осмотрели ли компания, будут ли некоторые кандидаты иметь право на разумное жилье. Например, вы можете представить кого -то, кто находится в нейродиамах, который плохо работает над этим типом симуляции, но кому очень хорошо управляет, если им поставлялись наушники с шумоподавлением.
Джонатан Медрейк: В обязательном порядке. И это то, что EEOC выразил совет. Многие из этих типов моделирования профессиональных навыков предназначены для проверки способности кандидата выполнять задачи, предполагая типичные условия труда, как это делал работодатель в этом примере. Но EEOC сказал, что многие сотрудники -инвалиды не работают в нетипичных условиях труда, потому что они работают с разумным жильем. Таким образом, по этой причине зависимость от теста, не принимая во внимание влияние на людей с ограниченными возможностями и, если тест должен позволить жилье, потенциально проблематично.
Парень Бреннер: Что ж, спасибо, Джонатан, и тем, кто слушает, спасибо, что присоединились к нам в кратком изложении Проскауэра. Мы надеемся, что вы нашли эту информативную серию. И обратите внимание, что, как гарантирует разработки, мы будем записывать новые подкасты, которые помогут вам оставаться в курсе этой захватывающей и постоянно развивающейся области права и технологий. Также обязательно следуйте за нами на подкастах Apple, на YouTube Music и Spotify, чтобы вы могли оставаться выше последних горячих предметов труда и трудового права.
