ИИ не будет просто работать в сфере ИТ
Разнообразие — это сильная сторона, особенно когда речь идет о разработке искусственного интеллекта. Вот почему в проектировании и разработке ИИ должны участвовать люди разного профессионального образования, от юриспруденции до творческих искусств. Однако многие команды, пытающиеся подключиться через ИИ, часто сталкиваются с серьезным камнем преткновения: путаницей.
Джеймс ЛэндейПрофессор компьютерных наук в Стэнфордском университете в недавнем докладе обосновал необходимость краудсорсинга искусственного интеллекта. подкастзаявив, что целостное проектирование систем ИИ с самого начала теперь является наиболее важной частью внедрения ИИ. ИИ не добьется успеха без ценностей, ориентированных на человека, настаивал Лэндей во время беседы с Лорен Йистарший партнер McKinsey.
Лэндей: переход к ИИ, ориентированному на человека, — это не только приложения. соучредитель и содиректор Стэнфордский институт человекоориентированного искусственного интеллекта (HAI), пояснил. «Речь идет также о том, как мы создаем и проектируем эти системы искусственного интеллекта, кого мы привлекаем к этой разработке и как мы способствуем более ориентированному на человека процессу, когда создаем и оцениваем системы искусственного интеллекта».
Проблема ИИ в его непредсказуемости. Это другой тип технологии, чем, скажем, ПК, «и в некотором смысле он не так надежен», — сказал Лэндей. Это связано с тем, что системы ИИ являются вероятностными и могут давать разные результаты в зависимости от получаемых данных, по сравнению с детерминистическими системами, «где одни и те же входные данные всегда дают один и тот же результат». Нам нужно по-другому думать о разработке систем искусственного интеллекта.
Загружайте данные в вероятностные модели ИИ «и получайте разные результаты, в зависимости от того, как эти данные обрабатываются в этой огромной нейронной сети», — сказал он. Вероятностные модели также порождают галлюцинации или утверждения, которые не соответствуют действительности. «Мы даже не знаем, почему это происходит, и это на самом деле одна из самых больших проблем для тех, кто создает эти модели».
Это затрудняет управление системами ИИ, когда они выходят из строя. «Вот почему нам нужно по-другому подумать о разработке систем искусственного интеллекта, потому что они станут повсеместными в нашей повседневной жизни, от здравоохранения до образования и государственного управления», — сказал Лэндей.
«Сейчас у нас в основном есть инженерные группы, такие как ответственные группы искусственного интеллекта или группы безопасности, которые должны проверять продукты перед выпуском. К сожалению, существует множество стимулов просто выбросить что-то за дверь. И у этих команд на самом деле нет социального капитала, чтобы остановить это.
Вместо этого в процесс проектирования и разработки необходимо интегрировать разнообразный опыт. «Нам нужны команды, которые объединят эти разные дисциплины – социологов, гуманитариев, специалистов по этике – потому что тогда проблемы будут обнаружены раньше. И как члены команды, эти люди будут обладать социальным капиталом, чтобы осуществить эти изменения.
Одна из проблем открытого, междисциплинарного подхода к ИИ заключается в том, что на переполненной кухне работает много поваров. «Люди в разных областях говорят на разных языках, поэтому одни и те же слова могут означать разные вещи для разных людей», — предупредил Лэндей. «Например, я работаю над проектом с профессором английского языка и кем-то из медицинской школы. И то, что они называют «пилотным исследованием», — это не то, что я бы назвал «пилотным исследованием».
В то же время такая путаница, возможно, не так уж и плоха: она может привести «к новым идеям и новому взгляду на вещи», объяснил он. «Например, люди работали над большими языковыми моделями и изучали обработку естественного языка. А затем они встречают специалиста по этике с опытом работы в политологии, который ставит под сомнение некоторые из их деятельности или способы публикации своего программного обеспечения без особых гарантий.
ИИ меняет наш бизнес, наши рабочие места и наше общество в целом. Крайне важно, чтобы этот процесс стал совместным.
