Ученые-компьютерщики из Университета Глазго, Технического университета Дармштадта и Берлинского университета имени Гумбольда обнаружили, что программы магистратуры могут включать в себя манипулятивные методы проектирования, если их просят создать веб-страницу. На эту тему было проведено множество исследований, которые показали, что многие веб-разработчики используют темные шаблоны или приемы, чтобы обманом заставить посетителей веб-страницы что-то делать или помешать им делать определенные вещи.
Большие языковые модели теперь позволяют создавать веб-страницы, но исследователи хотели знать, используют ли LLM темные шаблоны в своих проектах. 20 участников попросили ChatGPT разработать веб-страницу для сайта электронной коммерции для экспериментов. Каждый участник предлагал ChatGPT разные предложения по веб-странице и объяснял, что они ищут на веб-странице.
Результаты изучать показали, что в каждом веб-дизайне, созданном ChatGPT, использовались манипулятивные методы проектирования. LLM даже создавали фальшивые отзывы и документы, что вызывало беспокойство. Эксперимент проводился и на других LLM, и все результаты были одинаковыми. Это говорит о том, что LLM научились этому навыку у людей и теперь могут использоваться для манипулирования посетителями сайта.
Читать далее: Bluesky ужесточает политику кражи личных данных на фоне быстрого роста и растущей обеспокоенности пользователей
