В ходе недавнего опроса разработчиков StackOverflow более 100 000 разработчиков задали ряд вопросов, отражающих их опыт работы в отрасли.

По поводу этики было задано два вопроса:

enter image description here

Я был очень удивлен, когда в гипотетической ситуации, когда их просят написать код для продукта или цели, которые они считают явно неэтичными, более 40% разработчиков говорят, что это будет зависеть от ситуации.

Я думаю, что один из возможных сценариев может быть, если это связано со здоровьем и благополучием пользователя, но вынуждает их делать что-то вопреки их желанию, но даже это довольно сложно назвать явно неэтичным.

Учитывая их ответ на другой вопрос об ИИ, ответы, касающиеся этики, вызывают некоторое беспокойство, особенно если дизайнеры тесно сотрудничают с разработчиками для реализации решений:

enter image description here

Столкнувшись с тем же вопросом, в какой ситуации дизайнеры могут принять участие в процессе проектирования продукта или цели, которые они считают явно неэтичными?

11
Michael Lai 14 Мар 2018 в 00:40
1
Я предполагаю, что здесь вы не говорите о вопросах общего философского разногласия. Например, человек, выступающий за жизнь, кодирует сайт Planned Parenthood (или наоборот). Если это явно неправильный с этической точки зрения сценарий (например, ИИ, который ниспровергнет волю населения), то... это звучит как вопрос, относящийся к чрезвычайной этике.
 – 
Mayo
14 Мар 2018 в 01:18
1
Для downvoter - не могли бы вы объяснить, почему проголосовали против? Это может быть неразрешимым в формате Q/A для обмена стеками, но это все еще очень интересный вопрос.
 – 
Mayo
14 Мар 2018 в 01:19
1
Я рад попробовать изменить вопрос, чтобы он подходил для формата StackExchange. Я думаю, что у всех дизайнеров разные этические/моральные границы, которые мы стараемся не пересекать, и это может зависеть от определенных ситуаций (а может и нет?). вызов для дизайнеров, а я думаю.
 – 
Michael Lai
14 Мар 2018 в 02:23
2
Кроме того, довольно странно думать, что, хотя многие разработчики более чем счастливы кодировать что-то, что они считают явно неэтичным, они также считают, что должны нести ответственность за рассмотрение разветвлений ИИ...
 – 
Michael Lai
14 Мар 2018 в 02:25
1
То, что разработчики говорят о себе и что они делают, не обязательно совпадают. Понимают ли разработчики, например, разницу между этичным поведением и законным поведением? Являются ли они экспертами в кулинарии? Понимают ли они разветвления программного обеспечения, над которым они работают, когда масштабируется со значительным успехом? Понимают ли они силу анализа базы данных в руках человека, ответственного за маркетинг и/или политику? Моралистические соображения более или менее распространены в сознании и сознании кодеров, чем у среднего члена общества? Почему разница?
 – 
Confused
14 Мар 2018 в 03:13

3 ответа

Вот пример неэтичного дизайна от Amazon. «Продолжить оформление заказа, не выполняя дополнительное действие по покупке надбавки» выделено мелким шрифтом и скрыто среди прочего текста. Наиболее заметным элементом является кнопка «Оплатить немедленно».

enter image description here

https://www.webdesignerdepot.com/2018/01/how-dark-ux-patterns-target-the-most-vulnerable/

Это неэтично? Конечно, вы обманываете своих пользователей. Будут ли дизайнеры с гордостью отказываться от разработки подобных вещей, когда их об этом попросит начальство? Едва ли.

Маркетинг, реклама и т. д. полны таких стандартных практик, которые находятся в серой зоне этики. Разработчики и дизайнеры — работники низшего звена, которые не принимают бизнес-решений. Поэтому многие считают приемлемым оставить принятие решений в серой зоне на усмотрение вышестоящего руководства.

8
Boat 14 Мар 2018 в 10:28
1
Если бы я, как клиент, не мог найти вариант, который хотел, я бы просто отказался. Если система вынуждает меня совершать действия, которых я не хочу, эта система проиграет. Но, может быть, я просто тупой. Я буду навязывать свою этику выборам, которые мне предлагаются, и делать все, что в моих силах, чтобы они работали по-моему. Надеюсь, я не единственный, кто так делает, и такая практика будет стоить компаниям больше, чем они хотят потерять. Если бы я был разработчиком в этом сценарии, я бы ожидал, что моя компания потерпит неудачу, и поэтому с точки зрения этики я бы… нашел другую работу. (Если бы я мог.)
 – 
user67695
14 Мар 2018 в 18:22
А как насчет людей, занимающих такие должности, как директор по опыту, руководитель отдела дизайна или ведущий UX-дизайнер? Часто они занимают важные посты в компаниях и должны принимать такие важные решения. Должны ли они нести ответственность за эти решения?
 – 
Michael Lai
15 Мар 2018 в 11:53
1
Ваше отношение прекрасно, когда вы знаете, что делает компания. Большая проблема с такими экранами заключается в том, что многие люди не понимают, что их подталкивают к покупке чего-то, что им, возможно, не нужно. Они увидят много «маленького, обычно неважного текста» и одну большую, четкую, желтую, очевидно, кнопку «GO» и нажмут ее (как они научились делать на 2 или 3 предыдущих экранах), не осознавая, что они (повторное) подписание на Prime. Конечно, им следует уделять больше внимания, но это становится неэтичным, когда компания знает, что они этого не сделают, и использует это.
 – 
TripeHound
3 Апр 2018 в 14:17
В средней школе, около 40 лет назад, нас учили ложной рекламе и скептическому отношению к любому, кому мы даем деньги. Разве людей до сих пор не учат этому? Почему никогда? Если кого-то учили, но он решил не воспринимать это всерьез, что ж...
 – 
user67695
3 Апр 2018 в 14:47
Это и «если это выглядит слишком хорошо, чтобы быть правдой, вероятно, так оно и есть». Я могу только предполагать, что люди не обучены этому (достаточно), иначе фишинговые электронные письма/веб-сайты не будут работать.
 – 
TripeHound
3 Апр 2018 в 15:42

Чтобы ответить на вопрос, следует ли вам разрабатывать что-то, что может (обратите внимание на мое изменение) считаться неэтичным, во-первых: познайте себя.

Или, как выразился Сократ:

Неисследованная жизнь не стоит того, чтобы жить.

Некоторые люди предпочитают быть веганами. Другие предпочитают работать в организациях по оказанию гуманитарной помощи. Этот выбор основан на личных ценностях. Какая у вас "полярная звезда"?

Давайте рассмотрим фразу «разработка чего-то, что может считаться неэтичным» с трех разных точек зрения:

<сильный>1. Дизайнер из, возможно, неэтичной компании.

UX-дизайнер может отказаться работать в компаниях, занимающихся онлайн-играми / азартными играми, по этическим соображениям. Но как далеко она должна зайти с этим обоснованием? Должна ли она отказаться работать в компаниях, которые, например, вызывают привыкание или создают имущественное неравенство?

<сильный>2. Дизайнер из этичной компании получил задание создать неэтичный дизайн.

Это может быть сложной ситуацией для дизайнера, и именно здесь в игру вступают основные ценности человека. Дизайнеров могут попросить создать «темные шаблоны»: становится ли убедительный образец «темным»?

Однако такому запросу может быть трудно сопротивляться, особенно если дизайнер начинает делать не темные узоры, а затем его просят разработать серые узоры, а затем более темные серые узоры и так далее. Изменениям труднее сопротивляться, когда они вводятся постепенно, как описано в басне о лягушке в кипящей воде: https://www.moralstories.org/frog-hot-water/

<сильный>3. Дизайнер из этичной компании, предпочитающий создавать неэтичные проекты.

Если дизайнер намеренно использует темные узоры, другим это может показаться явно неэтичным. Но, возможно, она увидела сайты/приложения конкурентов, использующие схожие шаблоны, и решила, что ее действия оправданы. Нелегко занимать принципиальную позицию, когда «стадо» ведет себя иначе.

Как и во всех морально-этических вопросах, здесь есть много серых зон, и несмотря на существование социальных норм, ответ может лежать внутри.

4
Michael Heraghty 7 Апр 2018 в 12:28
1
+1 Это хороший способ взглянуть на вопрос, который я не рассматривал ... конечно, вы можете выполнять этическую работу для неэтичной компании или неэтичную работу для этичной компании (и где-то посередине), но это, вероятно, почему моральный компас — это то, что мы должны держать для себя, а не для других людей. Но если мы вообще не будем думать о вопросе, то мы, вероятно, потеряемся, и, следовательно, цель задать вопрос в первую очередь :)
 – 
Michael Lai
15 Мар 2018 в 14:37
1
Вероятно, именно поэтому категория «это зависит» так велика в ответах. Есть некоторые низкоуровневые оттенки серого, которые я не хотел бы проектировать/реализовывать, и я бы попытался «отказаться», если бы меня попросили, но — если бы дело дошло до драки — из-за которых я, вероятно, не отказался бы от своего работа.
 – 
TripeHound
3 Апр 2018 в 15:46

Этика всегда касается данных людей в данных ситуациях. Всегда есть контекст. «Это зависит» всегда верно в отношении этики.

И наоборот, мораль универсальна. Я бы не исключал возможности того, что респонденты не совсем ясно представляли себе различие между этикой и моралью. Я также думаю, что было какое-то принятие желаемого за действительное. «Что, я? Я никогда не сделаю ничего плохого!»

Тем не менее, в природе очень многих рабочих мест люди удаляются или ограждаются не только от процесса принятия решений, но и от надежных данных о последствиях их действий и действий их работодателей. Информированы ли дизайнеры и разработчики крупных интернет-ритейлеров о пресловутых условиях работы на складах? Являются ли они неэтичными, если игнорируют сообщения об этих условиях? Разве этичный сотрудник не должен следить за такими вещами?

Парень, который вел поезд в Освенцим, был «просто» машинистом, скорее всего, мирным семьянином. Он не выбирал «груз». Нам легко сказать, что он вел себя неэтично, но, возможно, ему просто не сказали, что случилось с этим грузом после доставки. Также можно представить любое несогласие с его стороны как «неэтичное», потому что было бы «непрофессионально» отказываться от работы, за которую вы обучены и за которую вам платят. (Я не сомневаюсь, что такого рода принуждение часто происходит, чтобы заставить замолчать жалобы на этику).

Если разработчики объединены в профсоюзы, у них гораздо больше возможностей управлять и информировать об этике на рабочем месте. Интересно, что в опросе разработчиков эта возможность не упоминалась. Местные профсоюзы, связанные с ИТ, являются одними из самых яростных критиков (например) массовой слежки, небрежной безопасности и других неэтичных практик.

Важным условием для того, чтобы быть этичным разработчиком, является уверенность в том, что этика является такой же частью «профессиональной беседы», как предпочитаемые языки, библиотеки, фреймворки, парадигмы, методологии.

Этос — это то, что делает профессию, а не просто работу. Врачи, юристы и учителя являются хорошими примерами, каждая профессия имеет конкретные этические принципы, нарушение которых может стоить человеку не только его работы, но и его профессиональной легитимности и способности продолжать практику.

Таких руководств для разработчиков пока не существует, поэтому независимо от результатов опроса я ожидаю, что неэтичная разработка продолжится, как и раньше.

1
brennanyoung 9 Апр 2018 в 16:37
+1 Я думаю, это делает интересным тот факт, что кому-то нужно быть «сертифицированным этическим хакером», но для дизайнеров и разработчиков ничего не существует ...
 – 
Michael Lai
10 Апр 2018 в 01:00