Разработчик Тони Арчиери обнаружил неоднозначную деталь в алгоритмах Twitter, которые выбирают превью для фото, выделяя область «наибольшего интереса». Нейросеть выбирает белых людей, а не чернокожих, из-за чего пользователи обвинили Twitter в расизме.

Арчиери сделал две длинных вертикальных картинки. На верх одной из них он поместил фото сенатора Митча Макконелла, вниз — экс-президента США Барака Обаму. На второй картинке разработчик поменял их местами. Однако в обоих случаях Twitter поместил на превью фото Макконелла.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020

Арчиери предположил, что дело в красном галстуке сенатора, и поменял местами галстуки политиков. Ничего не изменилось. Обама оказался на превью только при инверсии цветов.

«It’s the red tie! Clearly the algorithm has a preference for red ties!»

Well let’s see… pic.twitter.com/l7qySd5sRW

— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020

Let’s try inverting the colors… (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020

Пользователи Twitter начали проводить свои эксперименты и выяснили, что соцсеть почти всегда предпочитает белых людей темнокожим. При этом так происходит и с мемами, и с персонажами «Симпсонов».

I wonder if Twitter does this to fictional characters too.

Lenny Carl pic.twitter.com/fmJMWkkYEf

— Jordan Simonovski (@_jsimonovski) September 20, 2020

Директор по цифровым технологиям Twitter Дэнтли Дэвис пообещал проверить работу нейросети. Он заявил, что алгоритм не только распознаёт лица, но и учитывает цвет фона. Дэвис приложил две фотографии темнокожего и белого человека в одинаковых костюмах, в итоге на превью появился первый.

Here’s another example of what I’ve experimented with. It’s not a scientific test as it’s an isolated example, but it points to some variables that we need to look into. Both men now have the same suits and I covered their hands. We’re still investigating the NN. pic.twitter.com/06BhFgDkyA

— Dantley ?✊?? (@dantley) September 20, 2020

В итоге представитель Twitter Лиз Келли заявила, что в системе нейросети нет предвзятости по признаку расы или пола. Однако компания продолжит изучение алгоритма и откроет его исходный код, пообещала Келли.

Фото: Pixabay, Pixabay License

У «Секрета фирмы» есть канал в Telegram. Подписывайтесь!

Поделитесь историей своего бизнеса или расскажите читателям о вашем стартапеНапишите нам

Источник