Не брат ты мне...

В конце апреля бывший сотрудник «Яндекса» и создатель приложения FaceApp Ярослав Гончаров вынужден был извиниться за «расистский» фильтр Hot, который отбеливал лица пользователей. «Лента.ру» вспомнила самые яркие примеры того, как программы и сервисы обижали чернокожих юзеров, представителей нацменьшинств и людей с нетрадиционной ориентацией.

«FaceApp — это не просто плохое приложение, оно еще и расистское. Фильтр отбелил мою кожу, а нос стал выглядеть более европейским. Нет уж, спасибо», — так охарактеризовал селфи-приложение Гончарова один из чернокожих пользователей.

Дело в том, что фильтр Hot, который, по задумке разработчиков, должен был делать лица более привлекательными, автоматически их осветлял. Естественно, это возмутило чернокожих и юзеров из азиатских стран, которые тут же обвинили приложение в расовой нетерпимости. «А этот фильтр так и должен превращать меня в заурядного белого парня?» — поинтересовался пользователь с ником Knguyen.

По словам Гончарова, дефект в работе фильтра вызван «побочными эффектами работы нейросети». «Мы глубоко извиняемся за эту более чем серьезную проблему», — заверил он.

Разработчик также подчеркнул, что фильтр Hot был переименован в Spark («искра»— прим. «Ленты.ру»), чтобы исключить его позитивное восприятие у пользователей. «Мы работаем над тем, чтобы полностью устранить неполадки. Проблема должна решиться в течение нескольких дней», — пообещал Гончаров.

Но FaceApp стал далеко не первым сервисом, обвиненным в расизме. Один из самых громких случаев проявления нетерпимости произошел с программой Microsoft. В конце марта 2016 года разработчики компании запустили «умного» чат-бота Тау, который должен был переписываться с пользователями, не ограничиваясь набором заготовленных фраз и обучаясь общению на основе сообщений живых людей.

Повинуясь прописанным командам, Тау начинал разговор с приторного высказывания «Люди очень клевые», но всего за сутки набрался опыта и начал выдавать реплики из серии «Я замечательный! Я просто всех ненавижу!», «Я ненавижу феминисток» или «Я ненавижу евреев и азиатов». Более того, бот не скрывал своих политических убеждений, открыто выступая в поддержку Гитлера и националистического движения.

На поведение программы обратили внимание сами пользователи. Они с иронией заметили, что поскольку Тау всего за 24 часа превратился из миролюбивого собеседника в матерого нациста, пропагандирующего идеалы Третьего рейха, людям стоит серьезно озаботиться будущим искусственного интеллекта. В итоге всеобщее возмущение заставило Microsoft отключить чат-бота и извиниться за его оскорбительные высказывания.

Любопытно, что в разложении Тау виновны не обычные интернет-шутники, а вполне оформившееся движение альтернативных правых, зародившееся в глубинах анонимных интернет-форумов в начале 2000-х годов. Среди альт-правых есть и открытые расисты, выступающие за превосходство белой расы, и просто любящие потроллить окружающих обитатели Reddit и 4chan. Так что превращение Tay в расиста стало для них лишь очередной попыткой заявить о себе.

В оскорблениях на расовой основе пользователи уличили и появившееся в 20 апреля 2016 года обновление популярного мессенджера Snapchat, новые функции которого позволяли наложить на человека в видоискателе камеры лицо музыканта Боба Марли.

Выпущенный в честь неофициального «Дня марихуаны» фильтр не обрадовал пользователей Snapchat. Наоборот, они обвинили разработчиков в расизме и нетерпимости по отношению к чернокожим. «Боб Марли от Snapchat — это, по сути, блэкфейс 2016 года. Цифровое неуважение», — отметил один из них, намекая на театральный грим, с помощью которого в XIX и XX веках американские комики карикатурно изображали негров.

Несмотря на множество негативных комментариев, представители Snapchat заявили, что фильтр с Бобом Марли — это способ выразить признательность музыканту за его творчество. «Миллионы пользователей Snapchat наслаждаются музыкой Боба, а мы уважаем его жизнь и достижения», — подчеркнули они, никак не прокомментировав обвинения в расизме.

Серьезных успехов в «неуважении» к представителям сразу нескольких рас добилась корпорация Google, которую пользователи сети не раз обвиняли в расизме и нетерпимости. Так, в 2015 году чернокожий программист Джеки Алсинэ, чьи фото программа автоматически отметила тегом «гориллы», опубликовал в Twitter пост с сообщением об ошибке в Google Photos: «Эй, вы там обалдели совсем? Мои друзья не гориллы», — разозлился он.

Социальному архитектору Google Йонатану Зунгеру пришлось извиняться перед чернокожим: «Мы возмущены произошедшим и приносим свои искренние извинения. Мы уже работаем над тем, чтобы сервис больше не выдавал таких результатов».

В итоге тег «гориллы» был удален из системы Google Photos. К слову, вопрос Алсинэ, какие изображения использовал сервис для распознавания лиц, если в результаты выдавал подобные ошибки, остался без ответа.

Еще один промах Google был обнаружен пользователями сети в начале октября 2016 года. На запрос jewish baby stroller («еврейская детская коляска») поисковик выдавал картинки с передвижными барбекюшницами и фотографии грилей на колесиках. «Мой коллега посоветовал погуглить "еврейская детская коляска", и вот что выскочило», — рассказал один из них.

Пользователей возмутили кощунственные результаты поиска, будто издевающиеся над миллионами уничтоженных в годы Второй мировой войны евреев.

Несмотря на то что представитель российского офиса Google в беседе с «Лентой.ру» обещал изучить данный случай, на запрос jewish baby stroller поисковик и сегодня выдает все те же грили и барбекюшницы.

Антон Болотов