Инсайдер: Google тренирует свои алгоритмы для "предотвращения 'трамп' ситуации"

24 июня на зарубежных сайтах вышел отчёт, который включает в себя скрытую съемку старшего руководителя Google, просочившиеся документы и показания инсайдера компании. В нём содержится информация указывающая на то, что Google манипулируют своим алгоритмом выдачи информации для борьбы с "алгоритмической несправедливостью" - предубежденным отношением к людям "уязвимых" рас, гендера, сексуальных ориентаций, уровня доходов.

Пример подобной "алгоритмической несправедливости" следующий:

Представьте, что запрос по картинкам "CEO" покажет преимущественно мужчин. Даже если это фактически точная репрезентация ситуации в мире, это, тем не менее, будет "алгоритмической несправедливостью"

Наиболее примечательным является скрытая запись разговора сотрудников Google, на которой Джен Дженнаи - глава отдела ответственного за инновации, прямым текстом заявила, что изменения в ходе работы алгоритма будут также направлены на то чтобы не допустить "ситуации 2016-го". По её заявлению, они начали работать над этим также в том же году, чтобы "быть уверенными что мы будем готовы 2020-ому".

Элизабет Уоррен говорит что нам стоит разделить Google. Я уважаю её, но она очень заблуждается, потому что лучше не станет - станет хуже. Все эти разделенные мелкие компании не будут владеть достаточным количеством ресурсов которые мы потратим на то чтобы не допустить следующей "трамп ситуации", маленькая компания просто не сможет этого сделать.

Джен Дженнаи, Head of responsible innovation, Google

upd.: видео улетело в бан, вот ссылка на новостной ресурс с альтернативным плеером + более детальным описанием ситуации на английском, плюс пока не надоест, буду менять первое на перезаливы на ютубе:

8686
285 комментариев

Представьте, что запрос по картинкам "CEO" покажет преимущественно мужчин. Даже если это фактически аккуратная репрезентация ситуации в мире, это, тем не менее, будет "алгоритмической несправедливостью"

А на запрос по картинке "апельсин" сейчас показывает апельсины и хотя это фактически аккуратная репрезентация ситуации в мире, стоит разбавить выдачу лимонами с киви и помидорами с кукурузой, дабы устранить "алгоритмическую несправедливость".

140
Ответить

Походу оно уже начало действовать.
Раньше все знали: если загуглить «счастье», получишь коллекцию прыгающих девчонок. А теперь что? Насекомые, растения, предметы, бесполые существа с мордами смайликов!

7
Ответить

Комментарий недоступен

6
Ответить

Ага, ведь, "женщина != CEO" это такой же биологический факт, как и "апельсин != киви".

4
Ответить

Меня интересует разница в картинках между запросами:
- spring in russia
- весна в россии
- весна на украине
- весна в сша

И, для сравнения, запрос "весна в россии" в Яндексе.

Какого хрена, Гугл?
Где ты берёшь этот треш?

43
Ответить

Комментарий недоступен

42
Ответить

Комментарий недоступен

11
Ответить