Женя (civil_engineer) wrote,
Женя
civil_engineer

Category:

Проблема расизма в машинном обучении

Давным давно один умный американский психолог сказал великую фразу: "судьба - это семья". К СССР это относилось меньше, но в Штатах где разброд и шатания разных народов это неоспоримо.
И вот представьте что один молодой, амбициозный, но бедный человек, выросший в гетто, хочет переехать в приличный район, для чего ему надо взять ссуду в банке и купить там дом. А вот не дадут ему ссуду! И дело даже не в цвете его кожи - ни одна штатовская ипотечная анкета про расу не спрашивает. А им и не надо - они и так знают про тебя всё: один внешний признак заменяется десятком малозаметных, но значимых для моделей глубокого обучения. Эти признаки не озвучиваются, и не преследуются по закону, но вместе они составляют в 95% случаев всё тот же не называемый признак.
И не дают тебе кредита: потому что ты его не вернёшь. Машины знают лучше - и неподсудны. Потому что заморешься принимать законы вида "запрещается дискриминация по конкретному сочетанию 27 компонентов..."
Tags: us
Subscribe

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 33 comments