Нейросети ошибаются в распознавании женщин и темнокожих - Мастерок.жж.рф
?

Log in

No account? Create an account

Previous Entry | Next Entry



Идентификация личности при помощи функции распознавания лиц приобретает всё большую популярность. Многие флагманские смартфоны и ноутбуки уже сейчас используют эту технологию. Мы как то обсуждали тему, в которой на полном серьезе говорилось, что уже можно достаточно точно и автоматически определять гомосексуалистов по фотографиям. Однако точность работы таких алгоритмов, как оказалось, еще требует существенной доработки.

Как недавно выяснилось, на результат работы программы распознавания личности, оказывает влияние цвет кожи и половая принадлежность пользователей.



Эксперт Джой Буоламвини из MIT Media Lab при Массачусетском технологическом институте провёл эксперимент, в ходе которого проверил правильность распознавания выборки из 1200 фотографий известных личностей, занятых в политике, из стран, где во власть активно привлекают женщин. Выбранные личности были продемонстрированы трём наиболее популярным алгоритмам по распознаванию лиц: Microsoft, IBM и Megvii из Китая. Системы, основанные на искусственном интеллекте, ошиблись при определении 0,8% мужчин и 7% женщин европеоидной расы. Среди чернокожих мужчин неправильно распознано 12% личностей, а у женщин негроидной расы отклонение достигло непозволительных 34,7%.

Однако в алгоритмах распознавания лиц не закладывается расовое или гендерное неравенство. Проблема заключается в базе, на которой проходит обучение искусственного интеллекта. Так, например, самая большая база фотографий, предлагаемая для обучения программам идентификации личности, содержит 75% изображений мужчин и на 80% из этих снимков запечатлены светлокожие люди. Также, оценив цвет кожи всех людей с фотоснимков, задействованных в эксперименте, по шкале оттенков кожи Фицпатрика, исследователи заметили, что чем темнее оттенок кожного покрова, тем сложнее ИИ справиться с распознанием.



Таким образом, производителям следует расширить кругозор своих нейросетей и предоставить им для изучения фотоматериалы людей из различных регионов Земли с учётом их расовых, этнических и половых различий.

Джой Буоламвини, ведущий автор исследования, впервые столкнулась с проблемой предвзятости алгоритмов несколько лет назад. Для своего аспирантского проекта она использовала коммерческую программу для распознавания лиц. Команда Джой была этнически и расово пестрой, в ходе работы оказалось, что алгоритм надежно работает только с ее единственным белым участником. Буоламвини, сама темнокожая, попыталась проанализировать собственные фото, и оказалось, что система либо вовсе не распознает ее лицо, либо неверно определяет пол.



Исторически, искусственные нейронные сети за свою уже более чем полувековую историю испытывали как периоды стремительных взлетов и повышенного внимания общества, так и сменявшие их периоды скепсиса и равнодушия. В хорошие времена ученым и инженерам кажется, что наконец-то найдена универсальная технология, способная заменить человека в любых когнитивных задачах. Как грибы после дождя, появляются различные новые модели нейронных сетей, между их авторами, профессиональными учеными-математиками, идут напряженные споры о большей или меньшей степени биологичности предложенных ими моделей. Профессиональные ученые-биологи наблюдают эти дискуссии со стороны, периодически срываясь и восклицая «Да такого же в реальной природе не бывает!» – и без особого эффекта, поскольку нейросетевики-математики слушают биологов, как правило, только тогда, когда факты биологов согласуются с их собственными теориями. Однако, с течением времени, постепенно накапливается пул задач, на которых нейронные сети работают откровенно плохо и энтузиазм людей остывает.

В наши дни нейронные сети снова в зените славы благодаря изобретению метода предобучения «без учителя» на основе Ограниченных Больцмановских Машин (Restricted Bolzmann Machines, RBM), что позволяет обучать глубокие нейронные сети (т.е. с экстра-большим, порядка десятков тысяч, количеством нейронов) и успехам глубоких нейронных сетей в практических задачах распознавания устной речи и изображений. К примеру, распознавание речи в Android реализовано именно на глубоких нейронных сетях. Как долго это продлится и насколько сильно глубокие нейронные сети оправдают возложенные на них ожидания – неизвестно.



Между тем, параллельно всем научным спорам, течениям и тенденциям, отчетливо выделяется сообщество пользователей нейронных сетей – инженеров-программистов-практиков, которых интересует прикладной аспект нейросетей, их способность обучаться на собранных данных и решать задачи распознавания. Со многими практическими задачами классификации и прогнозирования великолепно справляются хорошо проработанные, относительно небольшие модели многослойных персептронов (Multilayer Perceptron, MLP) и сети радиальных базисных функций (Radial Basis Function network, RBF). Эти нейронные сети многократно описаны, я бы посоветовать следующие книжки, в порядке моей личной симпатии к ним: Осовский, Бишоп, Хайкин; также есть хорошие курсы на Coursera и подобных ресурсах.

Однако, что касается общего подхода использования нейронных сетей на практике, он кардинально отличается от обычного детерминированного девелоперского подхода «запрограммировал, работает – значит, работает всегда». Нейронные сети по своей природе являются вероятностными моделями, и подход к ним должен быть совершенно иной. К сожалению, многие программисты-новички технологий машинного обучения вообще и нейронных сетей в частности делают системные ошибки при работе с ними, разочаровываются и забрасывают это дело. Идея написания настоящего трактата на Хабр возникла после общения с такими разочарованными пользователями нейронных сетей – отличными, опытными, уверенными в себе программистами.

[источники]Источники:
http://24gadget.ru/1161066244-neyroseti-ploho-spravlyayutsya-s-raspoznaniem-zhenschin-i-chernokozhih.html
https://znaj.ua/ru/techno/poteryala-kontrol-nejroset-otkazalas-byt-tolerantnoj
https://geektimes.ru/post/211610/
 http://masterok.media/91543-neyroseti-oshibayutsya-v-raspoznavanii-zhenschin-i-temnokozhih.html


Subscribe to  masterok

Posts from This Journal by “Технологии” Tag

promo masterok январь 2, 12:00 46
Buy for 300 tokens
Вот так выглядит ушедший от нас 2017 год. А вот кстати, начало 2018 года показывает еще больший трафик, чем декабрь 2017: И вот один из дней - рекордсменов за всю историю журнала тоже уже в 2018 году: Красная цифра - это общее количество уникальных посетителей попавших в блог. В…

Comments

( 11 comments — Leave a comment )
Allbuks Allbuks
Feb. 22nd, 2018 08:14 am (UTC)
черные = гориллы. все верно. у них нет генов от неандертальцев.
trump_donald
Feb. 22nd, 2018 08:58 am (UTC)
Чорные с точки зрения генетики - более перспективный материал нежели белые.
bigdrum
Feb. 22nd, 2018 09:12 am (UTC)
В смысле их нужно ебать чаще?
alex_mironov
Feb. 22nd, 2018 09:38 am (UTC)
С женщинами ошибаются не только нейросети. Один пожилой джентльмен радовался, что с ним каждую ночь спят разные женщины - брюнетки, блондинки, шатенки, рыжие, наконец. И цвет глаз у них разный. Оказалось, обман! Женщина была всего одна. Но с ярко выраженной тягой к косметике и краске для волос!
infovarius
Feb. 22nd, 2018 09:49 am (UTC)

А где ссылка на трактат на Хабре?

mimokhodets
Feb. 22nd, 2018 10:24 am (UTC)
а что, ИИ ошибся?
а насчет Ж/М - вот вам гарный хлопец:

tukano
Feb. 22nd, 2018 01:23 pm (UTC)
Нейронные сети говоришь?

vsemashkevich
Feb. 22nd, 2018 01:26 pm (UTC)
А как дела с распознованием трансов?
slavarussko
Feb. 22nd, 2018 01:32 pm (UTC)
Нетрудно ошибиться... на чёрном лице нет характерных теней.
meckermann
Feb. 22nd, 2018 02:25 pm (UTC)
Честно говоря, я тоже.
Женщина, когда она радикально меняет имидж (а любая женщина такое делает время от времени), для меня другой человек.
Негры - все от природы одинаковые... (:
nepuc
Feb. 25th, 2018 08:54 am (UTC)
Для негров нужно отдельный алгоритм разрабатывать.
( 11 comments — Leave a comment )

Profile

О нашем центре
Сеть EPILAS – это уникальные медицинские центры, предоставляющие косметологические услуги премиального уровня по самым низким ценам в Москве.

Современная аппаратная косметология с применением лучших лазеров из Германии позволяет неинвазивно добиваться невероятных, а главное стойких результатов в борьбе с нежелательными волосами на теле, разглаживанием морщин на лице, отбеливанием кожи в любой зоне и лечения акне.

masterok
Masterok (Валерий)
Хочу все знать

Latest Month

September 2018
S M T W T F S
      1
2345678
9101112131415
16171819202122
23242526272829
30      

Tags

Powered by LiveJournal.com