Действительно ли нейросети умеют «узнавать» людей?

На протяжении последнего времени производителями гаджетов и разработчиками программного обеспечения активно используется технология распознавания лиц. 

Она применяется в сканерах Face ID, развлекательных приложениях и даже средствах для поиска преступников и пропавших людей. Однако работа нейросети, распознающей лицо, всё еще далека от идеала. 

Недавно группа исследователей из Массачусетского технологического университета (MIT) и Стэнфорда провели ряд исследований, чтобы узнать, как ИИ-алгоритм распознает лица разных людей. 

Выяснилось, что при анализе изображений белых мужчин погрешность нейросети составляла лишь в 0,8%, тогда как в отношении темнокожих женщин процент ошибок достигает 30%. Для того, чтобы подтвердить закономерность, Джой Буоламвини (одна из специалистов MIT) отобрала 1200 фотографий разных людей, большую часть которых составляли фото женщин с темной кожей. Выяснилось, что для женщин с цветом кожи IV, V или VI по шкале Фицпатрика (шкала классифицирует 6 фототипов кожи от самой светлой до самой тёмной) процент ошибок ИИ составил 20,8%, 34,5% и 34,7% соответственно. Таким образом удалось установить, что чем темнее фототип – тем больше вероятность ошибки при идентификации лица. 

Эксперимент помог доказать, что технология еще нуждается в доработке и не может использоваться в качестве официального инструмента идентификации человека.