22 апреля 2021, четверг, 20:08
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.ДзенОдноклассники

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

Китай внедряет технологии распознавания эмоций. Чем это грозит остальному миру?

Photo by Lianhao Qu on Unsplash
Photo by Lianhao Qu on Unsplash

Китайские власти активно внедряют технологию распознавания эмоций. Темпы, которыми продвигается этот процесс, откровенно пугают правозащитников. Инструменты и критерии наблюдения выглядят антинаучными и расово предвзятыми, поэтому противники подобных «инноваций» требуют их запретить прежде, чем они распространятся за пределы Китая. Рассказываем, как IT-компании помогают властям КНР следить за проявлениями гнева и печали своих сограждан и чем это грозит всему остальному миру. 

Системы распознавания эмоций, по замыслу их создателей, должны выявлять на лицах выражения гнева, печали, счастья и скуки, а также собирать и анализировать другие биометрические данные. Что именно чувствует тот или иной человек, определяют на основе движения лицевых мышц, тона голоса, положения тела и так далее. Эти системы гораздо сложнее, чем уже привычные технологии распознавания лиц, которые просто сравнивают картинки и ищут совпадения. Новые методы тоже включают в себя массовый сбор персональных данных для отслеживания, мониторинга и характеристики людей, используется машинное обучение.

Критики новой технологии утверждают, что она основана на псевдонаучных стереотипах. Все большее число исследователей, юристов и правозащитников опасаются, что она будет иметь серьезные последствия для прав человека, конфиденциальности и свободы выражения мнений во всем мире. По прогнозам, мировая отрасль распознавания эмоций к 2023 году будет стоить около $36 млрд и будет расти почти на 30 % в год, поэтому действовать необходимо немедленно.

В январе 2021 года британская правозащитная группа Article 19 выпустила доклад, посвященный разработкам и использованию технологий распознавания эмоций в Китае. Авторы документа призвали гражданское общество как можно быстрее начать информационную кампанию против продажи и применения этих технологий. Они призвали запретить их до того, как распознавание эмоций получит широкое, в том числе коммерческое, распространение. По мнению правозащитников, разработки в области отслеживания эмоций обладают «огромным потенциалом негативного воздействия на жизнь и средства к существованию людей и принципиально и внутренне несовместимы с международными стандартами в области прав человека». Как минимум они нарушают право на свободу самовыражения, вынуждая людей соответствовать «хорошим» характеристикам, право на протест и на свободу не свидетельствовать против себя, ведь любое выражение лица может быть расценено как «изобличающее» замыслы или подтверждающее виновность.   

Слежка под видом заботы о безопасности

В докладе Article 19 упоминались 27 китайских компаний, занимающихся разработками в области распознавания эмоций. Лишь в одной из них согласились пообщаться с журналистами The Guardian. 

«Обычные жители Китая не очень довольны новыми технологиями, но у них нет выбора. Если полиция скажет, что в общине должны быть камеры, людям просто придется с этим жить. Спрос есть всегда, и мы здесь, чтобы его удовлетворить», —  рассказал Чен Вэй из компании Taigusys.

Офис Taigusys спрятан за несколькими малоэтажными офисными зданиями в Шэньчжэне. Посетителей встречает серия камер, показывающих их изображения на большом экране, который отображает температуру тела, а также оценку возраста и другую статистику. Чен, генеральный менеджер компании, говорит, что система, установленная на входе в офис, — бестселлер компании. Спрос на эту разработку вырос во время пандемии коронавируса.

Чен приветствует распознавание эмоций как способ прогнозировать опасное поведение заключенных, обнаруживать потенциальных преступников, проблемных учеников в школах и пожилых людей, страдающих слабоумием, в домах престарелых. 

Системы Taigusys уже установлены примерно в 300 тюрьмах, спецприемниках и следственных изоляторах по всему Китаю, к ним подключены 60 тыс. камер.

«Насилие и самоубийства очень распространены в центрах заключения. Даже если в наши дни полиция не избивает заключенных, их часто пытаются измотать, не давая уснуть. В результате у некоторых заключенных наступает психическое расстройство и они стремятся покончить с собой. И наша система поможет предотвратить это», — говорит Чен.

По его словам, заключенные становятся более послушными, если знают, что они находятся под наблюдением этой системы — 24 часа в сутки в режиме реального времени.

Помимо тюрем и полицейских контрольно-пропускных пунктов, Taigusys развернула свои системы в школах для наблюдения за учителями, учениками и персоналом, в домах престарелых — для выявления падений и изменений эмоционального состояния пациентов, а также в торговых центрах и на автостоянках. 

Хотя использование технологии распознавания эмоций в школах Китая вызвало некоторую критику, ее использование властями в отношении граждан почти не обсуждалось. Признавая эту проблему, Чен тем не менее подчеркивает потенциал системы в предотвращении происшествий с применением насилия. Он напомнил случай в провинции Гуанси на юге Китая в июне прошлого года, когда охранник ранил ножом 41 человека. По мнению представителя компании, преступление можно было предотвратить с помощью новых технологий.

Его позицию ставит под сомнение сотрудница Article 19, юрист, специализирующийся на социально-правовых последствиях появления новых технологий, Видуши Марда. 

«Знакомый и немного разочаровывающий рассказ, который часто используют, когда новые, "блестящие" технологии вводят под видом заботы о безопасности. Но на самом деле видеонаблюдение мало связано с безопасностью, и я не уверена, что обратная связь в реальном времени устранит насилие», — говорит правозащитница. По ее мнению, большая часть биометрического наблюдения, в том числе и распознавание эмоций, тесно связана с запугиванием и цензурой.

Возможность ошибочного использования

Другая проблема заключается в том, что системы распознавания обычно основаны на действиях позировавших при разработке актеров и их представлениях о том, что они считают счастливым, грустным, злым и другими эмоциональными состояниями. Выражение лица также может широко варьироваться в зависимости от культуры, что приводит к дальнейшим неточностям и этническим предубеждениям. Система Taigusys, которая используется полицией в Китае, а также службами безопасности в Таиланде и некоторых африканских странах, включает такие идентификаторы, как «желтый, белый, черный» и даже «уйгурский».

«Население в этих странах более разнообразно в расовом отношении, чем в Китае, а в Китае это также используется для отличия уйгуров от ханьских китайцев. Если появится уйгур, он будет помечен, но система не будет отмечать ханьского китайца», — говорит Чен.

На вопрос, не беспокоит ли его, что эти функции используются властями не по назначению, Чен отвечает отрицательно, так как программное обеспечение используется полицией, подразумевая, что таким учреждениям следует автоматически доверять. Для Шазеды Ахмед, исследователя из Института AI Now при Нью-Йоркском университете, которая участвовала в создании отчета Article 19, это «ужасные аргументы».

«То, что китайские представления о расе будут встроены в технологии и экспортированы в другие части мира, действительно вызывает беспокойство, особенно потому, что в Китае нет того критического дискурса о расизме и этнической принадлежности, который есть у нас в Соединенных Штатах», — говорит Шазеда Ахмед.

По ее словам, исследования за последние несколько лет показали, что сбор конфиденциальной личной информации особенно опасен, когда находится в руках государства — с учетом широкой сферы их возможного использования государственными структурами. В Китае по сути нет никаких законов, ограничивающих доступ властей к биометрическим данным, что дает таким компаниям, как Taigusys, полную свободу разрабатывать и внедрять эти продукты, в то время как аналогичные предприятия в США, Японии или Европе не могут этого делать, соглашается Чен.

«Таким образом, у нас есть возможность собрать как можно больше информации и найти наилучшие сценарии использования этих данных», — говорит он.

Любопытно, что, продвигая свои разработки, китайские компании ссылаются на положительный зарубежный опыт, отмечают докладчики Article 19. Аналоги таких программ действительно тестировали в США, Венгрии, Латвии и Греции. Однако разработчики из Китая умалчивают, что большая часть их предшественников из западных стран, наоборот, подверглась критике за расизм, ложноположительные результаты и нарушение прав человека.

Еще один аргумент противников распознавания чувств и настроений заключается в том, что технология опирается на по сути антинаучные теории. «Три ошибочных предположения лежат в основе обоснования использования и продажи технологий распознавания эмоций: что выражения лица универсальны, что эмоциональные состояния могут быть извлечены из них и что такие выводы достаточно надежны, чтобы их можно было использовать для принятия решений. Ученые по всему миру десятилетиями дискредитировали все три гипотезы, но это, похоже, не мешает экспериментам и продаже технологий», — констатируют авторы доклада Article 19.

Обсудите в соцсетях

Главные новости

19:22 Леонид Волков заявил, что Навального обследовали гражданские врачи
19:09 Московская полиция отказалась возбуждать дело о похищении уроженки Ингушетии родственниками
19:00 «Мы примем президента Украины в Москве в любое удобное время»: Путин ответил на приглашение Зеленского встретиться в Донбассе
18:52 Алексей Навальный — о прошедших акциях, гордости и надежде
18:31 Актриса Яна Троянова обвинила мэрию Вологды в срыве съемок из-за ее участия в митинге за Навального
18:23 Словакия высылает троих российских дипломатов
18:18 Суд оштрафовал SMM‑редактора штаба Навального по статье о неповиновении полицейским
18:04 Отца директора ФБК Жданова доставили в СИЗО Архангельска
17:41 АТОР ожидает возобновления полетов в Египет во второй половине мая
17:17 Политика Владимира Рыжкова оштрафовали на 20 тыс. рублей за твит о митинге за Навального
17:08 МОК запретил преклонять колено на Олимпиаде в поддержку акции BLM
16:54 Алексей Венедиктов — о почти полном отсутствии задержаний в Москве
16:49 Чехия потребовала сократить штат посольства РФ до конца мая. Выслать могут 70 российских дипломатов
16:41 Любови Соболь предъявили новое обвинение по «санитарному делу»
16:22 Шойгу объявил о возвращении войск с учений на юге России
16:19 Геннадий Зюганов — в день 151-летия Ленина о его уроках для Путина
16:05 Пранкеры сделали дипфейк соратника Навального Волкова и от его имени пообщались с представителями Литвы, Эстонии и Латвии
15:34 Госдума переназначила Москалькову на пост российского омбудсмена
15:00 Хронический стресс у самок бабуинов приводит к преждевременной смерти
15:00 Суд приговорил подполковника ФСБ Черкалина к семи годам колонии за коррупцию
14:40 Россия начала военные учения в Крыму. Участвуют 10 тыс. солдат и более 40 боевых кораблей
13:45 МВД на 40 лет запретило въезд в Россию 122 иностранцам за участие в протестах
13:43 Полиция признала применение «боевых приемов» во время обыска у SMM-редактора штаба Навального
13:40 Рейтинг богатейших россиян по версии Forbes впервые возглавил владелец «Северстали»
13:31 Парламентская ассамблея Совета Европы потребовала освободить Навального из колонии
13:24 В Северной Осетии прокуратура потребовала от 6 до 13 лет колонии для десяти полицейских, обвиняемых в пытках
13:11 «Не видим поводов для оценки». Кремль прокомментировал митинги за Навального
13:07 Шойгу приехал в Крым на внеплановую проверку войск
13:00 Отмечена рекордная вспышка звезды Проксима Центавра
12:57 Екатерина Шульман — о переменах властей в отношении к Навальному
12:50 Первый в России арест за участие в акции 21 апреля назначили в Ростове-на-Дону
12:19 Дмитрий Быков — об отсутствии оптимизма от митингов оппозиции
12:16 Посла Чехии в России вызвали в МИД на «конкретный разговор»
12:05 В России за сутки зафиксировали почти 9 тыс. новых случаев COVID-19
11:56 SMM-редактора штаба Навального обвинили в неповиновении полиции. Накануне его избили и увезли в неизвестном направлении
11:38 В Индии суточный прирост больных ковидом достиг 315 тыс. человек. Это мировой антирекорд
11:24 В Красноярске SMM-менеджера штаба Навального оштрафовали на 250 тыс. рублей за анонс митинга
11:10 Евгений Ройзман — об отказе идти на выборы в Госдуму
10:52 Посол США Салливан покинул Россию
10:37 «Объявлена война не Навальному, а всему гражданскому обществу». Писатели и журналисты потребовали освободить политика
10:34 В Севастополе задержали россиянина за шпионаж в пользу Украины
10:00 Тираннозавр двигался со скоростью менее пяти километров в час
09:48 ОНК: почти всех задержанных на митинге в Москве отпустили без составления протоколов
09:42 WSJ: Pfizer обнаружила поддельные вакцины от коронавируса в Польше и Мексике
08:57 Минпромторг пообещал запустить автобусы на водороде в 2024 году
08:44 Жителю Петербурга дали условный срок за продажу карт Генштаба 70-х годов кладоискателю
08:14 Зеленский ввел санкции против двух российских компаний
07:13 Союз журналистов сообщил о задержании десяти представителей СМИ на митингах
06:39 Эксперты ООН потребовали разрешить Навальному пройти лечение за границей
06:11 Сенаторы Чехии призвали правительство разорвать договор о дружественных отношениях с Россией
«АвтоВАЗ» «ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Болгария Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венгрия Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Дания Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Кипр Киргизия Китай Коми Конституция Красноярск Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Минздрав Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минск Минтранспорта Минтруд Минфин Минцифры Минэкономразвития Минэнерго Минюст Молдавия Мосгордума Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса Омск ПДД Пакистан Паралимпиада Париж Пентагон Польша Приморье РАН РЖД РПЦ РФС Росавиация Росгвардия Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат Ростех Ростуризм СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Хакасия Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия арест армия археология астрономия аукционы бактерии банкротство беженцы безработица бензин беспилотник беспорядки биатлон бизнес благотворительность блогосфера бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество здоровье землетрясение изнасилование импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коронавирус коррупция космос кража кредиты культура лингвистика литература математика медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость нейробиология некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство право православие преступность продовольствие происшествия психология пытки ракета рейтинги реклама религия ретейл робототехника рубль санкции связь сепаратизм следствие смартфоны смертность социология спецслужбы спутники статистика страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Бастрыкин Александр Лукашенко Александр Новак Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Алтайский край Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Астраханская область Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Бутовский полигон Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Милонов Виталий Мутко Владимир Жириновский Владимир Зеленский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Калужская область Кирилл Серебренников Кировская область Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Наталья Поклонская Нижний Новгород Николас Мадуро Нобелевская премия Новосибирская область Новый год Олег Дерипаска Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Самарская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Тюменская область Франсуа Олланд Хабаровский край Хиллари Клинтон Человек дня Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Эммануэль Макрон Южная Корея Юлия Тимошенко Юрий Чайка авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников домашние животные дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты русский язык сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие хроники обнуления эволюция экономический кризис ядерное оружие Великая Отечественная война Всемирная организация здравоохранения Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» компьютеры и программное обеспечение видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 рейтинг Forbes Аль-Каида Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Книга. Знание ВИЧ/СПИД Путин20летназад новость20летназад Apple Bitcoin Boeing Facebook G20 Google iPhone IT Microsoft NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter Wikileaks YouTube

Редакция

Электронная почта: polit@polit.ru
Телефон: +7 929 588 33 89
Яндекс.Метрика Top.Mail.Ru
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2021.