?

Log in

No account? Create an account

masterok


Мастерок.жж.рф

Хочу все знать


Previous Entry Share Next Entry
Оценка благонадёжности пользователей соцсетей
masterok

 

Ну вот, начинается! Года не прошло, как смотрел одну из серий «Черного зеркала» и там вся жизнь людей, все их благосостояние и положение в обществе зависело от рейтинга в социальной сети.

А тут вдруг читаю, что в Facebook появилась система оценки пользователей. Благонадежность можно оценивать по шкале от 0 до 1. И уже готова китайская «система социального рейтинга», которая будет определять ценность людей. Вот так — ни больше ни меньше!

 

 

Разумеется в ФБ, всё это проходит под флагом борьбы с «фейковыми новостями», однако суть происходящего, конечно, гораздо глубже. В конечном итоге новая система должна будет проникнуть во все сферы жизни граждан и заменить действующую карательную систему государства на новую – с одной стороны, более мягкую, а с другой стороны, гораздо более жёсткую.

Систему в компании разрабатывали с прошлого года, сообщает издание The Washington Post. Оценка репутации пользователей должна помочь в борьбе с «фейковыми новостями» и распространением «недостоверной» информации.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

Как рассказала «менеджер Facebook по работе с дезинформацией» Тесса Лайонс, в выставлении оценок соцсеть будет полагаться на пользователей. Именно сами участники сообщества будут присваивать оценки друг другу. Кроме того, алгоритмы Facebook будут также добавлять источнику некие критерии для создания объективной репутации.

Лайонс не стала рассказывать, что это за критерии, чтобы «не давать мошенникам возможности манипулировать» алгоритмами.

А кто сомневается, что такой подход и подобные инструменты в срочном порядке введут остальные соцсети? Никто не сомневается. Тренд задан!

 

 

КАК ЭТО РАБОТАЕТ В КИТАЕ

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

Китайская «система социального рейтинга» будет определять ценность людей

В наше спорное время Китай стал первой страной, которая к 2020 году планирует внедрить систему социального рейтинга (Social Credit Score или SCS). Инициатива впервые появилась в документе Государственного совета КНР, опубликованном в июне 2014 г. Эта инновация настолько шокирует современное прогрессивное общество, что людям не остается ничего, кроме как безучастно разводить руками — реальность все ближе к мрачной научной фантастике.

С виду SCS устроен довольно просто. В рамках системы оценивания будет определен рейтинг жителей Китая, страны, чье население составляет почти 1,3 миллиарда человек. Рейтинг будет находиться в открытом доступе для каждого. Система будет определять позицию гражданина, отслеживая его социальное поведение: как он тратит деньги, регулярно ли оплачивает счета, даже то, как он взаимодействует с другими людьми. На этой публичной оценке и будет основано доверие к каждому отдельному человеку.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

Звучит еще хуже, чем оруэлловский кошмар.

 

От рейтинга гражданина будет зависеть, сможет ли он получить работу или ипотеку, а также в какой школе смогут учиться его дети. В этом смысле рейтинг SCS напоминает один из самых ужасающих эпизодов третьего сезона «Черного зеркала». К слову, это сериал не славится жизнеутверждающим посылом. В нем зрителям показываются различные антиутопичные варианты того, как может развиться общество, однако проект SCS доказывает, что в этом отношении реальность уже обошла вымысел.

Эта «услуга» станет полностью доступна только в 2020 году, однако уже сейчас Китай начал добровольное внедрение рейтинга SCS: правительство сотрудничает с рядом частных компаний, чтобы отладить отдельные алгоритмы, необходимые для работы такой крупномасштабной системы обработки данных.

В работе над проектом задействованы такие компании, как China Rapid Finance, партнер сетевого гиганта Tencent, и Sesame Credit, дочерняя компания Ant Financial Services Group (AFSG), партнера Alibaba. Как China Rapid Finance, так и Sesame Credit имеют доступ к пугающе огромному массиву данных, первая компания — через приложение обмена сообщениями WeChat (в настоящее время с 850 миллионами активных пользователей), а вторая — через свою платежную систему AliPay.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

По данным местных СМИ, Tencent внедряет рейтинг SCS в чат-приложение QQ, где рейтинг человека находится в диапазоне от 300 до 850 и разбивается на пять подкатегорий: социальные связи, потребительское поведение, безопасность, материальное состояние и законопослушность.

 

 

Положительное (и отрицательное) подкрепление

 

Сторонники рейтинга SCS считают, что с его помощью можно улучшить некоторые государственные услуги. Некоторые утверждают, что рейтинг предоставит китайским гражданам столь необходимый им доступ к финансовым услугам. Правительство также заявляет, что рейтинг «позволит благонадежным гражданам ходить там, где вздумается, и не даст дискредитированным ступить ни шагу», сообщается в The Wall Street Journal. В некоторых ситуациях это вполне может сработать. В конце концов, финансовые организации и банки уже составляют системы оценки кредитоспособности, которые помогают им не выдавать кредиты тем, кто не сможет их выплатить.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

Утопическое стремление управлять финансами граждан посредством системы сдержек и противовесов может стать хорошо продуманным способом снизить государственный долг и побудить граждан своевременно выплачивать имеющиеся у них долги. Однако настолько вездесущее организованное управление личными финансами граждан переходит разумные границы.

Основная проблема заключается в том, что рейтинг SCS выходит далеко за рамки оценивания того, как граждане распоряжаются своими долгами. По своей сути, рейтинг выставляет оценку каждому жителю страны, определяя его ценность как человека. И вынуждает общество принимать эту оценку во внимание.

«Предложенный Китаем социальный рейтинг — только подтверждение тому, что Китай превращается в полностью полицейское государство», — утверждает Анураг Лал, бывший директор американской Национальной группы по исследованию широкополосной связи при администрации Обамы, а также президент и главный директор по решениям для мобильности фирмы Infinite Convergence.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

«Китай делает еще один шаг к тому, чтобы стать тоталитарным полицейским государством, контролирующим своих граждан и плюющим на их конфиденциальность. Будут оцениваться все виды деятельности и межличностного взаимодействия, как в сети, так и в реальной жизни. Их будут хранить, как данные, доступные для просмотра».

Кажется, печально известный Великий китайский файрвол — лишь одно из следствий ухудшающегося социально-политического положения Китая.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

Big Data для хорошего поведенияТакая система способна не только выступать в качестве социального посредника, но и жестко ограничивать граждан. В своем интервью WIRED технологический директор Sesame Credit Ли Инъюнь согласился с таким опасением, заявив, что с помощью SCS можно будет судить о человеке по его покупкам. «О том, кто играет в видеоигры по десять часов в день, например, подумают, что он безработный, — поясняет Ли. — А о том, кто часто покупает подгузники, подумают, что у него наверняка есть дети, значит, этот человек наверняка ответственен».

Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Китайский блоггер Расул Маджид поделился с WIRED, что всерьез считает инициативу полезной. Если человек знает, как именно за ним следят, то он сумеет и выкрутиться.

Лал, в свою очередь, не согласен с такой позицией. «Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей?

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

Вероятно, ничего хорошего.

 

В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу».

В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать.

 

По стопам китайских товарищей: фейсбук вводит оценку благонадёжности пользователей

 

С помощью SCS китайское правительство фактически убьет двух зайцев одним выстрелом: они смогут продвинуть и навязать обществу свое представление о «социально приемлемом поведении» и одновременно с этим получат возможность контролировать все аспекты жизни граждан.

Тем не менее, Лал сомневается в том, что эта система способна работать в долгосрочной перспективе. «Подобная инициатива не сможет прижиться в свободном мире. Если люди, сидящие в правительстве, действительно окажутся настолько наивны, то от этого Китай только потеряет свой авторитет в региональном и глобальном плане. Технические компании, работающие в Китае, уже выражают свое недовольство серьезными ограничениями техполитики и шифрования. Такие нововведения только усугубят возмущение».

Система представляет собой нечто гораздо более коварное, чем паноптикум, о котором говорил теоретик культуры Мишель Фуко.

Поэтому давайте надеяться, что Лал прав.

 

[источники] Источники: https://rg.ru/2018/08/22/facebook-vvel-sistemu-ocenki-reputacii-polzovatelej.html https://inosmi.ru/social/20180220/241513806.html

 

Это копия статьи, находящейся по адресу http://masterokblog.ru/?p=10607.
Subscribe to  masterok

Posts from This Journal by “Интернет” Tag


promo masterok january 2, 12:00 46
Buy for 300 tokens
Вот так выглядит ушедший от нас 2017 год. А вот кстати, начало 2018 года показывает еще больший трафик, чем декабрь 2017: И вот один из дней - рекордсменов за всю историю журнала тоже уже в 2018 году: Красная цифра - это общее количество уникальных посетителей попавших в блог. В…

  • 1
Чем меньше выбор слов, тем меньше искушение задуматься.

Очень хорошая идея.
"Веди себя хорошо и общество будет относиться к тебе хорошо." -- я не вижу, что здесь криминального.
Если человек просит у тебя в долг, а ты знаешь, что он их не возвращает, ты ему не дашь денег.
А если человек хочет получить кредит, а система ему отказывает из-за низкого рейтинга по финансовой ответственности, то это ужос и тоталитаризм.
(отмечу, кстати, что кредитные бюро, ведущие рейтинги платёжеспособности граждан, почему-то не считаются вредными тоталитарными учреждениями: банкиры деньги любят и ценят)

Если человек, живя в обществе, пользуется благами, предоставляемыми обществом (еда, жильё, обучение, здоровье, безопасность), то общество вполне себе вправе требовать от своих членов какой-то пользы или хотя бы отсутствия вреда.
"Я сам по себе и я обществу ничего не должен!" -- это обычно говорят умудрённые долгой жизнью и обширным опытом пожилые 14-летние борцы против родаков и училок.

Я за расширение действия таких рейтингов и к нам тоже.
Чтобы и жулики и хулиганы и свиньи и прочие безответственные люди не пользовались анонимностью, предоставляемой ими городами.
Чтобы города стали деревнями, только вместо вездесущих бабок будут компьютеры да камеры.

Представляете, сбой в программе или случайная ошибка оценки и ваш рейтинг падает. И вы даже пожаловаться никуда не может. И работать. И???

В этом случае ручной режим.
Приходишь и жалуешься.
Если действительно программный сбой, то таких неправильно оцененных будет много.
(Думаю, и переоцененных будут тоже перетряхивать.)

Ну вот как сейчас в банках.
Есть банковская система и она работает автоматически.
Но тут приходит клиент с жалобой "неправильно сняли".
В ручном режиме происходит разбор, выясняется причина, неправильный съём (если он действительно неправильный) откатывается, банковская система правится.
Стандартная практика обработки жалоб пользователей.

Сколько пользователей у регионального отделения банка и сколько у госсервера? Сколько операций человек проводит в банке за месяц и сколько действий, за месяц, он проводит в жизни? Сколько синергетических анализов будет проводиться в обоих случаях?
Да там лес темный будет, с загрузкой операторов на 500%, из-за лавины ошибок. И на ошибки, тупо, забьют.

Камрад, эта система уже блоканула в аэропорту, на возвратном вылете домой, как минимум, 4 людей за просто так, из-за мелких нарушений. Уже один водила, из-за поломки спидометра, может теперь только дворником работать. А это - только начало.

Это еще цветочки. Отладят. Будет работать без сбоев. Но лучше не будет.

Со сбоями и без них будет хреново. Просто со сбоями будет и хреново, и непонятно, за что.

А, ну это да.. (((:
Хотя тут можно на провидение списать. Как жена Мандкльштамма говорила: "когда мы отменяли законы, мв не думали, что отменяем их и для себя".
Вот тут некие ребята эти идеи поддерживают...

Такое общество описывалось антиутопистами. Оруэлл, Замятин...
Когда я это читал в 80х, то никогда бы не подумал, что в 2018 найдутся люди, которым такие общества понравятся.
По факту, самые злостные распространители "фейков" - это т.н. серьезные издания. Но у них рейтинги доверия будут "1".
К чему это приведет?
Ну, мы знаем уже одну женщину, которая опередила время. "Конечно, я читаю Новую Газету - я же должна знать что я думаю" (с). Вот это - человек будущего!
Читай Новую Газету чтобы знать что ты думаешь, и у тебя будет высокий рейтинг благонадежности, соответственно - все хорошо.

Я так понимаю, в Китае ты можешь посмотреть свой рейтинг, а в Фейсбуке нет?

Ну да. В свбодных странах о приваси сильно заботятся.

Да-да, это теперь так называется.

Цукерман заботится, чтобы ты не знал, за что тебя забанили.

Напугали... у нас бабушки у подъезда и рейтинг ведут публичный на каждого, и социальные нормы определяют, и в органы сообщают все подозрительное.
Без всякой бигдаты, нитки с крючком, семечки и лавочка.

На основе бабушкодоноса тебя еще не увольняют с работы и не блокируют кредит и покупку билетов на поезд и самолет.

  • 1