Please reload

Recent Posts

7 смертных грехов клиентской поддержки в соцсетяхНиколай Жарый, — о том, как нужно и не нужно поддерживать общение с клиентами в соцсетях

January 28, 2019

1/10
Please reload

Featured Posts

Интересный проект: Репутационная система для онлайн-сообществ

November 23, 2018

Аннотация: Понимание принципов консенсуса в сообществах и нахождение путей для нахождения решений оптимальных сообщества в целом становится критически важным по мере увеличения скоростей и масштабов взаимодействия в современных распределенных системах. Такими системами могут являться как социально-информационные компьютерные сети, объединяющие массы людей, так и много-агентные вычислительные платформы, в том-числе — одно-ранговые, действующие на основе распределенных реестров. Наконец, в настоящее время становится возможным появление гибридных экосистем, которые включают и человека, и компьютерные системы с использованием искусственного интеллекта. Мы предлагаем новую форму консенсуса для подобных систем, основанную на репутации участников, вычисляемой согласно принципу «текучей демократии». Полагаем, что такая система будет иметь большей сопротивляемостью к социальной инженерии и манипуляцией репутацией, чем у действующих систем. В этой статье мы обсуждаем основные принципы и варианты реализации такой системы, а также представляем предварительные практические результаты. (по материалам статьи:  https://arxiv.org/pdf/1811.08149.pdf )


Введение и предпосылки
Начиная с появления децентрализованных и распределенных компьютерных систем без централизованного управления, стало понятно, что надежность определения репутации участников представляет собой серьезную проблему, и эта проблема была объектом всестороннего изучения. Надежное решение по определению репутации узла вычислительной сети оказывается критичным для одно-ранговых систем, в которых каждый узел может взаимодействовать с любым другим узлом в сети. Стандартные теоретические основы для нахождения решения связаны с так называемой «задачей византийских генералов», где переменное число участников с переменными уровнями доверия независимо голосует для достижения консенсуса по решению, которое вносится в публичный реестр, чтобы все сообщество узнало об этом решении и чтобы это решение было для него благоприятным. Поскольку уровень доверия каждого узла системы заранее неизвестен, необходимо снизить риск воздействия на принятие решения со стороны узлов-«предателей», которые пытаются повлиять на консенсус в пользу враждебной части сообщества, одержав верх над остальными членами. В существующих распределенных вычислительных системах, основанных на технологии блокчейн, применяются различные алгоритмы достижения консенсуса, использующие различные формы взвешенного голосования, каждая из которых предлагает определенную эвристику, какое качество узла в компьютерной сети можно использовать, чтобы догадаться о его ожидаемом уровне доверия.

Для построения любых систем коллективного интеллекта или просто коллективного принятия решения при большом числе участников и отсутствию жесткой иерархической управляющей структуры («вертикали власти»), необходимы как достаточная автономность в выработке собственных вариантов решений каждым и участников, так и возможность быстрого и надежного определения общественного консенсуса в пределах всей системы. Для предотвращения злоупотреблений и манипуляций в подобной распределенной много-агентной сети необходима высококачественная репутационная система. Например, в создаваемой системе общего искусственного интеллекта (ОИИ) SingularityNET, обеспечение высоко-надежного репутации требует искусственного интеллекта (ИИ) само по себе, что ведет к взаимной рекурсии между ОИИ и оценкой репутации в распределенных системах ИИ. Таким образом, умение построить надежную систему исчисления репутации участников является критически важным для решения проблем ОИИ, и любая парадигма ОИИ должна тем или иным образом решать "проблему доверия" в отношениях между элементами много-агентной системы. Мы полагаем, что решение состоит из двух частей - А) относительно простой базовый алгоритм для определения репутации как «уровня доверия» между участниками в простых общих случаях и Б) система, которая занимается верификацией оценок на основе базового алгоритма на основе методов ИИ, для более сложных случаев. Из описания очевидно, что подобное решение могло бы быть востребовано не только для обеспечений консенсуса в системах распределенного ИИ, но и в существующих человеческих онлайн-сообществах, а также в грядущих смешанных человеко-машинных экосистемах.

Большинство алгоритмов достижения консенсуса, обсуждавшихся в предыдущих работах и внедренных в существующие популярные распределенные вычислительные системы, такие как Ethereum и Bitcoin, подвержены взлому при известных обстоятельствах. Алгоритмом достижения консенсуса, называемым «доказательство права работой» или Proof-of-Work (POW), где участник системы голосует вычислительной мощностью, которой он владеет, может злоупотребить общество союзников, которые смогут в нужный момент сконцентрировать свыше 51% компьютерной мощности для достижения консенсуса в свою пользу. С исторической точки зрения на человеческое сообщество, данный алгоритм соответствует «праву силы», характерному для большинства древних сообществ и животных стай и стад. Еще один известный алгоритм достижения консенсуса, называемый «доказательство права финансовой ставкой» или «Proof-of-Stake» (POS), подразумевает голосование суммой финансовых средств, которыми владеет каждый участник. Это аналогично консенсусу в современных капиталистических обществах с «правом денег», где «богатый всегда богатеет». Такое решение приводит постепенно к глубокому разрыву в доходах, при котором со временем один участник или группа участников, сконцентрировавших достаточные средства, могут повлиять на достижение консенсуса исключительно в личных интересах, а не интересах всего сообщества. Усовершенствованная версия POS, называемая «делегирование права доказательства финансовой ставкой» или «Delegated-Proof-of-Stake» (DPOS), предполагается как решение последней проблемы явным делегированием права управлять «делегатам», назначенным участниками, владеющими большими долями, но это лишь приводит к ручному контролю над распределенной системой.
В настоящей работе мы предлагаем, по нашему мнению, более перспективную версию алгоритма достижения консенсуса, называемую «доказательство права репутацией» или «Proof-of-Reputation» (POR), которая может быть использована для построения «репутационного консенсуса» или консенсуса, основанного на репутации. В этом случае, возможности участника повлиять на достижение консенсуса могут определяться суммой репутации, социальным капиталом или «кармой», фактически заработанной участником в процессе взаимодействия с другими участниками в указанный период времени, принимая во внимание репутации самих этих участников. Описываемый ниже алгоритм реализует это на основе принципа «текучей демократии», где голоса одних участников неявно влияют на голоса других, перетекая в них, и называется алгоритмом «текучего ранжирования» или «liquid rank».

Побочным эффектом возможности вычислить надежный социальный консенсус в сообществе участников является способность выявить надежность каждого из участников, поддерживая наиболее эффективные и безопасные коммуникации между ними. Мы указывали на это в нашей предыдущей работе по разработке системы репутации для децентрализованного рынка услуг искусственного интеллекта, называемого SinglularityNET. Доказательство права репутацией предоставляет возможность измерить и отследить динамику развития репутации каждого участника общества. Это может быть применимо к любому обществу интеллектуальных агентов, реальных людей, взаимодействующих в социально-информационных сетях в среде Интернету, или даже гибридным человеко-машинным сообществам. Вычислительные решения построенные на основе описываемой технологии могут быть отнесены к классу «социальных вычислений» либо сама социальная среда рассматривается как средство распределенных вычислений репутаций каждого элемента этой среды.

Описанный в нашей последней статье алгоритм вычисления репутации "liquid rank" основан на методах вычисления количественных характеристик элементов графов в социальных сетях, реализованных в платформе персональной социальной аналитики Aigents и опубликованных в более ранних работах, адаптированных к проблеме расчета социальных репутаций для выстраивания лучшего алгоритма достижения консенсуса, основанного на репутации.

Варианты практической реализации
Положения и элементы алгоритма, предложенные выше, могут быть реализованы и использованы многими способами, в зависимости от решений, принятых относительно временных интервалов расчета репутации, а также вариантов обеспечения вычислений и хранения полученных данных, как будет рассмотрено ниже. В конце мы введем понятия «Репутационный консенсус» и «Доказательство права репутацией» и «Репутационный майнинг».

Определение временных интервалов
Работа репутационной системы будет зависеть от определения границ времени на основании охвата времени между циклами оценки репутации во временной промежуток от tn-1 до tn.

С одной стороны, возможен перерасчет «за весь период существования», когда учитываются все рейтинги между t0 и tn. В этом случае есть возможность учесть прошлые изменения в истории рейтинга при последующих перерасчетах. Однако это гораздо дороже и занимает больше времени. Также в этом случае нельзя достичь у