Facebook создает скрытую платформу на основе ботов, чтобы изучать троллей и мошенников

facebook-internet-login-screen-267482Никаких «неожиданных взаимодействий» между ботами и людьми.

Facebook хочет предотвратить злоупотребление людьми своей системой, поэтому он создает мир ботов, которые могут подражать им.

Исследователи компании опубликовали статью на «Web Enabled Simulation» (WES) для тестирования платформы — в основном теневой Facebook, где несуществующие пользователи могут ставить лайки, делиться и дружить (или притеснять, оскорблять и обманывать) подальше от человеческих глаз.

Facebook описывает построение масштабируемого, обнесенного стеной моделирования своей платформы, населенной поддельными пользователями, моделирующими различные виды реального поведения. Например, «мошенник» бот может быть обучен общаться с «целевыми» ботами, которые демонстрируют поведение, похожее на реальную жизнь Facebook-жертвы. Другие боты могут быть обучены вторгаться в личную жизнь поддельных пользователей или искать «плохой» контент, который нарушает правила Facebook.

Моделирование программного обеспечения, очевидно, распространены, и Facebook расширяется на более раннюю версию автоматизированного инструмента тестирования под названием Sapienz. Но он называет WES системы отличающимися, потому что они приводят в движение множество ботов на чем-то очень близком к реальной платформе социальных сетей, а не на макете, подражая своим функциям. В то время как боты не щелкают по буквальным приложениям или веб-страницам, они выполняют такие действия, как запросы друзей через код Facebook, запуская те же самые процессы, что и реальный пользователь.

coding-computer-data-depth-of-field-577585

Это может помочь Facebook обнаружить ошибки. Исследователи могут создавать пользователей WES, единственной целью которых является, например, кража информации у других ботов, а также вынуждая их чувствовать себя брошенными в системе. Если они внезапно найдут способы получить доступ к большему количеству данных после обновления, это может указывать на уязвимость, которую могут использовать мошенники, и никакие реальные пользователи не пострадают.

Некоторые боты могли получить доступ только для чтения к «настоящему» Facebook, при условии, что они не получали доступ к данным, нарушающим правила конфиденциальности. Тогда они могли реагировать на эти данные исключительно в режиме «только для чтения». В других случаях, однако, Facebook хочет построить целый параллельный социальный граф. В рамках этой масштабной фальшивой сети они могут развернуть «полностью изолированных ботов, которые могут демонстрировать произвольные действия и наблюдения», и они могут смоделировать, как пользователи могут реагировать на изменения в платформе — то, что Facebook как правило, делает, невидимо разворачивая тесты для небольшого количества реальных людей.

facebook-internet-login-screen-267482

Исследователи, однако, предупреждают, что «боты должны быть соответствующим образом изолированы от реальных пользователей, чтобы гарантировать, что симуляция, хотя и выполняется на реальном коде платформы, не приводит к неожиданным взаимодействиям между ботами и реальными пользователями».

Facebook называет свою систему WW, которую Протокол, по правде говоря, называет аббревиатурой от «WES World». Но, как ясно сказано в этом предложении, Фейсбук вообще не строит здесь Westworld. Он создает симулякрон: мир искусственных личностных единиц, предназначенных для того, чтобы рассказать нам больше о себе. Хотя исследователи, предположительно, ограничивают эти взаимодействия в интересах реальных пользователей, они также помогают предотвратить любые катастрофические экзистенциальные кризисы среди ботов. Это достаточно корректно, потому что если вы строите фальшивую вселенную, полную крошечных существ, которые не знают своей истинной природы, вы практически гарантированно снимаетесь в римейке «Мира на Проводе» и живете в симуляторе сами.

(Visited 3 times, 1 visits today)

Также интересно:

Tags: ,

Оставить коментарий.