Популярное Будущее интернета: что сеть знает о вас?

Будущее интернета: что сеть знает о вас?

Будущее интернета: что сеть знает о вас?

Что говорит о нас наше поведение в социальных сетях? Насколько мы предсказуемы? Сколько лайков достаточно, чтобы узнать наши истинные желания?

(Отрывок из книги «Четвёртая мировая война»)

Знаменитый на весь мир «тест Тьюринга» – это, по сути, тест на выявление у искусственного интеллекта «личности». И да, из-за своего аутизма Тьюринг ввёл нас в заблуждение.

Сверхмощный искусственный интеллект возникнет и обыграет человечество именно потому, что ни личности, ни сознания у него не предвидится. Он будет трезво анализировать факты, игнорируя предрассудки, заложниками которых мы являемся.

О том, что ящик Пандоры уже открыт, публике сообщили через швейцарский журнал DasMagazin. Материал назывался: «Я просто показал, что есть бомба».

Случилось это аккурат после выборов Дональда Трампа президентом Соединённых Штатов. Собственно, этим выборам статья и посвящалась («текст года», как её назвали вSpiegel), но была она не о Трампе, а о скромном учёном Михале Косинском.

Над своей моделью Косински работал в Центре психометрии английского Кембриджа с 2008 года. Ему удалось показать, что, совместив данные психометрии (тестов, проведённых на добровольцах) с поведением человека в сети, о нём можно очень многое сказать.

Например, модели Косинского образца 2012 года требовалось проанализировать всего 68 лайков пользователя в Facebook, чтобы:

Общие же показатели его модели уже тогда были таковы:

Собственно, такого ограниченного набора данных, как выясняется, вполне достаточно, чтобы каждого из нас «посчитать». И мы можем сколько угодно рассуждать о собственной индивидуальности, исключительности, невообразимости и т. д. Но это бред сумасшедшего, страдающего манией личностного величия.

Косински не без иронии рассказывает, что в день, когда научная статья с этими данными была опубликована, он получил два звонка: жалобу и предложение работы, и оба раза звонили из Facebook.

Cambridge Analytica скопировала и воспроизвела модель Косинского. Впрочем, в отличие от бедного Косинского, она могла позволить себе скупить все доступные персональные данные (в США этого добра навалом – кадастровые списки, бонусные программы, телефонные справочники, клубные карты, газетные подписки, медицинские данные).

Эти данные скрещивались со списками зарегистрированных сторонников Республиканской партии и данными по лайкам-репостам в Facebook, а дальше система делала расчёт, и начиналась бомбардировка намеченных целей строго выверенным, воздействующим именно на этих людей контентом.

А теперь давайте задумаемся, что сеть знает о нас, чего о нас не знает больше никто. На самом деле она может не знать о вас, на первый взгляд, очень важных вещей – например, какой у вас пол или возраст, если вы ей об этом, конечно, сами не скажете.

Впрочем, алгоритмы могут легко это выяснить – ни с цветами, ни с мороженным проблем не возникнет. Но дальше интереснее: она будет знать, что вы расист, даже если это вы тщательно скрываете и на каждом углу показушно демонстрируете отчаянную политкорретность.

Каким образом ей это удаётся? Да потому, что вы в поисковой строке Google вбиваете слово «нигер», а потом зависаете на сайтах соответствующего содержания – с оскорбительным юмором, нацистскими призывами и т. д.

Если анализировать всё, что мы с вами делаем – и в онлайне, и в оффлайне (к чему и движется семимильными шагами новая технология), – а не частью и не местами (как это происходит в рамках социальной коммуникации), мы предельно предсказуемы.

Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BigData, этого не подтверждает.

Поэтому Рей Курцвейл и работает сейчас над созданием индивидуального помощника, который будет знать, чего мы хотим, раньше нас. А Илон Маск над автомобилем, который будет знать, куда мы собираемся поехать, даже если мы ничего ему об этом не сообщим.

Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.

Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPRS смартфона, наши телефонные звонки, эсэмэс-ки, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д. , и т. п. , возьмут нас под тотальный контроль, а мы даже этого не заметим.

И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всём желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор.

Он возьмёт нас голыми руками.

(Отрывок из книги «Четвёртая мировая война»)