У вас может появиться цифровой двойник раньше, чем вы думаете

Будучи копией человека, цифровой двойник в идеале принимал бы те же решения, что и вы, если бы вам представили те же материалы.

Это может показаться еще одним спекулятивным заявлением футуристов. Но это гораздо более возможно, чем людям хотелось бы верить.

Хотя мы склонны предполагать, что мы особенные и уникальные, при наличии достаточного количества информации искусственный интеллект (ИИ) может сделать множество выводов о нашей личности, социальном поведении и решениях о покупке.

Эпоха больших данных означает, что собираются огромные объемы информации (так называемые «озера данных») о ваших явных взглядах и предпочтениях, а также о поведенческих следах, которые вы оставляете после себя.

Столь же раздражает то, в какой степени организации собирают наши данные. В 2019 году компания Уолта Диснея приобрела Hulu, компанию, у которой, как указывали журналисты и адвокаты, были сомнительные успехи в сборе данных.

Кажущиеся безобидными телефонные приложения, вроде тех, что используются для заказа кофе, могут каждые несколько минут собирать огромное количество данных от пользователей.

Скандал с Cambridge Analytica иллюстрирует эти опасения, поскольку пользователи и регулирующие органы обеспокоены перспективами того, что кто-то сможет идентифицировать, предсказать и изменить их поведение.

Но насколько мы должны быть обеспокоены?

Высокая и низкая точность

В симуляционных исследованиях точность означает, насколько точно копия или модель соответствует своей цели. Верность симулятора относится к степени реализма симуляции по отношению к реальным ссылкам. Например, гоночная видеоигра обеспечивает изображение, скорость которого увеличивается и уменьшается, когда мы нажимаем клавиши на клавиатуре или контроллере.

В то время как симулятор вождения может иметь ветровое стекло, шасси, рычаг переключения передач, педали газа и тормоза, видеоигра имеет более низкую степень точности, чем симулятор вождения.

Цифровой двойник требует высокой степени точности, которая могла бы включать в себя информацию из реального мира в реальном времени: если сейчас на улице идет дождь, в симуляторе будет дождь.

В промышленности цифровые двойники могут иметь радикальные последствия. Если мы сможем смоделировать систему взаимодействия человека и машины, у нас будет возможность распределять ресурсы, предвидеть нехватку и поломки и делать прогнозы.

Цифровой двойник человека будет включать в себя огромное количество данных о предпочтениях, предубеждениях и поведении человека, а также сможет получать информацию о непосредственном физическом и социальном окружении пользователя, чтобы делать прогнозы.

Эти требования означают, что создание настоящего цифрового двойника является отдаленной возможностью в ближайшем будущем. Количество датчиков, необходимых для накопления данных и производительности процесса, необходимых для поддержания виртуальной модели пользователя, будет огромным. В настоящее время разработчики соглашаются на модель с низкой точностью.

Этические вопросы

Создание цифрового двойника поднимает социальные и этические вопросы, касающиеся целостности данных, точности предсказания модели, возможностей наблюдения, необходимых для создания и обновления цифрового двойника, а также прав собственности и доступа к цифровому двойнику.

Часто цитируют слова премьер-министра Великобритании Бенджамина Дизраэли: «Есть три вида лжи: ложь, наглая ложь и статистика», подразумевая, что цифрам нельзя доверять.

Данные, собранные о нас, основаны на сборе и анализе статистики о нашем поведении и привычках, чтобы делать прогнозы о том, как мы будем вести себя в определенных ситуациях.

Это мнение отражает непонимание того, как статистики собирают и интерпретируют данные, но вызывает серьезное беспокойство.

Одна из наиболее важных этических проблем с цифровым двойником связана с ошибкой количественного определения, которая предполагает, что числа имеют объективное значение, оторванное от их контекста.

Когда мы смотрим на числа, мы часто забываем, что они имеют определенное значение, которое исходит от инструментов измерения, используемых для их сбора. И инструмент измерения может работать в одном контексте, но не в другом.

При сборе и использовании данных мы должны признать, что выборка включает определенные функции, а не другие. Часто этот выбор делается из-за удобства или из-за практических ограничений технологии.

Мы должны критически относиться к любым утверждениям, основанным на данных и искусственном интеллекте, потому что проектные решения нам недоступны. Мы должны понимать, как данные собирались, обрабатывались, использовались и представлялись.

Дисбаланс мощности

Дисбаланс сил — это растущая дискуссия в обществе, касающаяся данных, конфиденциальности и слежки.

В меньших масштабах это может вызвать или увеличить цифровое неравенство — разрыв между теми, кто имеет доступ к цифровым технологиям, и теми, у кого их нет. В более крупных масштабах это угрожает новому колониализму, основанному на доступе к информации и технологиям и контроле над ними.

Даже создание цифровых двойников с низкой точностью дает возможность отслеживать пользователей, делать выводы об их поведении, пытаться влиять на них и представлять их другим.

Хотя это может помочь в сфере здравоохранения или образования, отказ предоставить пользователям возможность доступа к своим данным и их оценки может поставить под угрозу индивидуальную автономию и коллективное благо общества.

Субъекты данных не имеют доступа к тем же ресурсам, что и крупные корпорации и правительства. Им не хватает времени, подготовки и, возможно, мотивации. Необходим последовательный и независимый надзор для обеспечения защиты наших цифровых прав.

Джордан Ричард Шенхерр, доцент кафедры психологии Университета Конкордия.