Ученые назвали 16 признаков наступления цифрового тоталитаризма

На этот вопрос попытались ответить ученые из Оксфордского университета, опубликовавшие в популярном научном издании Nature статью под названием «Этические принципы для приложений отслеживания COVID-19».

Авторы статьи предложили 16 вопросов, на которые правительствам стран было бы неплохо публично ответить, чтобы у граждан появилось понимание, зачем нужны приложения социального мониторинга в их гаджетах.

«Эти вопросы могли бы помочь правительствам, организациям здравоохранения и поставщикам (IT-оборудования) разрабатывать этичные приложения. Что делают приложения отслеживания контактов COVID-19? Работая на мобильном телефоне, они сообщают людям, что провели время рядом с кем-то, зараженным вирусом. Быстрые оповещения имеют ключевое значение, поскольку время инкубации вируса составляет до двух недель. Однако цифровая интервенция имеет свою цену. Сбор персональных данных потенциально угрожает конфиденциальности, равенству и справедливости. Даже если приложения по COVID-19 временные, спешно внедряемые технологии отслеживания создают риск появления баз (данных) о состоянии здоровья людей их перемещениях и социальных взаимодействиях, над которыми сами граждане не имеют никакого контроля», - говорится в статье.

Эти обстоятельства должны заставить задуматься не только об этической стороне вопроса. Например, такие приложения должны быть доступны всем независимо от наличия современного гаджета и уровня цифровой грамотности человека. Тем не менее, многие приложения работают только с определенными телефонами. Так, Австралия не планирует работать над совместимостью мониторингового приложения для программного обеспечения старше iOS 10 или Android 6.0. А в Великобритании около 1/5 населения не пользуются смартфонами, поэтому сразу исключаются из программы цифрового отслеживания контактов.

Геолокация и блютуз, используемые для вычисления местоположения зараженного человека могут давать сбои (по блютуз отслеживается вероятный контакт заболевшего со здоровым человеком). «Сигналы Bluetooth, которые показывают близость мобильных телефонов двух людей, не являются определенным показателем риска заражения - два человека могут находиться в одном и том же месте, но физически разделены, например, стеной, - пишут авторы аналитического материала, - подобные ошибки вызывают рост негативных настроений, подрывают доверие к правительствам и службам общественного здравоохранения».

В каждой стране приложения имеют свои особенности. Например, китайское приложение Alipay Health Code присваивает каждому пользователю цифровой QR-код, который имеет дополнительную подкодировку, обозначающую статус человека, который определяет его права на передвижение. Приложения отличаются тем, как они собирают и хранят данные. Например, они могут полагаться на системы, которые централизованы, как в Австралии и Сингапуре, или децентрализованы, как в Германии и Италии.

Однако важным качеством, которое необходимо всем подобным электронным системам – этичность. «Чтобы быть таковой, система должна соответствовать четырем принципам: достаточная необходимость, научная обоснованность, пропорциональность (угрозе), ограничение по времени. Эти принципы основаны на Европейской конвенции о правах человека, Международном пакте о гражданских и политических правах 1966 года и Сиракузских принципах ООН», - отмечают авторы статьи.

Чтобы выяснить соответствие указанным принципам сформулированы следующие 16 вопросов с вариантами ответов:

1. Это необходимо?

- Да, чтобы спасти жизни/нет, есть лучшие решения

2. Это пропорционально?

- Да, сложность ситуации оправдывает возможные риски/нет, потенциальный негатив несоразмерен ситуации

3. Это эффективно, своевременно, принимается людьми?

- Да, система работает, нужна в данный момент и принята достаточным количеством людей/нет, система не работает должным образом, появилась слишком рано или поздно, непопулярна у населения

4. Система временна?

- Да, есть точная дата сворачивания/нет

5. Каковы требования к приложению?

- Оно свободно для скачивания и добровольно/обязательный порядок с угрозой наказания за отсутствие?

6. Требует ли согласия для установки?

- Да/нет

7. Обеспечена ли сохранность данных и анонимность?

-Да, ключевые данные хранятся на телефоне, другие, кто был в контакте, уведомляются только о том, что существует риск заражения, а не от кого или где/нет, данные могут быть идентифицированы (через взлом/утечку из централизованного хранилища)

8. Может ли пользователь (самостоятельно) удалить информацию?

-Да, по желанию; все данные удаляются в конечной точке/нет таких условий и нет гарантии, что они в принципе могут быть удалены

9. Определена ли цель сбора данных?

-Да, цель определена точно, как например оповещение о риске заражения/нет

10. Ограничена ли цель?

- Да, приложение используется только в связи с ситуацией с COVID/нет, оно может обновиться для расширения функционала и дальнейшего использования

11. Приложение используется только для профилактики?

- Да/нет, оно также используется в качестве паспорта, чтобы люди могли требовать пособий или вернуться на работу

12. Требует ли приложение соблюдения новых требований?

- Нет, оно используется для мотивации (безопасного) поведения/да, несоответствие требованиям ведет к наказанию в виде штрафа или тюремного заключения

13. Открыт ли исходный код для ознакомления?

- Да/нет

14. Приложение доступно для всех?

- Да, бесплатно и общедоступно/нет

15. Доступно ли приложение вне зависимости от «цифровой грамотности»?

- Да/нет

16. Предусмотрена ли процедура остановки эксплуатации?

- Да/нет

Один шанс

В завершение авторы материала подчеркивают, что у правительств мира есть только один шанс осуществить цифровую интервенцию со знаком плюс. «Провал может навсегда подорвать общественное доверие. Приложения (с некоторыми допущениями) в целом должны соответствовать указанным требованиям, а если нет – то, такие продукты развивать недопустимо. Даже в кризис подход «попробуй все» представляет опасность, когда игнорирует реальные издержки, включая серьезный и долговременный ущерб основным правам и свободам человека», - подытожили авторы исследования.