Совфед обеспокоен растущим могуществом ИИ
Минцифры, Минздрав и Минэкономики получили поручение от Совета Федерации разработать механизмы защиты граждан по мере распространения использования искусственного интеллекта.
22 декабря 2021 года в Совфеде на эту тему прошло совещание, которое возглавил вице-спикер верхней палаты Андрей Турчак. По итогам мероприятия и были приняты решения о дополнительной проработке законодательства. Теперь министерствам предстоит подготовить дорожную карту по данному направлению до 2022 года. В документ должны войти инициативы, которые исключают вероятность дискриминации граждан с использованием алгоритмов ИИ, а также установят порядок обжалования решений ИИ. Помимо этого предлагается ввести обязательство уведомлять граждан при решении важных вопросов, что они взаимодействуют с ИИ.
Как сообщает «КоммерсантЪ», в Совфеде не пояснили, что конкретно имеется в виду под дискриминацией. Впрочем, источник издания, знакомый с тонкостями обсуждаемого вопроса, пояснил, что речь идет о дискриминации по возрасту, полу, личным данным. Потенциал для перегибов в работе ИИ в этом плане довольно большой.
Первые предложения министерства должны подготовить к апрелю.
В 2021 году правительство России выступило с рядом инициатив по развитию ИИ. Были разработаны планы по цифровой трансформации, частью которых стало развитие ИИ. В МВД, например, занялись своим проектом, позволяющим находить по камерам наблюдения числящихся в розыске преступников. Минсельхоз с помощью новых технологий надеется усовершенствовать работу сельскохозяйственной отрасли. ИИ уже постепенно внедряется, хотя и случаются ошибки, как в истории с жестким задержанием гражданина по подозрению в преступной деятельности, к которой он в реальности не имел никакого отношения.
Ярким примером сомнительного применения ИИ стало увольнение 150 сотрудников компании Xsolla в августе 2021 года на основе анализа ИИ, забраковавшего часть персонала. Широкую известность получил случай, когда робот Tele2 позвонил абоненту, а на другом конце ответил бот от банка «Тинькофф»: два робота в итоге договорились о подключении владельцу нового тарифа без его ведома.
Несмотря на это участники рынка считают действия Совфеда преждевременными. В Ассоциации больших данных пояснили, что сейчас технологии недостаточно развиты и внедрены, чтобы можно было предметно говорить об опасностях использования ИИ.
Источник «Ъ» на рынке ИИ-технологий согласился с такой оценкой, выразив надежду, что отрасль отрегулируется в рамках кодекса этики, подписанного крупными компаниями в 2021 году.
Гендиректор МТС AI Александр Ханин на этот счет добавил, что для эффективного использования кодекса этики нужно заниматься просвещением в сфере IT, чтобы у пользователей не возникало иллюзий, будто ИИ – это аналог разума или имитация человеческого мозга, которая может выйти из-под контроля.