Киссинджер: общество не готово к эпохе искусственного интеллекта

Помощник по нацбезопасности и госсекретарь США при Ричарде Никсоне и Джеральде Форде Генри Киссинджер в журнале The Atlantic рассказал, что на этой конференции выступающий говорил о достижениях в сфере искусственного интеллекта. Он сообщил, что создана программа, которая скоро сможет претендовать на победу на чемпионам мира по игре го. Считается, что в этой игре победить намного сложнее, чем в шахматы.

Разработчик заявил, что способность к этой игре не может быть задана, а программа научилась играть посредством тренировок, то есть программа сама обучилась игре, учитывая собственные ошибки. Через некоторое время она обыграла своего учителя.

В связи с появлением самообучающейся программы возникает ряд вопросов: могут ли машины применить свои знания для целей, недоступных человеческому пониманию? Смогут ли программы общаться друг с другом? Как изменится общество?

В 15 веке ход истории изменило изобретение печатного станка. Знания накапливались, на смену средневековью пришла эпоха Просвещения. Объем знаний увеличивался и копился.

Нынешняя технологическая революция происходит намного более высокими темпами, отмечает Киссинджер. Может возникнуть мир, основой которого станут машины, управляемые данными и алгоритмами, а не этическими нормами.

Мы живем в эпоху интернета. Его назначение - ратифицировать данные, сохраняя и манипулируя растущими массивами информации. Человек превращается в массив данных, которые начинают главенствовать, считает политик. Пользователям зачастую нужны практические данные.

Социальные сети выдают поток мнений множества людей, в итоге человек теряет способность к рефлексии, к самостоятельному мышлению. "Все это ослабляет силу духа, необходимую, чтобы выработать собственные убеждения и пройти определенный путь в одиночку – без этого невозможно создать нечто новое", - приходит к выводу Киссинджер.

Влияние искусственного интеллекта (ИИ) на политику наиболее заметно. В сети важнее всего скорость, это мешает рефлексии, ценности формируются консенсусом группы, а не посредством размышлений. 

ИИ отличается от автоматизации, он ставит собственные задачи. Он получает и моментально анализируют новую информацию, а далее развивается на основе этого анализа. ИИ получает способность, раньше считавшуюся принадлежащей только человеку. Но ИИ не объясняет реальность, а лишь интерпретирует ее, основываясь на математических алгоритмах. 

Основная проблема состоит в том, что ИИ усваивает навыки быстрее и надежнее человека, поэтому в дальнейшем он может уменьшить сферу человеческой деятельности, а самих людей обратить в данные. ИИ может быть полезен в ряде сфер, но есть несколько поводов для беспокойства. ИИ может достичь непредусмотренных результатов и обратиться против своих создателей. Программа может неправильно понять инструкции человека из-за непонимания контекста.

Также на данном этапе ИИ не может объяснить правильность своих действий, чтобы это было понятно человеку. Программы ограничивают полноту человеческого опыта математическими данными, интерпретируемыми их собственной памятью. Эти возможности машин беспрецедентны. Но не совсем понятно, кто будет отвечать за действия машин.

Особенность ИИ - мышление не на основе ранее полученного опыта. Он работает на основе колоссальных возможностей памяти и способности к моментальным вычислениям. Таким образом, ИИ всегда будет победителем игр. Но для людей также важны размышления, отмечает политик.