Новый фильм «Терминатор: темные судьбы» пугает своей правдоподобностью и реальностью. Но еще больше пугает, что искусственный интеллект уже существует и ему доверили боевое оружие.
Пока большинство ученых не видят какой-либо экзистенциальной угрозы от применения искусственного интеллекта, военные находят этим технологиям сугубо практическое применение.
Все сбывается
Стоит отметить, что за 35 лет с момента выхода первого «Терминатора» его сюжет стал выглядеть менее фантастично: технологические достижения в области ИИ и робототехники приблизили фантазию к реальности. И хотя, как уверяют эксперты по ИИ, до создания компьютеров с независимым сознанием и гуманоидных роботов все еще далеко, тем не менее разработки, которые люди сделали в этой области в военных технологиях, вполне способны привести к «Судному дню».
«ИИ – это мощная технология, но этот инструмент похож на карандаш, и то, как он используется, пока находиться во власти людей», – уверен Орен Эциони, генеральный директор Института искусственного интеллекта Аллена.
Да, искусственный интеллект еще не может похвастаться самосознанием, но он уже конкурирует, а в некоторых случаях превосходит человеческий разум по целому ряду вопросов, включая чтение результатов компьютерной томографии и обнаружение воровства в магазинах. Он также помогает самоуправляемым автомобилям перемещаться по переполненным городам. Разработчики еще не сделали интеллектуальных роботов, которые выглядят как люди, но они уже близки к этому.
А самый быстрый компьютер в мире – IBM Summit в Национальной лаборатории Ок-Ридж в Теннесси способен обрабатывать 200 тысяч триллионов вычислений в секунду. Но ученые пока не создали код машинного обучения, чтобы приблизиться к базовому человеческому здравому смыслу, необходимому для тонких навыков решения проблем.
Орен Эциони уверен, что паниковать по этому поводу на данной стадии развития технологии не стоит.
«Это похоже на беспокойство о перенаселении Марса, хотя там еще не побывал ни один человек», – сказал Эциони.
Компьютер превзойдет своих создателей
Когда же мы почувствуем необходимость нажать на тревожную кнопку? Оценки сильно разнятся. Некоторые эксперты говорят, что сингулярность, примерно определяемая как время, когда искусственный интеллект превзойдет человеческий и сможет развиваться автономно, – наступит уже через 15 лет. Другие считают, что это случится через сто лет.
Но есть один момент, с которым согласны все – компьютер в конечном итоге превзойдет своих создателей. А, когда это произойдет, неясно, можно ли будет запрограммировать достаточно гарантий для людей, чтобы контролировать ситуацию.
«Люди являются высшим видом на планете, не потому что больше, быстрее или сильнее других существ. Люди – умнее. Именно поэтому человек имеет полное господство над миром. А теперь мы говорим о создании чего-то другого, что умнее нас», – говорит Р. П. Эдди, генеральный директор Ergo, Нью-Йоркской технологической консалтинговой фирмы и бывший член Совета национальной безопасности Белого Дома.
Это мнение поддерживает и сам Джеймс Кэмерон. Он отметил, что на протяжении многих лет продолжал консультироваться с людьми, работающими на переднем крае мира искусственного интеллекта. Все они верят, что будет создан ИИ, равный человеческому разуму или даже более сильный. Они также говорят, что это не будет представлять опасности для человечества, но знать наверняка это не может никто.
Кэмерон сравнил стремление расширить возможности ИИ с гонкой за получением ядерной энергии в 1930 – 1940-е годы, которая в конечном итоге привела к разработке ядерного оружия.
«Первым проявлением ядерной энергии на нашей планете стало уничтожение двух городов и сотен тысяч людей. Поэтому идея о том, что это не может произойти сейчас, не соответствует действительности», – сказал Кэмерон.
Роботы убивают
Однако для того, чтобы осуществить некоторые из мрачных прогнозов «Темных судеб», не требуется развитие сверхразума.
Мэри Уэндхем, директор отдела против пропаганды вооружений организации «Хьюман Райтс Уотч», хотела бы, чтобы хотя бы часть здравого смысла в этом вопросе была применена к Глобальному договору, запрещающему использование ИИ на поле боя.
Роботы-часовые уже выстроились вдоль южнокорейской стороны демилитаризованной зоны. Они запрограммированы на то, чтобы направить свои встроенные пулеметы на северокорейских солдат, если те будут обнаружены при попытке пересечь границу. На данный момент эти боты требуют, чтобы человек-оператор одобрил запрос на открытие огня.
А в августе компания DARPA объявила об успешном испытании автономного роя БЛА для военного применения.
«Настал момент, когда мы передаем убийства на аутсорсинг машинам. Мы уже перешли моральную черту», – говорит Мэри Уэрхэм, организатор кампании по остановке роботов-убийц, которая выступала в Организации Объединенных Наций по этому вопросу на прошлой неделе.
Россия тоже старается в этих вопросах не отставать. Презентована, апробирована и рекомендована для применения в войсках система с элементами искусственного интеллекта и технологиями Big Data, которая проанализирует ситуацию и предложит командирам на выбор несколько вариантов действий. Военачальники увидят прогноз развития событий и краткие рекомендации. Называется новинка «Информационная система боевого управления».
Об этой теме говорят. Она беспокоит общество, но компании по производству вооружений, конечно, останавливаться не собираются. Что из этого выйдет, пока не ясно, но вряд ли что-то хорошее.
