Роботам запретят причинять вред людям

Проблема этики роботов поднималась еще в те времена, когда самих роботов не было и в помине. Они существовали разве что в кино да на страницах научно-фантастических книг. Собственно, там же, в научно-фантастической беллетристике, и был впервые поднят вопрос о том, как сделать так, чтобы робот не навредил человеку.

Нарушители

Три закона робототехники, впервые сформулированные писателем Айзеком Азимовым, до недавнего времени оставались просто теорией, поскольку проверить их на практике возможности не было из-за фактического отсутствия субъекта этих законов. Однако чем серьезнее становятся успехи, которых достигают создатели роботов и специалисты по искусственному интеллекту, тем актуальнее становится этический аспект робототехники.

Четыре закона робототехникиПервые три закона робототехники были опубликованы в 1942 году в рассказе Айзека Азимова «Хоровод». Звучат законы следующим образом:

Недавно японская компания Tmsuk представила общественности T-34 – не танк, но охранный робот, нарушающий все три закона именитого писателя. В автономном режиме этот робот патрулирует дом, и, если в него пробирается злоумышленник, T-34 несется на скорости 10 км/ч за убегающим в испуге грабителем, а потом, достигнув прицельной дальности, стреляет в него сетью. Весьма гуманный охранник, особенно если не учитывать тот факт, что, попав в сети на бегу, человек неминуемо упадет и как минимум больно ушибется.

Вопрос гуманности по отношению к людям, похоже, даже нечего рассматривать, говоря о военных роботах, производящихся в Корее, США, Израиле и нескольких других странах. Впрочем, нужно отметить, что в США уже призадумались о том, что будет, когда роботов на вооружении станет очень много.

До 2010 года Пентагон планирует потратить $4 млрд на «роботизацию» американской армии. При этом военные не уверены в том, что во всех боевых ситуациях машины смогут вести себя адекватно. Пока проект по внедрению этических норм поведения находится на стадии консультации со специалистами. Один из них -- Колин Ален, философ и автор книги «Moral Machines: Teaching Robots Right from Wrong». Философ не считает сколько-нибудь реальной ситуацию, при которой взбесившиеся роботы захватывают мир, но вот множественные ситуации, в которых роботам придется принимать решения, по мнению Алена, могут возникнуть уже в ближайшее время. Прецедент имеется: в 2007 году на службу в южнокорейские погранвойска поступил робот-охранник. Он вооружён 5,5 мм пулемётом, а также дополнительным оружием, заряженным резиновыми пулями. Его функция - предотвращать несанкционированное проникновение нарушителей на территорию Южной Кореи. Используя двоичные оптические и инфракрасные датчики движения, машина способна выявлять человека, движущегося по ландшафту и делать выводы о его намерениях. Например, человек, идущий обычной походкой вызовет меньше подозрений робота, нежели крадущийся в полуприсяде. Кроме этого, робот использует систему голосовой идентификации, позволяющую отличить "своих" от "чужих" с помощью системы обмена паролями. Если пароль неправильный - робот подаёт предупреждающий сигнал и открывает огонь.

Закон и порядок

Пока Пентагон консультируется, Европа и Азия всерьез работают над законами для роботов. Южнокорейское министерство коммерции, индустрии и энергетики в рамках воплощения в жизнь проекта «Робота — в каждое домохозяйство Южной Кореи к 2020 году» заказало группе футурологов и ученых разработать кодекс чести для роботов. Помимо трех законов робототехники от Айзека Азимова в «Кодекс этики роботов» будут включены стандарты робототехники для производителей и пользователей, а также основные этические нормы для программирования роботов.

Роботы-убийцыНе смотря на то что пока роботы не в состоянии принимать собственных решений, а действуют исключительно по заложенной в них программе, смертельные случаи с участием роботов часто имеют место.

В Европе также всерьез думают о законодательном регулировании отношений с роботами. Британский профессор Ноэль Шарки обеими руками выступает за принятие кодекса. По его словам, сегодня все чаще возникают ситуации, когда, например, дети привязываются к домашним роботам-игрушкам сильнее, чем к игрушкам обычным, или даже сильнее, чем к домашним животным. Шарки считает, что это может вызвать серьезные психологические расстройства у ребенка, поэтому области применения роботов должны регулироваться законодательно.

Пошли в рост

Такое внимание к роботам лишь издали может показаться слишком пристальным и преждевременным. Согласно результатам исследования «World Robotics» от исследовательского отдела Международной федерации роботостроения (International Federation of Robotics), в 2008 году по всему миру было продано 5,5 млн профессиональных и личных роботов. В сумме, по данным того же исследования, на Земле сегодня существует около 6,5 млн различных роботов, а уже через два года эта цифра увеличится до 18,2 млн единиц. Вдобавок к этому специалисты прогнозируют еще большее падение цен на роботов – за последние десять лет средняя стоимость этих устройств снизилась на 80%.

Параллельно с коммерческими успехами роботов как класса устройств достигнуты серьезные успехи в создании искусственного интеллекта. Правда, пока они не выходят за границы научных лабораторий. Однако регулярно из-за рубежа приходят вести о том, что робот в очередной раз научился делать то, что до того умел делать только человек. Разные роботы в разных концах света (хотя в основном в Японии) узнают своего хозяина в лицо, поддерживают с ним простую беседу, танцуют (подробнее – смотрите в нашем видеосюжете), играют на музыкальных инструментах, бегают, торгуют акциями на биржах, ездят на велосипедах и автомобилях, летают в небе и плавают под водой.

И если пока все это – не нашествие роботов на человечество, то уж точно – активная подготовка к нему.