Искусственный интеллект - это не то, что кажется

Только узнал, что 6 сентября в возрасте 96 лет умер Лотфи Заде, создатель нечеткой логики. Земля ему пухом. Не забудем.

К 50-летию одного из самых удачных математических терминов

Нечеткой логике полвека – в июне 1965 года в журнале Information and Control вышла основополагающая статья «Нечеткие множества» (Fuzzy Sets), которую написал американский математик азербайджанского происхождения Лотфи Заде. Долгих ему лет. Жаль, до юбилея не дожил британский математик танзанийского происхождения Ибрагим Мамдани, который в 1975 году представил первую реальную систему управления с нечеткой логикой – контроллер, следящий за работой парового двигателя. После чего технология стала активно развиваться, найдя применение во многих областях.

Заде 50 лет назад предложил математическое описание живой человеческой логики. В обычной математической логике есть только «истина» (обозначаемая еще числом 1) или «ложь» (0). В нечеткой логике степень истинности высказывания может быть любой – точнее, любым числом от 0 до 1. Красива ли вон та девушка? Ни да, ни нет, а «0.78, что красива».

Непривычно звучит. Как это вообще понять? Для простоты можно считать, что кто-то провел опрос, в котором 78% респондентов назвали девушку красивой, а остальные нет. О’кей. А может ли быть от таких конструкций практическая польза? Вполне. Допустим, нужно принять решение, отправлять ли девушку на конкурс мисс чего-нибудь (серьезные расходы!), а для этого нужно оценить ее шансы на призовое место. Тогда-то и пригодятся оценки не только красоты, но и других важных для победы и тоже нечетких параметров: остроумия, эрудированности, доброты и т.п. Нужно только понять, откуда брать степени истинности и как оперировать с нечеткими данными. Заде понял. Необходимый для практики математический аппарат он разработал к 1973 году. Мамдани на его основе и сделал свой контроллер.

Заслуга Лотфи Заде не только в том, что он разработал новую теорию. Он ее крайне удачно назвал, выбрав общеупотребительное слово. Если бы вместо «нечеткой» взяли заумный термин, например, «континуальнозначная логика» (что, кстати, так и есть), у него не было бы шансов на широкую известность. Неспециалисты просто не употребляли бы это словосочетание, поскольку кто ж его знает, что оно означает.

Другое дело, когда у научного понятия есть бытовой омоним. Тогда обывателю кажется, что он понимает, о чем речь, особенно если посмотрел про это кино. Таких «понятных» терминов в математике и физике тоже немало. Черная дыра. Магический квадрат. Горизонт событий. Очарованный кварк. Теорема о двух милиционерах. Ну и конечно – матрица! Кто же не знает, что матрица – это когда Киану Ривз бегает по потолку. И не надо нам рассказывать про какие-то таблицы с числами.

Для развития науки вульгарные представления широких масс полезны. Обычных слов следовало бы даже добавить. Фильмов про горизонт событий снять побольше. Натяжек и ляпов не бояться. Главное, чтобы зритель ощущал прикосновение к переднему краю науки и величие человеческого, а, значит, и своего личного разума. Особенно если от такого зрителя зависит принятие решений о финансировании исследований.

Выдающийся советский ядерщик Георгий Флеров говорил: «Объяснять важному начальству научную проблему нужно не так, как правильно, а так, как ему будет понятно. Это ложь во благо». Правильно. Руководство не нужно смущать лекциями про «спонтанные нарушения электрослабой симметрии». Расскажите лучше про «частицу Бога» и «Великую тайну гравитации». Вранья, кстати, в этом особого нет – а инвестиции есть. Не беда, что околонаучные сказки порождают завышенные ожидания и, как следствие, избыточное вливание денег, заканчивающееся разорением. Общая польза в итоге перевешивает. Пузырь доткомов в 2001 году лопнул, но интернет-технологии получили мощнейший импульс.

Нечеткой логике в этом смысле повезло не только с собственным названием, но и с причислением к списку наук и технологий, объединенных названием «искусственный интеллект» - наряду с нейронными сетями, логическим программированием, экспертными системами и др. Это уже большая маркетинговая игра, где участники списка получают эффект от пакетной рекламы в рамках раскрутки единого научного мегабренда. Шутка ли: искусственный интеллект! Вот уж чарующая перспектива понятней некуда. Каждому в дом по железному слуге. Пусть умные кибернетические организмы делают всю работу, а мы будем только вводить пин-коды и пить пина-колады. Ради такого света в конце тоннеля не жаль никаких денег.

Флеровская «ложь во благо» на примере искусственного интеллекта сработала на 100%. Японское правительство с 1982-го по 1992 год потратило полмиллиарда долларов на разработку «компьютера пятого поколения» с элементами «мышления». Как задумывалось, не получилось. В частности, скис язык логического программирования Prolog, которому в 1980-е прочили первые роли. Ну и ладно. Все ж как с доткомами: роботов в некоторых странах в итоге все равно научились делать отличных.

Сегодня кибернетические системы видят, слышат и читают почти как люди, обыгрывают шахматных гроссмейстеров и зачастую эффективнее дипломированных специалистов управляют производственными процессами. Спасибо за столь мощное развитие темы помимо непосредственных разработчиков нужно сказать авторам удачной терминологии, а также Айзеку Азимову, Артуру Кларку, братьям Вачовски и всему коллективу киностудии имени Горького, подарившей советским детям образы роботов-вершителей.

Никаких разумных киборгов при этом на самом деле не создано. Пока даже нельзя уверенно сказать, что, пытаясь их сотворить, мы движемся в правильном направлении. Чтобы убедиться в этом, давайте посмотрим, как в самых общих чертах работает «умная» стиральная машина, которая благодаря блоку управления с нечеткой логикой умеет определять, когда одежда стала уже «достаточно чистой», чтобы слить воду и начать отжим. Пример любопытен еще и тем, что показывает, как практический результат достигается на стыке нескольких дисциплин: физики, химии и математики.

Задача управляющего устройства машины состоит в следующем. Принять на вход данные о степени загрязнения одежды и типе загрязнения. Проанализировать их и сформировать выходной параметр: время стирки.

За оба входных показателя отвечает оптический датчик, который определяет, насколько прозрачен моющий раствор. По степени его прозрачности можно судить о степени загрязнения: чем более грязная одежда загружена в бак, тем менее прозрачен раствор. А тип загрязнения определяется по скорости изменения прозрачности раствора. Жирные вещества плохо растворяются, поэтому чем медленнее изменяется концентрация раствора, тем с более жирным загрязнением приходится иметь дело. Все, датчик работу закончил.

Отметим, что он выдал два точных параметра, два конкретных числа: степень прозрачности раствора и скорость изменения прозрачности раствора. А вот дальше начинает работать алгоритм Ибрагима Мамдани.

На первом этапе, который называется фаззификацией (введением нечеткости), оба числа превращаются в нечеткие понятия. Допустим, мы ввели три градации загрязнения: «слабое», «среднее» и «сильное». Тогда вместо уровня прозрачности раствора появляются три нечетких суждения о загрязнении, скажем: «0.3, слабое», «0.6, среднее», «0.1, сильное».

Что значат эти цифры? Как и в случае с девушкой, чью нечеткую красоту мы обсуждали в начале текста, их можно считать результатами некоего референдума, на котором 30% граждан проголосовали, что загрязнение при данном уровне прозрачности раствора слабое, 60% - что среднее, 10% - сильное. А что, кто-то этот референдум проводил? Можно считать, что да.

В ходе разработки изделия собрались эксперты по машинной стирке и прикинули, как разложатся голоса «избирателей» в зависимости от уровня прозрачности раствора. А не шарлатанство ли это, спросите вы, математика же точная наука, какие еще эксперты по стирке? Да вот такие. Если вы всерьез хотите решить задачу, то найдете стоящих специалистов, чьи прикидки и оценки будут осмысленными и полезными.

Итак, у нас есть один нечеткий параметр «степень загрязнения», теперь нужен второй: «тип загрязнения». Проводим еще один «референдум». Допустим, он показал, что при такой скорости изменения концентрации раствора, которую нам выдал датчик, загрязнение следует считать, например, «0.2, малой жирности», «0.5, средней жирности», «0.3, большой жирности».

Наступает второй этап алгоритма: применение нечетких правил. Теперь вместе с экспертами мы обсуждаем, каким должно быть время стирки в зависимости от степени и типа загрязнения. Перебирая все возможные варианты, получаем – трижды три – девять правил следующего вида: «если загрязнение сильное и средней жирности, то время стирки - большое». Далее по законам логики (мы их для простоты пропустим) подсчитываем степень истинности для времени стирки. Пусть в результате нечеткое время стирки получилось таким: «0.1, малое», «0.7, среднее», «0.2, большое». Можно приступать к заключительному этапу.

Он называется дефаззификацией, то есть ликвидацией нечеткости – нам ведь необходимо дать машине точную вводную, сколько времени вращать барабан. Подходы есть разные, один из распространенных заключается в вычислении «центра тяжести». Допустим, эксперты сказали, что малое время стирки это 20 минут, среднее – 40 минут, большое – 60 минут. Тогда с учетом «веса» каждого значения получаем итоговый параметр: 20*0.1 + 40*0.7 + 60*0.2 = 42. Одежда будет «достаточно чистой» после 42 минут стирки. Ура.

Ибрагим Мамдани придумал красивую штуку, не правда ли? На первый взгляд, чуть ли не шаманство. У вас есть точные исходные цифры и нужно из них получить другие точные цифры. Но вы не корпите над выводом формул, а погружаетесь в мир нечетких понятий, как-то там ими оперируете, а потом возвращаетесь обратно в «точный» мир -- с готовым ответом на руках.

Производители стиральных машин даже принялись рекламировать применение нечеткой логики и прямо на изделиях или в инструкциях писать Fuzzy Logic, Fuzzy Control, Logic Control. Бизнесмены люди прагматичные и не размещают каких попало слов на своем товаре. Так что если вы увидели на машине надпись Fuzzy Logic, это значит: она «продает» товар. Технология помимо своих сугубо потребительских свойств гипнотизирует покупателя еще и названием, мотивируя на расставание с лишней сотней долларов. Уж не знаю, получает ли с этого роялти Лотфи Заде, но это было бы справедливо. Ни один другой раздел математики на бытовой технике не упоминается.

Но вы же заметили, наверное, что по ходу описания работы стиральной машины с нечеткой логикой не встретилось ни одного места, где можно было бы заподозрить, что у машины появился собственный разум. Только инструкции вроде служебных, только решение запрограммированных задач. Машина будет вовремя сливать воду. Но она не будет понимать, что она делает и зачем. В ее микропроцессорную голову никогда не придет мысль перестать стирать и ради прикола устроить в ванной потоп. Если только эта мысль не посетит программиста, который для прикола встроит в машину еще какую-нибудь Funny Logic. Сама же машина до такого додуматься не может.

Вот вам и весь искусственный интеллект. Роботы учатся только имитировать человеческую деятельность, пусть даже такую, на которую мы сейчас тратим интеллектуальные усилия, например, на перевод с другого языка. Пусть даже они переводят лучше. Вы же не обижаетесь на подъемный кран, что он сильнее вас. И появление кранов не привело к исчезновению штангистов. Только теперь поднятие тяжестей это спорт и удовольствие, а таскать на себе мешки с цементом на стройке не надо. С переводами то же самое. Программа не умнее нас, просто мы смогли формализовать и эффективно сгрузить на нее некоторые наши умения, и теперь можем не тратить свои интеллектуальные усилия на технические переводы, а заняться, скажем, Шекспиром.

Считать, что машины приобретают интеллект благодаря передовым достижениям кибернетики – все равно что верить в карго-культ. Помните, как жители затерянного острова, увидев в небе самолет, сделали такую же фигуру из соломы и думали, что полетит? Они тогда ничего не знали о металлах и керосине, не говоря уже о подъемной силе – и поди объясни.

Так и у нас с «искусственным интеллектом». Роботы скоро смогут водить автомобили и наверняка когда-нибудь обыграют команду людей в футбол – тем более, что этот момент приближают не только японские инженеры, но и наша сборная. Но это будет не более чем имитация разумных действий на поле. Как те аборигены, мы не знаем пока чего-то критически важного, что позволило бы создать разумное существо.

У нас, говоря словами Станислава Лема, обязательно получится Усилитель Умения Водить Авто – как уже получился Усилитель Умения Остановить Стирку. А вот Усилитель Интеллекта, появление которого предсказывал великий фантаст, на основе нынешних технологий «искусственного интеллекта», в том числе нечеткой логики, несмотря на все ее изящество и полезность, не получится. Нечеткая логика это всего лишь способ сократить объем вычислений при решении некоторого класса задач. И на том спасибо.

Можно не бояться роботов-вершителей. Муки творчества, благородные порывы, научный поиск, мечтательность, достоинство, самопожертвование, готовность к подвигу, авантюризм, честь, дружба, гордость, предубеждение, зависть, алчность, жлобство, чванство, подлость, пошлость, доносительство, разводки, сливы, подставы – во всех этих номинациях мы с вами еще долго будем выступать куда круче наших меньших полупроводниковых собратьев.

Литература:

L.A.Zadeh, Fuzzy Sets http://www.sciencedirect.com/…/article/pii/S001999586590241X

M. Agarwal, Fuzzy Logic Control of Washing Machines http://www.cs.gsu.edu/…/wash%20m…/fuzzy%20wash%20machine.pdf

Источник