Он перепрограммировал себя
...Всё равно что целоваться с телефоном: никакого удовольствия. (Фото: «Nautilus»)
Исследование проблемы искусственного интеллекта (ИИ) получило толчок после лекции, прочитанной Михаилом Ботвинником (М.Б.) о «машинных шахматах» в лейпцигском университете в ноябре 1960 года.
Вскоре его статью на основе этой лекции напечатали в СССР и в США. Чемпион мира обсуждал в ней возможность использовать мышление шахматиста как модели для компьютерного программирования.
В контекстеИскусственный интеллект и здравый смысл Надо отдать должное израильской полиции. Два с половиной года следствие, вместе с сотрудниками контрразведки ШАБАК, собирало доказательную базу, которая позволила прокуратуре подать в суд обвинительное заключение против Науи.
М.Б. обладал одним из самых сильных естественных интеллектов в истории среди шахматистов. С шахматами он познакомился поздно – в 12 лет. Нынешний чемпион мира Карлсон в этом возрасте завоевал титул гроссмейстера.
В 20 лет М.Б. стал чемпионом СССР, вскоре выдвинулся в число сильнейших игроков мира. Одновременно защитил кандидатскую диссертацию по электротехнике. После войны защитил и докторскую.
Среди великих шахматистов был успешен в науке кроме М.Б. только Эммануэль Ласкер – чемпион мира с 1894 по 1921 год.
В 1961 году М.Б. добился самого высокого шахматного достижения человека в истории: в возрасте 49 лет он победил в повторном матче за титул чемпиона мира 24-летнего Михаила Таля, признанного гения игры, одержав 10 побед при 5 поражениях.
После сорокалетия чемпионом мира кроме М.Б. становился только Алехин, в 45 лет также выигравший матч-реванш – у Эйве, не имевшего слишком высокой репутации в шахматном мире.
В речи на закрытии матча с Талем М.Б. объяснил свой успех в терминах кибернетики: он перепрограммировал себя.
Видно, уже тогда М.Б. создавал когнитивную версию компьютерной шахматной программы, которая превзойдёт человека.
Идея М.Б. в основе этой работы была интересной, хотя не перспективной. Он пытался научить компьютер думать по-человечески.
В 1970 году М.Б. оставил участие в соревнованиях и посвятил себя созданию компьютерного шахматиста, думающего как гроссмейстер.
Занятно: в это же время мой научный руководитель на психфаке МГУ доктор наук О.К.Тихомиров, наоборот, на примере шахмат пытался понять процесс мышления человека, сравнивая его с компьютерным.
В контекстеМотивированная безмозглость Европу уничтожит не искусственный интеллект, а естественная глупость. Она сама широко открыла двери для полуграмотных и фанатичных беженцев из Азии и Африки. Вместо того, чтобы хотя бы из чувства солидарности позаботиться о евроафриканцах...
Летом 1979 года М.Б. пригласил нас с Аней, моей женой, к себе. Он пытался уговорить нас забрать назад наше заявление о намерении покинуть СССР. Аня была его шахматной ученицей. Жаловался нам, что не может опробовать свою программу, так как у него нет подходящего компьютера. А в Америку, где выделили $ 1млн на его работу с компьютером, его не отпускают.
Ещё М.Б. жаловался, что его книгу воспоминаний соглашаются издать только с купюрами. Собирался добиваться публикации всего текста.
Так почему после этих своих жалоб М.Б. отговаривал нас от эмиграции? Его пример показывал, что мы, желая покинуть СССР, действовали разумно. Но куда легче перепрограммировать человека как шахматиста, чем как личность. А как личность М.Б. был запрограммирован советским человеком. И в этом аспекте перепрограммированию жизнью не поддался.
В преклонном возрасте М.Б. произнёс почти смешную фразу: «Мне повезло, что всю жизнь мои интересы совпадали с интересами моей страны».
Оказался полностью неспособен к перепрограммированию своей личности другой великий шахматист: Роберт Фишер. В 1972 году, в возрасте 29 лет, он блистательно завоевал титул чемпиона мира, наголову разгромив по дороге всех своих соперников.
После этого Фишер оставил спортивную карьеру, сыграв в 1992 году лишь ностальгический матч с состарившимся Борисом Спасским, у которого за 20 лет до того отобрал звание чемпиона мира. На этом матче побывал и побеседовал с Фишером один из лучших американских шахматистов тех лет Яссер Сейраван.
Позже Яссер рассказывал мне: «Фишер почти нормален. Есть лишь 5 вещей, с которыми он не может примириться. Это американское правительство, ФИДЕ (Всемирная шахматная федерация), американская федерация, евреи (Фишер был евреем) и советские шахматисты. Беда лишь, что эти вещи покрывают весь его мир».
После того матча остаток своей жизни Фишер мотался по свету неприкаянным как Вечный жид.
Единственным шахматным партнёром Фишера в годы его отшельничества был компьютер. Несколько из сыгранных с ним партий Фишера 80-90 годов попали в печать. Фишер победил в них, играя в своём стиле: предельно энергично и чуть механистично.
Третьим шахматным гением, захваченным проблемой ИИ, стал Гарри Каспаров. В конце 80-х – начале 90-х годов Гарвардский университет проводил соревнования на Кубок Гарварда между ведущими американскими гроссмейстерами и лучшими программами.
Я играл, кажется, во всех этих Кубках, и был успешен. Моя стратегия была проста: избегать открытых позиций, в которых скажутся счётные возможности компьютеров, и использовать человеческое умение создавать длинные планы. Тогда это работало.
В 1989 году Гарвард посетил Каспаров. Он прочёл там лекцию и провёл сеанс одновременной игры лучшим американским юниорам.
К вечеру мы с моим приятелем гроссмейстером Максимом Длуги приехали в университет, чтобы взять Гарри и поехать куда-нибудь поужинать.
Чемпиону кто-то демонстрировал – на что способен компьютер. Гарри оказался полностью захвачен увиденным. Он ставил перед компьютером все новые позиции, пытаясь разгадать силиконового шахматиста. Не помню, попали ли мы в ресторан.
В следующие годы Гарри сыграл несколько широко освещавшихся матчей с шахматными программами. Историческим стало его поражение от Deep Blue в 1997 году со счётом 3½–2½. Матч проводился с Нью-Йорке, и я посетил несколько партий. Гарри играл очень тяжело, тратил на ходы много времени. Было видно – он не понимает оппонента.
В одной партии – небывалый случай с чемпионами мира – он сдался в ничейной позиции.
В контекстеСоциальные сети и «дизайн сознания» Алгоритмы этих сетей стали настолько сложными, что они могут вызвать у вас зависимость, изменить ваши привычки, навязать стиль поведения или эмоции - и в очень короткий период. Их задача, на самом деле - заставить вас изменить свое поведение в реальном мире в результате чего-то, что вам навязали.
Шахматы – это рефлексивная игра. Ты пытаешься понять замыслы соперника и опровергнуть их. А у компьютера замыслов нет. Он рассматривает все варианты и по какой-то формуле оценивает миллионы возможных конечных позиций.
Соревноваться с ним – всё равно что целоваться с телефоном. Никакого удовольствия.
В 2000 году Гарри утратил титул чемпиона мира. Он был ещё определённо сильнейшим, но потерял интерес к человеческим шахматам. Его подорвали, думаю, матчи с компьютерами. Какое-то время Каспаров ещё продолжал выигрывать все турниры, но в марте 2005 года, в небывало раннем для великих шахматистов возрасте 41 года оставил большие шахматы.
Мощность компьютеров стремительно росла и было ясно, что Гарри соперничать с ними уже не сможет.
Программисты давно отказались от идеи Ботвинника научить компьютеры думать, как люди. Это было бы бессмысленно – компы думают лучше людей. Ввиду невероятной мощности современных компьютеров победила стратегия «грубой силы» (brute force).
Современный компьютер, получив программу, играет сам с собой одновременно многие миллионы партий и узнаёт конечную оценку множества позиций.
Во времена М.Б. удивлялись, во сколько раз возможное количество вариантов шахматных партий превосходит число атомов на Земле. Для современных компьютеров и то, и другое числа не столь уж велики.
Но, похоже, произошло то, что классики марксизма называли законом гегелевской диалектики перехода количества в качество. Недавно в интернете появилась партия, в которой компьютер, играя с нынешним чемпионом мира Карлсеном, уже на втором ходу ни за что отдал слона и легко победил.
Понять, как это произошло, человеческий мозг не в состоянии. Пока только фантасты описывали нечто похожее. Например, в знаменитом фильме Стэнли Кубрика «Космическая одиссея 2001 года», снятом в 1968 году.
Машинный интеллект превзошёл человеческий. И что это сулит нам, если мы становимся зависимыми от этого интеллекта – неизвестно.
Асиломарская конференция по безопасности работы с ИИ, организованная Институтом Будущего Жизни (FLI) в январе 2017 года, в которой участвовали крупнейшие учёные в области ИИ, приняла 23 принципа этой работы.
Похоже, сейчас эти принципы уже перестают обеспечивать обществу Homo sapiens желанную безопасность.
Недавно ведущие специалисты в этой области включая Илона Маска предложили на полгода заморозить все исследования и работы с ИИ. «Лаборатории ИИ вовлечены в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто – даже их создатели – не может понять, предсказать, тем более надежно контролировать», предупредили они.
«Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас математически, интеллектуально, оказаться более соответствующими современности и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?», – вопрошают эксперты.
Похоже, мы плавно вплываем в будни фантастического романа. А пока разросшееся влияние ИИ на нашу жизнь лишило её замечательного интеллектуального развлечения – наблюдать борьбу выдающихся шахматистов и среди них величайшего из мастеров Гарри Каспарова, и превратило эту игру в пустячное упражнение для компьютеров.
Рядовые любители, впрочем, продолжают наслаждаться шахматами.
* * *
Борис Гулько
Статья любезно прислана автором