Исчезнет ли человек к XXII веку?

Тысячи ученых пытаются вдохнуть разум в тело машины. Уже сейчас роботы могут анализировать, принимать решения, действовать. В XXI веке они научатся думать. Машина подчиняет себе своего творца. Наш разум уступает искусственному. Проиграет ли человек состязание с машиной?

ХХ век кончился очередным торжеством человеческого разума: успехи в медицине и космонавтике, открытия в генетике и астрономии и, наконец, достижения в области обработки информации, приведшие к «компьютерной революции» и появлению всемирной сети Интернет.

Увы, оптимизм — извечный опиум человечества. Люди нередко спешат приобщиться к этой пагубной заразе, уверяя себя, что мир наконец переменился, и отныне за любым триумфом будут следовать не падения, не трагедии, а новые триумфы. Однако история всякий раз обманывала ожидания. Торжество разума оборачивалось иллюзией.

Вот и теперь мы постепенно впадаем в зависимость от наших смышленых машин. Мы разучиваемся мыслить, используя «более совершенный компьютер, вместо того чтобы еще и еще раз тщательно продумать исходную постановку задачи» (как отмечал на страницах журнала «Знание — сила» И. Андрианов). Мы вынуждены доверять нашим машинам. Мы взрастили их и научили их действовать. Кем они окажутся — отзывчивыми помощниками или неблагодарными детьми?

Ведущие специалисты в области информатики считают, что компьютер, наделенный сознанием, станет опасен для человека. Компьютер говорит, думает и воспринимает мир, как человек. Он — его отражение, и в то же время он по своим возможностям в тысячи раз превосходит человека. Он быстрее его, способнее его к обучению, и он менее раним, чем человек. Приняв в свой дом убогого слугу, слепленного из проводков и полупроводников, мы сжились с коварным захватчиком, который по прошествии некоторого времени возьмется помыкать нами и высасывать из нас все соки, словно раковая опухоль, проникшая в организм.

Физики ополчились на «человекобога»

Еще в пятидесятые годы британский математик Алан Тьюринг (1912 — 1954) задался вопросом, может ли компьютер обладать разумом и, если да, то по какому признаку мы это определим? Сам ученый ответил на это вопрос так: машину можно считать разумной, если, побеседовав с ней, человек не заметит, что имел дело с машиной.

В то время появление подобного теста было вполне уместным. Программисты добились первых заметных успехов. Газеты и журналы пестрели рассуждениями об «электронном гении» или «супермозге», а сами создатели ЭВМ предпочитали говорить об «искусственном интеллекте». Пока советские политики уверяли, что в считанные годы мы построим коммунизм, ученые Запада и Востока уверились, что ЭВМ скоро превзойдет мозг. Тень машины накрыла живой разум. Считалось, что человеческий мозг — это лишь хорошо оснащенный computer (англ. — «вычислительное устройство»), к программному обеспечению которого относятся сознание, интеллект и речевая способность. Недавнего «человекобога» низвели до уровня «машиночеловека».

Подобные попытки предпринимались давно. Недаром еще М. Волошин в 1922 году писал: «Машина научила человека пристойно мыслить, здраво рассуждать. Она ему наглядно доказала, что духа нет, а есть лишь вещество, что человек — такая же машина…» Однако никогда еще эти попытки возвысить машину не были так настойчивы, как в пору всеобщего наступления «физиков» на «лириков» (процесс этот был общемировым, и, например, западная поэзия так и не оправилась от вторжения в жизнь машинного начала: недавняя властительница дум превратилась в «рукоделье лингвистов»). Марвин Мински, один из основоположников науки об искусственном разуме, так сформулировал свое кредо, словно бы восприняв всерьез коварные резоны М. Волошина: дух — это не что иное, как продукт бездуховных, но разумно связанных друг с другом программ и подпрограмм.

Однако ожидания были преждевременными. Выполнить тест Тьюринга компьютеры никак не могли. Мы, люди, постоянно обновляем свою память. Каждый день мы накапливаем горы новой, свежей информации и бессознательно используем ее. Мы неизменно обращаемся к этому огромному и сложному запоминающему устройству, что спрятано у нас в голове. Мы черпаем оттуда все, что нам нужно, даже помимо нашей воли. Мы! Не они.

До сих пор все попытки наделить машину человеческим разумом терпели провал. Конечно, компьютеры научились многому. Одни из них, как соперник Г. Каспарова «Deep Blue», блестяще играют в шахматы, другие воспринимают человеческую речь, третьи узнают лица людей, четвертые моделируют и проектируют, выполняя работу целых КБ. Однако компьютеры по-прежнему не универсальны. Соединить все способности кряду ученые пока не могут. Наши электронные шахматисты не комментируют футбольные матчи, наши электронные переводчики не всматриваются в своих собеседников, голосом которых вещают, и прочее, и прочее. А ведь искусственный интеллект, ежели он намерен тягаться с человеческим разумом, должен быть способен и на многое другое: машина должна постигать смысл наблюдаемых ею событий, у нее должно быть свое мировоззрение, то есть система взглядов на окружающий ее мир, наконец, машина обязана чувствовать.

Однако современные компьютеры как раз обделены эмоциями. Они без труда отыщут кратчайший маршрут из Москвы в Вальпараисо, но вопрос: «Красиво ли это лицо?» ставит их в тупик. В машинах нет творческого начала. Они лишены самосознания. У них нет души, и это самое главное! Перед нами лишь временное сочетание отдельных элементов. Оно не чувствует никакой ответственности за свое «единое целое». Доколе так будет длиться?

Как бороться с безработицей роботов?

Британский профессор Кевин Уорвик убежден, что через двадцать лет люди станут рабами роботов. Американцы Ханс Моравец, Нил Гершенфельд и Рей Курцвайл пророчествуют, что к концу XXI века машины превзойдут человека по уровню интеллекта.

«Это следующая ступень эволюции, — заявляет Курцвайл, автор книг «Век думающих машин» и «Homo S@piens». — Она зарождается в недрах нашей цивилизации». Его тезисы звучат, как сюжеты научной фантастики: в 2019 году компьютеры будут мыслить так же быстро, как человеческий мозг, совершая до двадцати миллионов миллиардов операций в секунду. В 2029 году появится «программное обеспечение для интеллекта», вырабатывающее «сознание».

В 2099 году исчезнет всякая разница между человеком и машиной. Это можно выразить и иными словами: к началу XXII века человек — в привычном понимании этого слова — исчезнет.

Мир заполонят небиологические существа, наделенные точными копиями нашего мозга. Это будут личности со своими чувствами и своей индивидуальной способностью реагировать. Их решающее преимущество в том, что машина легко передаст свои знания мириадам других. Если я учу французский язык или читаю «Войну и мир», то знания, накопленные мной в виде переплетения нейронных сетей, останутся лишь моими знаниями. Я не могу передать их доподлинно точно другим людям. Зато искусственный мозг будет непременно использован для «перезаписи» знаний.

Что касается людей старого пошиба, то они оснастят свое тело и мозг быстродействующими микрокомпьютерами, дабы не уступать в эволюционной борьбе роботам, которые, как предсказывает Моравец, примутся создавать свои фирмы, где не будет и «пахнуть человеческим духом». На работу сюда будут принимать лишь таких же, как они, роботов.

Пророки машинного разума черпают уверенность в так называемом законе Мура, гласящем, что каждые полтора года мощность процессоров удваивается. Настанет время, когда компьютер будет наделен таким громадным ресурсом, что ему не останется ничего иного, как взяться за работу, которая до сих пор была лишь уделом человеческого мозга.

О чем грезил Кондильяк?

В 1984 году американский компьютерщик Дуглас Ленат и его коллеги затеяли важный проект. Они попытались на языке формул втолковать компьютеру по имени «Сус» весь мир. Они обучали машину банальностям: дети моложе взрослых; метро проложено под землей, а шоссе над землей, и т.п.

«Сус» должен научиться всему, что знает человек в здравом уме. Он давно уже пополняет свои представления о мире, сканируя газеты и книги. Однако объявленной цели, как догадались ученые, не удастся достичь. Огромные объемы накопленного знания еще не превращают машину в человека, равно как и бесталанного человека — в творца. Вот и библиотеки, оттого, что в них хранятся десятки и сотни тысяч томов, тоже не обзавелись мозгами. Сейчас фирма Лената распродает программное обеспечение этого компьютера как своего рода гигантский «лексикон человеческого знания».

В середине девяностых годов «очеловечить» машину вознамерился и Родни Брукс, профессор информатики из Массачусетсского технологического института. Для этого он решил наделить компьютер «Cog» различными органами чувств, позволив ему осязать и осматривать мир. Когда «Cog» почерпнет какое-то «определенное» количество информации из окружающего мира, у него, как у младенца, забрезжат зачатки сознания.

Эта «мыслящая машина» напоминала «чувствующую статую», чей образ придумал французский философ XVIII века Э. Кондильяк. Если бы статуя, полагал он, была наделена хотя бы одним из чувств — обонянием, у нее неизбежно зародилось бы сознание: «Пусть в сознании статуи будет один-единственный запах — вот вам и внимание; пусть запах этот длится, когда причина, вызвавшая его, уже исчезла, — вот вам и память; пусть внимание статуи сопоставит впечатление настоящего и прошлого — вот способность сравнения; пусть статуя почувствует сходство и различие — это будет суждение», и т.п. (перевод Е. Лысенко).

Однако в машинном теле — а Брукс даже придал компьютеру образ человеческого торса — пока так и не зародилось сознание. По-прежнему «Cog», вопреки гипотезе Кондильяка, не наделен ни памятью, ни чувством времени. Правда, его «физиономии» придана «экспрессивная мимика», дабы изъявлять разнообразные чувства и переживания. Так, в чертах его разливается печаль, если ученые перестают обращать на него внимание. Но разве у него есть что-то на душе? Разве он впрямь чувствует печаль, оставшись в одиночестве?

Новейшей попыткой стереть грань между человеком и машиной стал робот «Kismet», возникший в той же лаборатории. Его бегающие глазки выискивают возможных собеседников. Когда человек коснется его сенсоров, черты робота просветляются: брови вздымаются, уши подрагивают.

Подобный робот растрогает даже камни. Он ведет себя, как ребенок. Весел ли он, испуган или утомлен, все зависит от окружающих — от того, общаются ли они с ним, играют ли, дают ли ему выспаться. Однако изъявляет он эти чувства не потому, что ощущает их. Нет, так велит программа, вложенная в него. В отличие от таких сложных, умных существ, как кошка или собака, этот робот — с его лукавыми глазками и подрагивающими ушами — все равно иллюзорное, механическое создание. В его чертах по-прежнему нет жизни.

Кто такие «как все»?

Пока мы не разобрались в самих основах человеческого сознания, нет смысла рассуждать о том, может ли машина впрямь обладать сознанием. Человеческий мозг нельзя сравнивать с компьютером, прибегая к такого рода логике: «Мозг обрабатывает информацию, и микросхемы обрабатывают информацию. Значит, мозг сходен с микросхемой».

Философы, оппонирующие Курцвайлу и С0, считают их пророчества «простыми выдумками, игрой ума». Обрабатывать информацию можно по-разному. Машина проделывает, например, все операции последовательно, мы — параллельно-последовательно. По ассоциации мы выхватываем из глубин памяти сведения, много лет назад отложенные и, наконец, пригодившиеся. Мозг машины может на 90 процентов работать, как человеческий.

Но остальные 10 процентов — это творческий интеллект. Его никак не воспроизвести.

Американец Джон Сирл сравнивает «поведение» компьютера с действиями человека. Вызубрив правила китайской грамоты и иероглифы, компьютер может складывать из них слова, но что означает этот набор знаков, для него по-прежнему непонятно. Философ делает вывод: даже если появятся машины, которые, — будучи соответствующим образом запрограммированы, — станут вести себя, как человек, наделенный разумом, это не доказывает, что разум у них есть.

А способна ли «неразумная тварь», как бы сильна она ни была, справиться с носителем разума — человеком? Ее сила, по ее неразумию, будет всегда применяться по определенной схеме. Человек же, наделенный хоть искрой творческого духа, всегда играет не по правилам. Каждый человек — сам по себе — уникальный свод законов, постичь которые и разобраться в их беспорядочном переплетении ему самому не удается до конца своей жизни. Каждый нормальный человек думает (и порой поступает) «не как все».

Вовсе несложно сконструировать лет через сто аппараты, которые поведут себя вроде бы так же, как мы. Они будут осязать, осматривать окружающий их мир, прислушиваться к нему, сканировать книги и газеты, складируя в своем электронном мозгу миллиарды и миллиарды строчек. Но ощущения, вызываемые предметами и событиями, — это больше, чем реакция на них: «Препятствие — уклониться», «Съедобное — съесть», «Горячее — избежать». Нет, ощущения подчас «впечатываются» в наше сознание, становятся его призраками, и тогда стена — простое препятствие — исподволь твердит, что «Выхода Нет», а огонь неожиданно заставляет вспомнить давний зимний праздник на даче. Мы живем с этими призраками, то настораживающими нас, то согревающими. А впечатления от произведений музыки и поэзии! Добиваться от компьютера, чтобы он научился и этому, все равно что потчевать, кормить и умащать волка из русской пословицы: один не научится, другой убежит.

Конечно, машины могут крайне затруднить жизнь человека. Простая размагнитившаяся дискета порой перечеркивает не один месяц ваших трудов. Обесточенные приборы в городах, где практикуют «веерное отключение электричества», вмиг превращают современного горожанина в инвалида, не способного ни приготовить пищу, ни узнать о происходящем вокруг, ни даже показаться на улице в свежевыглаженной рубашке.

И все-таки человек — не машина, моментально глохнущая, если «пункт А не выполнен». Человек, словно бактерия, способен выбраться из любых переделок, прижиться в любых условиях. Даже если машины, прирученные им, все же восстанут, у людей останутся истоки, к которым можно вернуться, выбираясь «из тягчайшей нищеты и новых видов рабства» и восстанавливая попранную гармонию. Ипостаси «человека средневекового», вовсе чуравшегося машин, или «человека XIX века», умеренно допускавшего их в свой быт, были вовсе не так уж плохи.

За любым прорывом в неведомое, за любой революцией — социальной и научной — следует мощный откат. Оптимизм слеп и обманчив. Триумф науки и искусства начала века сменился общеевропейским «тоталитарным рабством» 1930 — 1940-х годов. Чем обернется новый научный взлет 1980 — 1990-х годов? И машины ли станут причиной будущих бед? Да и вообще — превзойдут ли машины человека?