Выполняется запрос
 

Возможно ли порабощение людей роботами?

«Победа советской шахматной программы не была случайностью. Она иллюстрировала зрелый уровень советской кибернетики. От нее ждали в лучшем случае подражания, но она стремительно набирала силы, шла своим, оригинальным путем.

Особенно поразили мир два достижения: блестящая работа математиков Сибирского отделения АН, расшифровавших с помощью ЭВМ таинственные письмена давно исчезнувшего народа майя (эти данные почти полностью совпали с результатами, полученными и другими методами), и работа сотрудников Института автоматики и телемеханики АН СССР, обучивших вычислительную машину читать. Освоив печатный текст, они перешли к рукописи. При составлении программы действия для машины они исходили из того, что в написании каждой буквы, изображенной различными людьми, имеется нечто общее, что любые варианты написания буквы «а» ближе друг к другу, чем к любому написанию «б» или какой-либо другой буквы.

Этот путь оказался очень перспективным. В первых опытах машине, снабженной устройством для наблюдений (напоминающим устройство для передачи телевидения), был показан ряд написаний букв и цифр. В машину была заложена программа, по которой она выявляла признаки, общие для данной буквы или цифры. После короткого периода обучения машина безошибочно опознавала эти буквы и цифры среди множества различных букв и цифр, подаваемых ей без всякого порядка.

Правда, современные электронные вычислительные машины, несмотря на их значительный объем памяти и быстродействие, тратят на чтение рукописного текста слишком большое время. Машинное чтение рукописей, позволяющее отказаться от применения пишущих машинок, дело будущего, когда объем оперативной памяти электронных вычислительных машин и их быстродействие возрастут еще в десятки и даже в сотни раз.

В свое время энтузиасты кибернетики, страхуя себя и любимую науку от нападок, старались в лекциях и книгах подчеркнуть, что машина может сделать все, что заложит в нее человек, но неспособна открыть что-либо новое, так как программу действий в нее закладывает человек. В то время они еще не учитывали диалектики процесса обучения машины.

Читающая машина не зазубрила всех возможных написаний букв. Ей была задана программа, по которой она выявляла общность в заданном многообразии образов, приготовленных для ее обучения. Но выбор она делала сама. Это подтверждает еще раз, что машине не всегда нужен жесткий план действий, достаточно указать лишь правила, которыми она должна руководствоваться при всевозможных и зачастую неизвестных конструктору условиях и воздействий на нее со стороны внешней среды.

Конечно, не зная точно, что произойдет в будущем, конструктор не может заранее предсказать, к каким результатам придет его машина, обученная при помощи созданной им программы.
— Значит, машина может быть умнее человека? — подняли головы скептики, — значит, человеку суждено стать рабом машины?!.
Впрочем, не будем очень уж строги к скептикам — это трудный вопрос.
Действительно, можно ли сказать, что машина умнее человека?
Английский ученый Джон Бернал так ответил на этот вопрос: «Без умных людей электронные машины глупы, они даже не знают, когда делают глупость. Если вы составите глупую программу, то из машины извлечете чепуху».
И приводит забавный пример.

В США был создан электронный мозг с тем, чтобы он ответил, когда будет война. Все необходимые данные были тщательно запрограммированы и введены в память машины. Ответ машины гласил:
— Да.
— Что «да»?
— удивились конструкторы и их военный шеф.
Программа была пересмотрена и снова вложена в машину.
Новый ответ был еще более «исчерпывающим»:
— Так точно, сэр! Как видно, не всякие умственные способности стоит усиливать…

Кстати, во время начала конфликта в Корее в газетах появилось сообщение о том, что с помощью электронных машин решался вопрос о целесообразности нападения на Китай. И машина наложила вето на этот проект. Трудно сказать, какая доля правды содержалась в этих сообщениях. Важно другое: это может быть правдой и страшной правдой, если программы для умных машин будут создавать жестокие и недальновидные политики.

Жизненные и научные стратегии Норберта Винера фото
Жизненные и научные стратегии Норберта Винера
Литвин Алексей Юрьевич

Норберт Винер - известный американский математик XX века, один из основоположников кибернетики - науки об  общих закономерностях получения, хранения, преобразования и передачи информации в сложных управляющих системах.

Благодаря сложности психической, интеллектуальной жизни и бесспорно выдающимся профессиональным результатам фигура Н. Винера интересна для изучения. Его научные, профессиональные стратегии могут быть полезны уважаемым Читателям.

И все-таки, до какой степени сложным можно создать электронный мозг? Как близко удастся подвести его к живому? Один ученый уверяет:
— Если бы мы могли располагать достаточным количеством необходимых модулей (элементов искусственного мозга), и они были бы достаточно малы и надежны, и, наконец, мы имели достаточно времени, чтобы собрать все это вместе, то мы могли бы построить роботы, действующие по любой заданной программе. При этом нетрудно построить робот, ведущий себя в точности, как Иван Иванович или Петр Петрович, или же робот, имеющий любое желаемое усовершенствование их поведения.

Другой ученый возражает:
— Допустим, можно, но зачем? Зачем нам робот, похожий на того или иного человека? Ведь машина никогда не заменит не только Ньютонов и Галилеев, но и обыкновенных людей. Зачем затевать колоссальную работу, зная наперед о ее бесполезности?

Третий уточняет:
— Машина, близкая к мозгу по богатству элементов, связей, нуждалась бы для размещения в помещении, превосходящем самый огромный небоскреб. Для снабжения ее энергией нужна была бы мощь Ниагарского водопада, а для охлаждения — еще один такой водопад. Количество нервных клеток у человека исчисляется числом с десятью нулями, что несравненно превосходит число элементов самой большой известной вычислительной машины.

Каждое новое достижение кибернетических машин вновь и вновь поднимает тот же вопрос: в какой степени искусственный мозг совершенен

Насколько его вообще можно считать «мыслящим»? Один из зарубежных создателей современных думающих машин, Тьюринг, предлагает раз и навсегда решить этот вопрос, считая машину способной мыслить, «если она может при известных предписанных условиях подражать человеку в ответах на вопросы настолько хорошо, чтобы обмануть на значительный период времени человека, задающего вопросы».

Он придумал такой порядок этой своеобразной игры в имитацию. Человек-экзаменатор и невидимый испытуемый обмениваются рядом вопросов и ответов. Если через некоторое время экзаменатор так и не догадался, кто его собеседник — человек или машина, он сдается. За таким автоматом Тьюринг готов признать право считаться мыслящим.

Другой ученый говорит, что он поставит знак равенства между человеком и машиной, если последняя научится смеяться шутке в должный момент. Но так как не все коллеги рассмеялись этому определению достаточно быстро, то дискуссия о том, должна ли машина обладать чувством юмора и стоит ли тратить миллионы, чтобы снабдить этим чувством машины, не состоялась.

Обсуждения этой темы иногда походят на модные в XVII веке споры о том, где находится вход в преисподнюю, чему даже была посвящена одна из диссертаций. И сейчас еще много разных мнений, много горячности. И это естественно — ученые продолжают поражаться искусству природы, вместившей в небольшом объеме человеческой черепной коробки столько возможностей. Поражаться не только тому, что число переключающих элементов мозга несравненно больше, чем у самой большой электронной машины, но и тому, что нервная система обладает уникальной способностью к компенсации утерянных возможностей. Отдельные не слишком крупные повреждения не ведут к отказу всей системы. Ничего подобного пока в технике нет. Но ученые и инженеры настойчиво разрабатывают системы, способные выполнять свои задачи, несмотря на порчу отдельных элементов.

Что же касается вопроса, кто умнее, разве допустимо ограничиваться лишь формальным ответом!

При современном уровне техники можно создать в памяти машины такой объемистый словарь и задать ей такую программу, что она смогла бы составить полный набор ответов на все возможные вопросы.

Однако как говорил еще Эйнштейн:
«Что бы ни делала машина, она будет в состоянии решить какие угодно проблемы, но никогда не сумеет поставить хотя бы одну».

— У нее не может даже появиться желание это сделать, — развивает мысль Берг, — у машины не возникает потребности в познании.

Искусственный мозг не может выйти за рамки предопределения. Машина не способна изобретать, заинтересовываться. Это для нее недостижимо. Но не в силу слабости инженерного искусства, а из-за принципиальной невозможности. И нас, ученых, это не пугает. Мы знаем, что законы термодинамики не допускают создания вечного двигателя. Из принципа неопределенности Гейзенберга следует, что невозможно одновременно сколь угодно точно измерить положение и скорость электрона. Теория относительности Эйнштейна утверждает невозможность движения со скоростью, превышающей скорость света в пустоте. Есть запреты, которые человек не может преступить. Он не может стереть грань между человеком и машиной, между живым и неживым, да и нужно ли это?

Помните замечания Берга при чтении антикибернетических статей? «Не переделывать законы природы (на что может пойти лишь невежда и авантюрист), а использовать их».
— Постановка задач, истинное творчество — потребность человеческого разума. Однако машины помогают нам в решении этих задач и даже указывают правильный и быстрый путь их решения, и это немало! Это еще раз подтверждает правомерность работ над созданием усилителей умственных способностей…

Усилитель умственных способностей… Эти три слова пугают лишь в сочетании. Первое же притягивало многие умы. Можно сказать, что весь технический прогресс строится на поиске какого-либо усилителя.

Уже очень давно человек применяет искусственные источники энергии, которые намного превосходят мощность его мускулов. Теперь в его распоряжении тысячи лошадиных сил, тогда как его собственные мышцы могут дать лишь около одной десятой лошадиной силы.
XX век сделал следующий логический шаг, поставил тот же вопрос, но на современной основе: а можно ли построить машины, обладающие «умственными» способностями, превосходящими способности мозга, механизмы, решающие задачи, непосильные для человеческого интеллекта?

Ведь способности человеческого мозга столь же ограниченны, как и сила его мышц.
— Почему-то принято считать мозг весьма совершенным, — говорит Берг. — Между тем он, несомненно, несет следы предыстории человека и развивается очень медленно. Но теперь, осознав несовершенство своего мозга, человек разрабатывает устройства, компенсирующие его недостатки. Так появились вычислительные и управляющие системы, способные работать более оперативно, чем мозг, но созданные по его замыслу в помощь человеку. Человеческий мозг создал организованное общество людей, его науку и технику. Он научил человека получать добавочную мощность с помощью машин, которые можно рассматривать как усилители мощности. Что же удивительного в том, что на другой, более высокой стадии развития, человек поставил задачу создания усилителя умственных способностей? Назначение такого усилителя заключается в том, чтобы неизмеримо увеличить производительность человеческого мышления.

Конечно, на это можно возразить, что в таком случае способности машины должны превосходить способности ее конструктора. Но ведь и механики средних веков считали, что никакая машина, приводимая в действие человеком, не может дать больше работы, чем он в нее вкладывает, что никакая машина не может усилить мощность человека. И они по-своему правы, потому что им были известны лишь простые механизмы: рычаги, блоки, зубчатые колеса и т. п., которые могли преобразовать силу человека, но не были способны дать ему дополнительной энергии.

Покорение пара и особенно использование электрической энергии опровергли убеждения средневековых механиков. Действительно, забрасывая в топку уголь, человек совершает не очень большую работу. Но при сгорании угля высвобождаются скрытые в нем запасы энергии, намного превосходящие ту, которая была затрачена кочегаром.

Шагающие экскаваторы, автопогрузчики и другие механизмы, созданные и управляемые человеком, по мощности превосходят его мускулы в огромное число раз.

Простые счеты и механические арифмометры позволили свести элементарные арифметические действия к чисто механическим операциям.

Они заметно усилили вычислительные возможности человека, освободив его мозг от выполнения большого числа утомительных процедур и запоминания промежуточных результатов.

Электронная машина не только вычисляет, она решает сложнейшие логические задачи, непосильные людям.

Так постепенно с усилителей умственных способностей спал ореол «дьявольского наваждения», и они предстали глазам недавно бушевавших скептиков тем, чем и положено им быть — машинами. Машинами, берущими на себя часть человеческих забот».

Радунская И.Л. Аксель Берг. – М.: Молодая Гвардия, 1971. - с. 305-311.