Искусственный интеллект, реальный вопрос
Умная коробка или настоящий мальчик?
Нил Остервейл Из архива врача
24 сентября 2001 г. - Если вы создадите машину, способную самостоятельно рассуждать, создадите ли вы жизнь? Есть ли у вас ответственность перед этой жизнью или вы просто собрали еще одну часть умного оборудования, которое будет устаревать под воздействием следующей новинки?
В фильме Стивена Спилберга и Стэнли Кубрика "AI" (искусственный интеллект) производитель роботов создает Дэвида, синтетического мальчика, запрограммированного на любовь. Его хозяин-человек запускает программу, которая необратимо закрепляет привязанность кибермалыша к своему владельцу.
Но спроектировав и создав Дэвида, производитель роботов создал еще одного монстра Франкенштейна. По-видимому, осознающий себя "меха" (сокращение от "механический") жаждет любви от своей человеческой "матери" и, подобно Пиноккио, жаждет, чтобы его сделали "настоящим" мальчиком.
Фильм поднимает как интригующие, так и тревожные философские вопросы о том, что значит быть человеком, иметь чувство собственного достоинства и быть уникальным, независимым существом, достойным уважения и прав по закону.
Когда Дэвид, спасаясь от насмешек и угроз мальчишек из плоти и крови, случайно ранит сына своих хозяев, его бросают в лесу и оставляют на произвол судьбы. Он попадает в компанию причудливых, сломанных, полуразложившихся роботов, которые остаются "в живых", собирая запчасти на свалке.
Но если Дэвид плачет и умоляет остаться с женщиной, которую он называет мамой, и убегает, когда его выслеживают охотники за головами, являются ли его инстинкты ужаса и самосохранения настоящими, или это всего лишь блестящая механическая и электронная имитация того, как отреагировал бы настоящий мальчик? Имеет ли это значение?
Я думаю, следовательно, я есть?
Ник Бостром, доктор философии, преподаватель философии в Йельском университете в Нью-Хейвене, штат Коннектикут, говорит, что это имеет значение.
"Я думаю, что как только существо становится разумным - способным испытывать боль или удовольствие - оно получает некий моральный статус, просто в силу того, что способно страдать", - говорит Бостром. "Даже если животные не имеют прав человека - и большинство из нас считает приемлемым использовать их для медицинских исследований - все равно существуют ограничения. Мы не позволяем людям мучить животных без всякой причины".
У Фрэнка Судиа, доктора юридических наук, несколько иные критерии. Он говорит, что способность делать выбор и действовать в соответствии с одним или несколькими вариантами из множества возможных, а также способность решать, какой из тысяч вариантов лучше использовать в непредвиденной ситуации, может быть основным, рабочим определением того, что значит "быть".
"Если машина обладает способностью к самовоспроизводству - если она может искать свои собственные цели или даже выбирать свои собственные цели из какого-то списка целей, о которых она читает в газете [и решает]: "О, я хочу выглядеть как Мадонна", - я думаю, что эта способность выбирать, чем бы она ни руководствовалась, неотличима от того, что мы считаем своим самоощущением", - говорит он доктору.
Судиа - консультант по безопасности электронной коммерции из Сан-Франциско и, по собственному признанию, этик, ученый и мыслитель об интеллектуальных системах. Он сравнивает роль разработчика систем искусственного интеллекта или создателя роботов с ролью родителя подростка.
"У подростка появляется хорошее разнообразие реакций, [но] не очень хорошая система сдерживания", - говорит он. "Вы пытаетесь сформировать их характер таким образом, чтобы они сделали разумный выбор, который будет для них социально выгодным. Таким образом, вы в огромной степени играете в Бога со своими детьми. Забудьте о том, чтобы сделать из них Моцартов - вы пытаетесь сделать из них что-то, что может выжить, заставляя их иметь свое "я"".
Я делаю выбор, следовательно, я есть?
Способность делать выбор сама по себе не предполагает автономии, отмечает Бостром. Компьютер Deep Blue победил шахматного гроссмейстера Гари Каспарова. Он может выбирать из миллионов возможных шахматных ходов в той или иной ситуации, но попробуйте послать его через дорогу, чтобы купить кварту молока.
"Для того чтобы предоставить человеку автономию, нам требуется довольно много", - говорит Бостром. "У детей нет полного спектра автономии, хотя они могут больше, чем выбирать шахматные ходы или делать простой выбор вроде этого. Это требует концепции их благополучия, жизненного плана и тому подобных вещей. Я не думаю, что какая-либо машина, существующая сегодня на Земле, обладала бы ни разумом, ни автономией".
Чтобы сказать, что машина обладает самосознанием и, следовательно, является сознательным существом, мы должны сначала узнать, что такое быть сознательным. По крайней мере, один человеческий разум утверждает, что когда речь заходит о природе осознания, мы не имеем ни малейшего понятия.
Маргарет Боден, доктор философии, профессор философии и психологии Сассекского университета (Англия), рассказывает, что вполне возможно создать робота, который будет выглядеть как самосознающее, автономное существо.
"В принципе, можно было бы создать компьютерную симуляцию такого существа, потому что все, что делает человеческий разум, зависит от человеческого мозга", - говорит она. "Но если вы спрашиваете меня, будет ли этот робот сознательным, я бы ответила, что мы даже не знаем, что значит сказать, что мы сознательны".
Даже если мы предположим, как это делают Спилберг и Кубрик, что возможно создать робота, способного действовать в собственных интересах и чувствовать боль, потерю и одиночество, будем ли мы относиться к нему как к одному из нас или как к еще одному умному тостеру?
Я покупаю продукты, следовательно, я есть?
Если мы можем эмоционально манипулировать фильмом - еще одной формой симуляции жизни - или если мы наслаждаемся версией Парижа в Лас-Вегасе, то на нас, безусловно, может повлиять плач ребенка-робота или мольбы искусственного мальчика, такого как Дэвид в AI. И именно этот интерфейс - коробка, в которой находится оборудование (роботизированный мозг), и то, как программное обеспечение взаимодействует с пользователем, - может сыграть решающую роль.
"Если ИИ будет выглядеть как собака, возможно, у него будут права собаки. ... Если бы он стал похож на Эйнштейна, возможно, у него были бы права Эйнштейна", - говорит Судия.
Конечно, можно создать интеллектуальную систему, которая, скажем, могла бы делать покупки и расплачиваться на кассе за нас. Для этого она не обязательно должна быть похожа на человека, говорит Ян Хорсвилл, доктор философии, доцент кафедры информатики Северо-Западного университета в Эванстоне, штат Иллинойс.
"Вы можете иметь системы, которые по всем параметрам являются интеллектуальными - по крайней мере, гораздо более интеллектуальными, чем карандаши или текстовые процессоры - но не имеют ... характеристик человеческого существования", - говорит Хорсвилл.
Например, нет причин, по которым робот-покупатель должен выглядеть как ваш дядя Чак. Это может быть передвижной кассовый аппарат - простой ящик с экраном, руками для захвата коробок с кукурузными хлопьями с полки и ящиком для мелочи. Но это все равно будет "оно", а не "он" или "она", - утверждает Хорсвилл.
Вы можете создать машину с телом, похожим на тело Командора Дейта, наделить ее эмоциями, а затем удалить ее мозг и поместить ее в робота-мусорщика с денежным ящиком и позволить ей общаться только азбукой Морзе", - говорит он, - "Я думаю, что большинство людей с гораздо большей охотой отключили бы робота-мусорщика, чем Командора Дейта".
