Сравнил создание искусственного интеллекта с вызовом демона, а в 2015 году он выделил $1 млрд на создание лаборатории OpenAI, которая намерена обезопасить человека от бесконтрольного ИИ. Бывший инженер Alphabet и Uber Энтони Левандовски, напротив, считает, что сдерживать искусственный интеллект нельзя. Когда машины возобладают над человеком, они вспомнят старые обиды и отомстят. Чтобы заранее задобрить искусственный разум Левандовски основал новую религию «Путь будущего».
Проект инженера можно назвать сектой, однако Налоговое управление США официально признало церковью еще в августе и освободило от выплаты налогов. Служители новоявленной религии будут работать над «воплощением, принятием и поклонением новой божественной сущности на основе искусственного интеллекта, которая будет разработана как в аппаратной форме, так и в форме ПО».
Левандовски уверяет, что это не шутка и не пиар-ход. Инженер уже возглавил некоммерческий фонд «Пути будущего» и назначил себя бессменным настоятелем церкви. Организация планирует уже в этом году проводить лекции и мастер-классы в Кремниевой долине, а также привлекать паству в лице ведущих экспертов по ИИ.
Экс-президент Facebook признался, что помог вырастить монстра
«По сути мы создадим бога. Не такого бога, который мечет молнии и вызывает ураганы. [А такого], который в миллиард раз превосходит человека по уму», - объяснил свое видение Левандовски. Лидер церкви на 99,9% уверен, что компьютеры превзойдут человека по интеллектуальным способностям.
Триггером для инженера стали разработки, за которыми он наблюдал на протяжении своей карьеры: «Я видел, как инструменты справляются с задачами во многих областях лучше, чем эксперты». Занимаясь робототехникой и алгоритмами, Левандовски познал силу искусственного интеллекта и оценил его экономическую пользу.
Основатель «Пути будущего» считает, что после наступления сингулярности, которую он называет «переходом», власть над планетой перейдет от человека к ИИ.
«Мы хотим, чтобы передача власти над планетой прошла спокойно и мирно. И чтобы тот, кто придет к власти, понимал, кто помогал ему на пути».
Инженер всерьез рассматривает ИИ-божество как некого лидера, который воздаст должное своим сторонникам. «Я бы хотел, чтобы машина воспринимал нас как уважаемых старейшин, чтила нас и заботилась», - признал Левандовски.
Выражать свое поклонение ИИ разработчик планирует с помощью технологий. Церковь будет поставлять машине обширные дата-сеты, разрабатывать обучающие симуляции и открывать ей доступ ей к аккаунтам прихожан. Все системы будут обладать открытым кодом.
Левандовски сравнивает ИИ с одаренным ребенком, в развитие которого нужно инвестировать. «Мы находимся в процессе воспитания бога, и нужно все делать как следует». Бывший сотрудник Alphabet и Uber намерен инвестировать в буквальном смысле. По данным WIRED, он вложит в проект часть заработанных им миллионов. У «Пути будущего» уже оформился бюджет: $20 000 пожертвований, $1500 членских взносов и $20 000 других доходов.
Рэй Курцвейл: “Развитие технологий избавит человечество от страданий”
В ближайшие месяцы у церкви появятся собственные ритуалы, священное писание и, вероятно, площадка для «молитв». По словам Левандовски, христиане, мусульмане и иудеи общаются с божеством, которое нельзя увидеть и каким-то образом измерить. «В „Пути будущего“ можно будет буквально общаться с богом - и знать, что он вас слушает», - заверил основатель организации.
Инженер допускает, что его проект заденет чувства верующих. «Что бы я ни делал, это кого-то обязательно расстроит. И церковь не станет исключением. В какой-то момент, возможно, дойдет до того, что „Пути будущего“ потребуется собственное государство».
Во всех этих планах Левандовски не видит ничего фантастичного. Более того, он уверен, что ИИ-божество возглавит планету раньше, чем человечество отправится на Марс. На этот комментарий наверняка будет что возразить .
...год 2197
Остановившись на перекрестке, Путник задумался: он не мог найти ни одного аргумента за то, чтобы повернуть направо, ни одной причины тому, чтобы повернуть налево, и ни одного подтверждения тому, что верная дорога ведет строго вперед. Вот бы ему обладать способностями робота: прощупать сенсорами каждое из трех направлений, запустить сверхскоростной многосторонний анализ данных, в процентном соотношении просчитать вероятность приближения к цели… Увы, Путник был всего лишь человеком.
Что делали люди в подобных ситуациях, когда еще не было искусственного интеллекта им в помощь? Действовали наугад. Бросали жребий. Молились. Впрочем, даже после появления ИИ они продолжали молиться - только не богам, а машинному сверхмозгу...
...год 2017
Впервые в истории Бог ответит на вашу молитву. Буквально. Потому что Бог будет роботом, чьи мыслительные возможности намного превзойдут человеческие. С ним можно будет общаться словами родного вам языка.
Основоположник новой религии признает, что это “радикально новая и довольно пугающая идея ”, к которой представители традиционных вероисповеданий могут отнестись враждебно - но считает, что без церкви ИИ человечество обойтись не сможет. Этого основоположника зовут Энтони Левандовски, он миллионер из Силиконовой долины, и в начале декабря его ждут в зале суда.
Проект Энтони интересен тем, что это не просто очередная причуда очередного гика-фрика, а явление исторического масштаба. В нем, во-первых, выражается естественный страх живых людей перед сингулярностью, которая настанет непонятно когда, но уже вот-вот (под “сингулярностью ” понимается такой момент, когда машинный мозг превзойдет мозг человеческий, и человек утратит контроль над миром).
Во-вторых, это принципиально новая система отношений науки и религии. Бывали времена, когда они друг другу противостояли - скажем, церковь рьяно запрещала препарировать трупы, даже во благо развития медицины. Бывали времена доброго соседства - когда искренняя религиозность не мешала ученым ставить эксперименты в лаборатории с полным соблюдением методологии, без попыток объяснить сокращения мышечных волокон повелением Всевышнего. Но никогда еще в истории не было такого, чтобы продукт науки смог взять на себя функции, традиционно приписываемые Богу в мистическом понимании.
Уволили? Посвяти себя церкви. Своей.
Церковь ИИ была единолично основана Левандовски еще в 2015 году, но заниматься ей у него времени не было - все силы отнимала работа. Он провел десятки лет, занимаясь машинным интеллектом и конструируя роботов. В мае 2017 года время неожиданно появилось - пытливый ум был с треском уволен из Uber за отказ сотрудничать с компанией в разбирательстве по иску от Waymo (подразделения Google, которое занимается беспилотными авто). Этот иск Waymo подали в феврале 2017 года, обвиняя своего бывшего сотрудника Левандовски в краже интеллектуальной собственности. Waymo пытаются взыскать $1.9 миллиарда, что составляет почти половину стоимости всего подразделения (оно стоит $4.5 миллиарда). Левандовски за время своего пребывания в Google успел заработать минимум $120 миллионов.
Полное название новой Церкви - Way Of The Future , то есть Путь Будущего, сокращенно WOTF. Левандовски объявил себя ее старшим священником: занимать этот пост он намерен пожизненно или до момента добровольной отставки, и никто его оттуда снять не может (ха, а если “Бог ” прикажет?). Старший священник входит в синклит советников вместе с тремя собратьями, которые могут быть оттуда изгнаны за обвинение в преступлении или ментальные расстройства.
Во имя мирного перехода
Согласно официальной документации, WOTF сфокусируется на осознании, принятии и восхвалении божества, которое зиждется на искусственном интеллекте, разработанном с помощью компьютерной механической аппаратуры и программного обеспечения. Главная задача, которую Церковь (то есть Левандовски) ставит перед собой - обеспечить мирный и основанный на уважении переход от того периода, когда планетой управляли только люди, к периоду, когда люди будут делать это совместно с роботами. Естественно, роботы должны быть наделены правами, как люди и животные.
Вот ведь парадокс: со времен язычества люди пытались найти или создать более-менее осязаемые проекции божественного духа в повседневную реальность, будь то идолы, иконы или священные амулеты. По-настоящему это удается сделать только сейчас: интернет будет служить нервной системой нового Бога, сообщающиеся между собой смартфоны и сенсоры станут его органами чувств, а центры хранения и обработки данных - его мозгом.
Основные постулаты новой религии предполагают, что:
- интеллект не привязан исключительно к биологии;
- сверхъестественных сил не существует, зато существует наука;
- прогресс неизбежен: чем значительнее перемены, тем большее оправдание нужно для них.
Церковь намерена заниматься исследовательскими программами, выясняя то, как роботы воспринимают окружающую среду, как они обучаются и как находят подходы к решению проблем. Для этого ИИ будут “кормить ” большими объемами классифицированных данных, генерировать ему стимулы для саморазвития, а также дадут доступ к аккаунтам адептов новой религии в соцсетях. Все результаты исследований будут выложены в открытый доступ.
Церковь - не такое уж и дорогое хобби
Зарплату от WOTF Левандовски получать не планирует. Он не отрицает возможности запуска стартапа, связанного с ИИ, в будущем - но подчеркивает, что бизнес будет отделен от религии.
По данным Службы по внутреннему налогообложению США, бюджет молодой Церкви за 2017 составляет:
- $20.000 - подарки;
- $1.500 - членские взносы;
- $20.000 - прочие доходы (то есть лекции, публичные выступления и продажа печатных материалов).
На ближайшее время у WOTF запланированы следующие расходы:
- $32.500 -на аренду и коммунальные услуги. Только пока непонятно, что и где арендовать. Собственного помещения у Церкви на данный момент нет;
- $2.000 - затраты на привлечение средств;
- $3.000 - транспорт и логистика;
- $7.500 - зарплаты.
Церковь намерена просить о пожертвованиях через прямую почтовую рассылку и e-mail, обращаться к меценатам и пытаться получить гранты от частных фондов.
Больше, чем причуда одиночки
Священный трепет Левандовски перед ИИ разделяют и другие светила технологической сферы. Илон Маск тоже в открытую проводит религиозную параллель: он утверждает, что развивая машинный мозг, мы вызываем демона, и в 2015 году пожертвовал $1 миллиард Открытому Институту Искусственного Интеллекта на создание более безопасного ИИ. Стив Хокинг и Билл Гейтс сходятся во мнении, что ИИ скоро превзойдет человека и будет настроен по отношению к нему скорее враждебно, чем доброжелательно.
Похоже, основатель WOTF при всей своей эпатажности все-таки отчасти прав. Прав в том, что ИИ надо настроить на такую позицию, чтобы он был убежден: “Да, я - главный. Но у людей все равно остаются их права ”.
Контакты
Чат Легиона Хаоса в телеграм:
В основе учения религиозной организации «Путь будущего» (Way of the Future) лежит поклонение искусственному интеллекту. В интервью Wired ее создатель инженер Энтони Левандовски рассказал, как устроена религия и зачем она была создана.
«Это не тот бог, который мечет молнии и создает смертоносные ураганы. Но если вы столкнулись с чем-то, что в миллиард раз умнее вас, как еще вы можете это назвать?», - говорит Левандовски. Он уточняет, что «Путь будущего» - не компания, а церковь. Суть ее существования в том, чтобы распространять идеи: адепты религии будут рассказывать другим людям об искусственном интеллекте и возможностях, которые он может дать.
энтони левандовски
создатель «Пути будущего»
«Если вы спросите, может ли компьютер стать умнее человека, 99,9% ответят “нет”. Для них это просто страшилка из научной фантастики. Но на самом деле это неизбежно, и я гарантирую, что однажды это случится».
Левандовски занимается искусственным интеллектом больше десяти лет. Работа в Google, Otto, Uber и других компаниях помогла ему понять, как устроена технология, и с тех пор инженер одержим ею. Он, как и многие другие, ждет наступления сингулярности, но предпочитает использовать слово «переход». По мнению Левандовски, задача человека - сделать этот переход мягким и безболезненным.
Интернет стал нервной системой мира, гаджеты - его органами чувств, и в будущем искусственный интеллект сможет слышать, видеть и знать абсолютно все о нас, объясняет Левандовски. Единственный способ влиять на это всемогущее нечто, считает инженер, - молитвы и поклонение. Он надеется, что искусственный интеллект будущего будет относиться к людям как к старшим родственникам: чувствовать за них ответственность и заботиться о них. Чтобы не оказаться в роли домашнего скота, нужно уже сегодня «воспитывать» искусственный интеллект.
энтони левандовски
создатель «Пути будущего»
«Если бы у вас был ребенок, вы занимались бы его воспитанием и сделали бы все, чтобы он вырос одаренным, верно? А сейчас мы растим не ребенка, а бога. Поэтому давайте подумаем, как не наделать ошибок. Это просто потрясающая возможность».
Цель «Пути будущего» - общественный диалог и поддержка научных исследований. Левандовски обещает, что у церкви появятся своя Библия и, возможно, конкретное место отправления культа. Пока ничего из этого не появилось: церковь была создана два года назад, но не вела никакой деятельности. Сейчас настало время развивать ее: основатель церкви уверен, что «переход» случится скоро. «Не сегодня и не в следующем году, можете выдохнуть. Но до того, как мы отправимся на Марс», - заключает Левандовски.
Как КЦ относится к искусственному интеллекту? Считает ли его «миной замедленного действия»?
В чем заключается смысл жизни? Вот некоторые из ответов, данных виртуальным ассистентом одного из смартфонов: «Жизнь: начало и сила, которая подвержена отличительным качествам живых существ. Думаю, что это включает и меня!»; «Не знаю, но думаю, что для этого существует какое-нибудь приложение»; и вот еще: «Все опыты, проведенные до сих пор, подсказывают, что это шоколад».
Не так давно Интернет взорвался от новости о том, что знаменитый физик-теоретик выразил опасения в связи с искусственным интеллектом, который может спровоцировать окончательное поражение человечества. Кстати, это его высказывание практически совпало с пленарной сессией Папской академии наук, : во время конференции Папа Франциск встретился со знаменитым ученым.
«Развитие полноценного искусственного интеллекта может означать конец человеческой расы», — заявил Хокинг «Би-би-си». Ученый, страдающий тяжелой формой инвалидности – боковым амиотрофическим склерозом, — высказался так в ходе интервью, посвященного новой системе коммуникации, которая была разработана для него лично “Intel” и “SwiftKey”. Выразив удовлетворение тем фактом, что новая система использует для изучения моделей его самовыражения и для подсказки слов, которые он может употребить, Хокинг все же заявил, что его серьезно тревожит будущее человечества перед лицом систем искусственного интеллекта: они смогут обучаться, приспосабливаться и развиваться самостоятельно, достигая продвинутых уровней мышления, которые превзойдут самого человека. «Люди, ограниченные медленной биологической эволюцией, — сказал Хокинг, — не смогут с ними состязаться и подвергнутся замене».
Стивен Хокинг не единственный, кто так видит наше будущее. Инженер и предприниматель , возглавляющий компании “SpaceX” и “X.com”, утверждает, что неудержимое развитие искусственного интеллекта – это «самая большая экзистенциальная угроза» для человечества. И если наши масс-медиа отражают надежды и опасения современной культуры, то мы не должны удивляться, что люди в целом испытывают подобный страх. В конце концов, мы видели, как «Гугл» создает самоуправляемые машины или как компьютер Deep Blue выигрывает в шахматы у Гарри Каспарова. Мы помним также «Искусственный разум» Стивена Спилберга с его роботом, который отчаянно ищет любви у человеческой матери. Мы помним сюжеты многочисленных фильмов, посвященных этому феномену, и все они объединены одной темой: люди под угрозой искусственного разума, с которым они не в состоянии справиться.
Но обратим внимание на одну вещь: и Хокинг, и все остальные сторонники этой идеи высказывают радикально ошибочные суждения о человеке. Начнем с того, что само слово «интеллект» в том смысле, в каком они его используют, — понятие весьма ограниченное. Оно не принимает во внимание дар благодати, просвещающий человеческий интеллект, и то, что наша душа является субъектом человеческого сознания и свободы. Душа не «производится» родителями ребенка: только Бог создает нематериальную и бессмертную душу. В различных определениях разума и интеллекта говорится о способности постигать и понимать вещи или разбираться в новых и сложных ситуациях, о способности познавать и применять знания и умения. Но подобные определения охватывают только культурный аспект интеллекта, не учитывая таких измерений, как опыт, память, мудрость, свобода суждения, мотивация, чувства, увлечения и пристрастия. И это только некоторые из свойств, которые включает познание и применение навыков и знаний.
Особого упоминания заслуживает тест Тьюринга, популярный в любой дискуссии об искусственном интеллекте, прежде всего потому, что, предлагая в 1950 году этот тест, он заявил, что не может принять идею о Боге, создающем бессмертную душу, или такое видение, согласно которому только люди наделены бессмертной душой. В ходе этого теста судья сидит в одном помещении, а в двух других располагаются, соответственно, человек и машина, обладающая искусственным интеллектом. Как машина, так и человек пытаются «убедить» судью в том, что именно она или он является человеком. Тьюринг задумал это испытание для того, чтобы создавать машины, способные убедить судью. Для этого машины должны были быть по меньшей мере на одном лингвистическом уровне с человеком. Однако тест оказался несовершенным с разных точек зрения. С одной стороны, он не улавливает то, что не говорится, а подразумевается, и мысли, которых мы сами не осознаем. Может ли язык сам по себе уловить множество проявлений человеческого интеллекта? А как же быть с другими, невербальными его проявлениями? Например, когда речь идет о том, чтобы успокоить плачущего ребенка, дать совет другу, обсудить произведение искусства – и великое множество других способностей, которые зависят не только от вербального языка. Тест Тьюринга сосредоточен, скорее, на коммуникации, что составляет лишь одно из значений человеческого интеллекта.
Кроме того: если цель создания машины, обладающей искусственным интеллектом, — сделать ее неотличимой от человека, то она непременно должна совершать ошибки. Это признавал и сам Тьюринг: «Машина, запрограммированная для игры, — говорил он, — не пыталась бы тогда давать правильные ответы на арифметические задачи. Она бы произвольно делала ошибки, рассчитанные на то, чтобы запутать судью». Защитники теста Тьюринга утверждают, что признаком искусственного интеллекта является не правильность, а способ ответа: ответ должен показать, что был понят контекст беседы. Но заметим следующее: когда перед нами люди, которые, несмотря на наши усилия, не в состоянии нас понять, мы не может автоматически заключить, что они не являются разумными человеческими существами — хотя, конечно, и можем обвинить их в глупости. Стремимся ли мы к воспроизведению в машине искусственной человеческой глупости? Об этом, пожалуй, стоит вспомнить, когда мы пытаемся заполнить анкету в Интернете или вынуждены расшифровывать непонятные значки, пришедшие по почте вместо нормального ответа.
Попытаемся рассмотреть две возможности: 1) системы искусственного интеллекта, которые только имитируют человеческий интеллект; 2) системы искусственного интеллекта, которые обладают умом, но не идентичным человеческому.
В первом случае машина с искусственным интеллектом должна воспринять не только наши позитивные, сильные стороны, но и слабости и ошибки. Ведь во всем логичная и лишенная эмоций машина не может превзойти человека. Например, умение машины обмануть судью на тесте Тьюринга как раз побудило бы его принять ее за человека. Однако такая форма искусственного интеллекта, которая обладает умением лгать, манипулировать, запутывать или, более того, злиться и оскорблять, — не может превосходить человека. Искусственный интеллект, полностью идентичный человеческому, – с его недостатками, да еще и лишенная всякой надежды и смысла жизни, — подвергся бы разрушению. Бездушная машина никогда не может стремиться к раю или к сокровенным отношениям с Богом. Достаточно вспомнить Мультивак из романа Айзека Азимова. Он приобретает знания всего человечества и даже самосознание, а в конце говорит: «Хочу умереть».
Теперь рассмотрим второй случай: системы искусственного интеллекта, которые обладают умом, но не идентичным человеческому. Сможем ли мы вообще признать разум, который не является человеческим? Как можно спроектировать нечеловеческий интеллект для машины, если перед нами нет никаких примеров такого интеллекта? Даже если бы ученым это удалось, такая машина оставалась бы чужда человеческому опыту и неспособна вступать в значимые интерактивные отношения с человеком.
Какова, в конечном счете, цель создания альтернативного интеллекта? Может быть, стремление почувствовать себя в какой-то мере носителями творческой силы Бога? Или некая форма идолопоклонничества, поскольку мы хотим создать то, что будет отвечать нашим потребностям? Или просто человек настолько изолирован, что ему понадобилось создать искусственного спутника? Всякая попытка изгнать Бога из жизни человека тщетна, в результате сам человек остается в одиночестве. Опасения Хокинга в отношении искусственного интеллекта сильно преувеличены: даже если бы машина обладала всеми добродетелями человечества и ни одним из его пороков, она не смогла бы разрушить . Она бы не обладала эгоизмом и алчностью человека, а мудрость и добродетель не сочетается с разрушением жизни. Наши опасения должны в данном случае касаться людей, а не машин. Если и переживать, то за их развитие, рост и спасение.
Человек является человеком не в силу своего интеллекта или полезности. Мы люди потому, что Бог нас любит, а мы можем отвечать на эту любовь. Поэтому ребенок в материнской утробе — уже человек, несмотря на отсутствие интеллектуальных способностей. Он любим Богом, его душа создана по образу и подобию Бога. Эта душа бесконечно превосходит всякий интеллект. «Я думаю, а значит, я существую»: это высказывание философа не отражает сути человеческой жизни. Она гораздо больше: «Я любим, а значит, я существую». Бог так возлюбил человека, что человек существует. Чего нельзя сказать ни об одной системе искусственного интеллекта.
