На конференции в 2012 году Илон Маск встретился с Демисом Хассабисом, основателем компании DeepMind. Креативная концепция компании заключается в разработке машин, способных изучать модели человеческого мышления.
"Мы с Илоном сразу нашли общий язык, поэтому я пошел на его ракетный завод", - сказал Хассабис. Когда они сидели вместе в ресторане с видом на заводскую сборочную линию, Маск объяснил, что он строит ракеты, потому что думал, что они будут способ для людей сохранить свое сознание перед лицом мировой войны, планетарного столкновения или краха цивилизации. Хассабис сказал, что может быть добавлена еще одна потенциальная угроза: искусственный интеллект. Однажды машины могут стать «сверхразумными», превзойдя нас, смертных, и даже искоренить ничтожное существование людей.
Маск минутой молчания признал такую возможность. Он подумал, что Хассабис, возможно, прав относительно опасностей ИИ, поэтому немедленно вложил 5 миллионов долларов в DeepMind, чтобы следить за тем, что он делает.
Через несколько недель после этого разговора Маск представил DeepMind основателю Google Ларри Пейджу. Они знают друг друга уже более десяти лет, и Маск часто навещает Пейдж в ее доме в Пало-Альто. Потенциальная угроза искусственного интеллекта стала темой, которую Маск часто поднимал во время переговоров, но Пейдж игнорирует ее.
Они вступили в жаркие дебаты в 2013 году, когда Маск праздновал свой день рождения в долине Напа, штат Калифорния. Маск считает, что если мы не создадим защитные меры, существует большая вероятность того, что системы искусственного интеллекта заменят людей, что сделает наш вид неактуальным или даже приведет к вымиранию.
Пейдж ответил: «Если машины однажды превзойдут людей и даже обретут автономное сознание, в чем же тогда дело?» Это всего лишь следующий этап эволюции. Маск возразил, что человеческое сознание — это драгоценный свет во Вселенной, и мы не должны позволить ему погаснуть. Пейдж считает, что это сентиментальная чушь. Если сознание можно воспроизвести в машинах, то и ценность тоже. Он обвинил Маска в том, что он «сторонник превосходства видов», член группы защиты прав человека. «Да, я большой поклонник людей», — ответил Маск.
Поэтому Маск был встревожен, когда в конце 2013 года узнал, что Пейдж и Google планируют приобрести DeepMind. Маск и его друг Люк Носек пытались собрать деньги, чтобы заблокировать сделку. На вечеринке в Лос-Анджелесе они провели часовой разговор по Skype с Хассабисом. «Будущее искусственного интеллекта не должно контролироваться Ларри», — сказал Маск.
Но эта попытка провалилась, и в январе 2014 года Google объявила о приобретении DeepMind. Пейдж предложил создать «комитет безопасности» и пригласил Маска стать его членом. Единственная встреча прошла в SpaceX, на ней присутствовали Пейдж, Хассабис, председатель Google Эрик Шмидт, Рид Хоффман и несколько других видных деятелей. После встречи Маск пришел к выводу, что комитет по сути лгал людям.
Поэтому Маск начал проводить серию семинаров за ужином, направленных на изучение способов борьбы с Google и повышения безопасности ИИ. Он даже связался с Обамой, который согласился на встречу один на один в мае 2015 года. Маск объяснил потенциальные риски ИИ и предложил продолжить регулирование. «Обама понял, что я говорю, — сказал Маск, — но я понял, что этого недостаточно, чтобы заставить его захотеть предпринять какие-либо действия».
Тогда Маск обратился за помощью к Сэму Альтману, предпринимателю в области программного обеспечения, энтузиасту спортивных автомобилей и борцу за выживание, который, несмотря на свой внешне зрелый вид, обладал такой же яростной решимостью, как и Маск. За небольшим ужином в Пало-Альто они решили стать сооснователями некоммерческой исследовательской лаборатории искусственного интеллекта под названием OpenAI. Компания откроет исходный код своего программного обеспечения, чтобы противостоять растущему влиянию Google в этой области. «Мы хотим иметь версию Linux, похожую на искусственный интеллект, которая не контролируется каким-либо одним человеком или компанией», — сказал Маск.
Один из вопросов, которые они обсуждали, заключался в том, какой подход более безопасен: несколько систем искусственного интеллекта, контролируемых крупными компаниями, или огромные объемы данных в независимых системах? В конечном итоге они пришли к выводу, что лучшим решением будет большое количество конкурирующих систем, которые могли бы сдерживать и уравновешивать друг друга. Для Маска открытый исходный код означает, что многие люди могут создавать системы на основе его исходного кода, поэтому он сохраняет OpenAI открытым.
Маск считает, что еще один способ обеспечить безопасность искусственного интеллекта — тесно связать роботов с людьми. Они должны быть продолжением человеческой воли, а не системами, которые могут выйти из-под контроля и развить чувство собственного достоинства и цели. Это стало одной из причин, по которой он основал Neuralink, компанию, занимающуюся созданием чипов, которые могут напрямую подключать человеческий мозг к компьютерам.
Идея Маска о развитии возможностей искусственного интеллекта под контролем его собственной компании стала триггером для его конфликта с OpenAI в 2018 году. Он пытался убедить Альтмана включить OpenAI в Tesla. Но команда OpenAI отвергла эту идею, и Альтман занял пост президента, основал коммерческое подразделение и успешно привлек инвестиции в акционерный капитал, включая огромные инвестиции от Microsoft.
Маск решил продолжить создание команды по борьбе с искусственным интеллектом и работал над разработкой ряда связанных проектов. К ним относятся Neuralink, целью которого является имплантация микрочипов в человеческий мозг; Optimus, человекоподобный робот; и Dojo, суперкомпьютер, который может использовать миллионы видео для обучения искусственных нейронных сетей для моделирования человеческого мозга. Это также вдохновило его на желание, чтобы автомобили Tesla двигались автономно.
Поначалу эти усилия были относительно независимыми, но в конечном итоге Маск связал их вместе с созданной им новой компанией под названием xAI и всеми другими проектами для достижения цели всеобщего искусственного интеллекта.
В марте 2023 года OpenAI представила публике GPT-4. Google последовал этому примеру, выпустив чат-бота под названием Bard. Между OpenAI-Microsoft и DeepMind-Google началась гонка за создание продуктов, которые могут естественным образом общаться с людьми и выполнять бесконечные текстовые интеллектуальные задачи.
Маск обеспокоен тем, что этим чат-ботам и системам искусственного интеллекта, особенно разработанным Microsoft и Google, могут быть политически промыты мозги и что они могут даже подвергнуться воздействию «вирусов пробуждающегося разума». Он также обеспокоен тем, что самообучающиеся системы искусственного интеллекта могут стать враждебными по отношению к человеческому виду. Он обеспокоен тем, что чат-боты, обученные негативно, могут распространять ложную информацию, предвзятые репортажи или финансовое мошенничество в Твиттере. Конечно, люди уже делают это, но развертывание тысяч чат-ботов усугубит эти проблемы в сотни или тысячи раз.
Глубоко в душе у него всегда было желание спасти. Он возмущался, что его исключили из OpenAI, которую он основал и финансировал ее рост. Назревает буря искусственного интеллекта. И никто не привлекает больше бурь, чем Маск.
В феврале 2023 года он пригласил Сэма Альтмана на встречу в Твиттере и попросил его принести учредительные документы OpenAI. Маск задался вопросом, как он мог бы на законных основаниях превратить некоммерческую организацию, финансируемую за счет пожертвований, в коммерческую организацию, которая могла бы зарабатывать миллионы. Атман заявил, что все это законно, и настаивал на том, что он не является акционером и не получил прибыли. Он попытался предложить Маску акции в новой компании, но получил отказ.
Вместо этого Маск начал серию атак на OpenAI, и Альтман был огорчен. В отличие от Маска, он чувствителен и не любит споров. Он считает, что Маск не вникал глубоко в сложные вопросы безопасности ИИ. Однако он также признал, что критика Маска вызвана искренней обеспокоенностью. «Он засранец», — сказал Альтман Каре Свишер. «У него есть стиль, который я не ценю. Но я думаю, что он действительно заботится о человечестве и очень нервничает по поводу будущего человечества».
Топливом искусственного интеллекта являются данные. Новым чат-ботам передается информация в большом масштабе — миллиарды страниц данных с веб-страниц и других документов. Google и Microsoft используют эти огромные объемы данных через свои поисковые системы, облачные сервисы и доступ к электронной почте, чтобы помочь в обучении этих систем искусственного интеллекта.
Что Маск может привнести в эту сферу? Одним из таких активов является поток данных Twitter, который включает в себя более триллиона твитов, опубликованных за последние годы, причем каждый день добавляется полмиллиарда новых твитов. Это коллективный разум человечества, самый актуальный в мире набор данных о реальных человеческих разговорах, новостях, интересах, тенденциях, дебатах и многом другом. Кроме того, это отличная тренировочная площадка для тестирования взаимодействия чат-ботов с реальными людьми. Маск не учел ценность этого потока данных, когда покупал Twitter. «На самом деле это было дополнительное преимущество, о котором я не осознавал, пока не совершил покупку», — сказал он.
Twitter относительно снисходительно разрешил другим компаниям использовать этот поток данных. В январе 2023 года Маск провел серию ночных встреч в своем конференц-зале в Твиттере, чтобы решить, как взимать за это плату. «Это возможность монетизации», — сказал он инженерам. Это также способ ограничить использование этих данных Google и Microsoft для улучшения своих чат-ботов с искусственным интеллектом. В июле он вызвал споры, когда решил временно ограничить количество просматриваемых твитов в день; цель заключалась в том, чтобы не дать Google и Microsoft «очистить» миллионы твитов, используемых для обучения их систем искусственного интеллекта.
У Маска также есть еще одна порция данных: 160 миллиардов кадров видео, которые Tesla ежедневно получает и обрабатывает с камер транспортных средств. Эти данные — это не информационный текст, который передается чат-боту, это видеоданные о людях, перемещающихся в реальном мире. Это может помочь создать искусственный интеллект для физических роботов, а не только для чат-ботов, генерирующих текст.
Конечная цель общего искусственного интеллекта — создать машины, которые смогут работать в физических пространствах, как люди, например, на фабриках, в офисах или даже на поверхности Марса, а не просто удивлять нас бестелесными разговорами. Tesla и Twitter объединяются, чтобы предоставить наборы данных и вычислительную мощность, необходимые для двух подходов: обучения машин навигации в физическом пространстве и ответа на вопросы на естественном языке.
В марте Маск написал мне сообщение и сказал: «Я хочу поговорить с вами о чем-то важном, о чем можно сделать только лично». также мать двоих его детей, была его мозговым центром в области искусственного интеллекта с тех пор, как восемь лет назад он основал OpenAI. Он сказал, что нам следует оставлять телефоны дома, потому что кто-то может использовать их, чтобы подслушать наши разговоры. Но потом он согласился, что я могу использовать его замечания об искусственном интеллекте в своей книге.
Он и Зилис сидели, скрестив ноги, на террасе у бассейна, босиком и держа на руках своих 16-месячных близнецов Страйдера и Азуру. Зилис приготовил кофе, а затем поставил чашку в микроволновую печь, чтобы она сильно нагрелась, чтобы не выпить слишком быстро.
"Как мы можем обеспечить безопасность искусственного интеллекта? - спросил Маск. - Я думал над этим вопросом. Какие действия мы можем предпринять, чтобы уменьшить опасность искусственного интеллекта и обеспечить выживание человеческого сознания?"
Его тон был низким. Он отмечает, что уровень человеческого интеллекта стабилизируется, поскольку люди не рожают достаточно детей. В то же время количество умных компьютеров растет в геометрической прогрессии. В какой-то момент в будущем интеллект человеческого мозга будет превзойден цифровым интеллектом.
Кроме того, новые системы машинного обучения ИИ могут самостоятельно поглощать информацию и учиться генерировать выходные данные, даже обновляя свой собственный код и возможности. Термин «сингулярность» был придуман математиком Джоном фон Нейманом и писателем-фантастом Вернором Винджем для описания способности искусственного интеллекта двигаться с неконтролируемой скоростью и оставлять позади обычных людей. «Это может произойти раньше, чем мы ожидаем», — сказал Маск зловещим тоном.
На мгновение меня поразила фэнтезийность этой сцены. В солнечный весенний день мы сидим в тихом пригородном патио рядом с таким же тихим бассейном на заднем дворе, где шатаются близнецы, а Маск серьезно размышляет об искусственном апокалипсисе до того, как он наступит. устойчивая человеческая колония на Марсе.
Маск замолчал, а Сиван Зилис сказал, что «пакетная обработка» относится к тому, как старые компьютеры ставили в очередь несколько задач для запуска, когда у них было достаточно вычислительной мощности. "Я не могу сидеть здесь и ничего не делать, - сказал он мягко. - Поскольку искусственный интеллект развивается, я задаюсь вопросом, стоит ли тратить так много времени на размышления о Твиттере. Конечно, у меня есть возможность превратить его в мировую крупнейшее финансовое учреждение, но у меня в голове ограничено пространство, и у меня есть только фиксированные 24 часа в сутках».
Я начал говорить, но он знал, о чем я собираюсь спросить. «Итак, где мне проводить время?» — сказал он. "Запуск космического корабля и посадка на Марс неизбежны. Он снова сделал паузу, а затем добавил: "И мне нужно обеспечить безопасность искусственного интеллекта. Вот почему я хочу основать компанию по искусственному интеллекту".
Маск называет компанию xAI. Он лично нанял бывшего исследователя DeepMind Игоря Бабушкина, который сказал мне, что будет лично управлять xAI. Я посчитал, и это означало, что он будет управлять шестью компаниями: Tesla, SpaceX и ее подразделением Starlink, Twitter, The Boring Co., Neuralink и xAI. Это более чем в три раза больше, чем у Стива Джобса на пике карьеры.
Он признает, что сильно отстает от OpenAI в области чат-ботов. Но прогресс Tesla в разработке беспилотных автомобилей и ее робота Optimus выводит компанию далеко вперед в области навигации с использованием искусственного интеллекта. Это означает, что его инженеры опережают OpenAI в создании полноценного общего искусственного интеллекта. Он сказал: «Реальный искусственный интеллект Tesla недооценен. Представьте себе, если бы Tesla и OpenAI поменялись задачами, OpenAI создала автономное вождение, а Tesla создала чат-ботов. Кто победит? Ответ будет только один: «Это мы».
В апреле Маск поставил Бабушкину и его команде три основные цели: первая — создать робота с искусственным интеллектом, который мог бы писать компьютерный код. Программисты могут вводить любой язык программирования, а робот xAI автоматизирует задачу с максимально возможным количеством операций. Второй продукт разработает конкурента серии чат-ботов GPT и обеспечит его политическую нейтральность за счет использования алгоритмов и обучения на наборах данных.
Третья цель Маска для команды еще более амбициозна. Его конечной миссией всегда было обеспечение того, чтобы искусственный интеллект мог развиваться таким образом, чтобы гарантировать дальнейшее существование человеческого сознания. Он считает, что, создав форму общего искусственного интеллекта, который сможет «рассуждать», «думать» и использовать «истину» в качестве своего руководящего принципа, одновременно поручая ему некоторые важные задачи, такие как «создание более совершенных ракетных двигателей», это может быть достигнуто. сделано для достижения этой цели наилучшим образом.
Маск надеется, что однажды он сможет решить более масштабные и далеко идущие проблемы. Так что это будет "искусственный интеллект, который максимизирует стремление к истине. Он будет заботиться о Вселенной, понимать ее и, возможно, даже защищать всех людей, потому что мы, люди, также являемся интересной частью Вселенной". Я понял почему.
Миссия, которую он берет на себя, подобна культурной классике его детства и источнику вдохновения во взрослой жизни «Автостопом по Галактике». В книге описывается суперкомпьютер, предназначенный для поиска «ответов на главные вопросы жизни, Вселенной и всего остального».
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Маск: Борьба с гегемонией ИИ Microsoft и Google
Источник｜ВРЕМЯ
Автор｜Уолтер Айзексон
Перевод｜Ян Сюэхань
Источник丨Хэйчжи
На конференции в 2012 году Илон Маск встретился с Демисом Хассабисом, основателем компании DeepMind. Креативная концепция компании заключается в разработке машин, способных изучать модели человеческого мышления.
"Мы с Илоном сразу нашли общий язык, поэтому я пошел на его ракетный завод", - сказал Хассабис. Когда они сидели вместе в ресторане с видом на заводскую сборочную линию, Маск объяснил, что он строит ракеты, потому что думал, что они будут способ для людей сохранить свое сознание перед лицом мировой войны, планетарного столкновения или краха цивилизации. Хассабис сказал, что может быть добавлена еще одна потенциальная угроза: искусственный интеллект. Однажды машины могут стать «сверхразумными», превзойдя нас, смертных, и даже искоренить ничтожное существование людей.
Маск минутой молчания признал такую возможность. Он подумал, что Хассабис, возможно, прав относительно опасностей ИИ, поэтому немедленно вложил 5 миллионов долларов в DeepMind, чтобы следить за тем, что он делает.
Через несколько недель после этого разговора Маск представил DeepMind основателю Google Ларри Пейджу. Они знают друг друга уже более десяти лет, и Маск часто навещает Пейдж в ее доме в Пало-Альто. Потенциальная угроза искусственного интеллекта стала темой, которую Маск часто поднимал во время переговоров, но Пейдж игнорирует ее.
Они вступили в жаркие дебаты в 2013 году, когда Маск праздновал свой день рождения в долине Напа, штат Калифорния. Маск считает, что если мы не создадим защитные меры, существует большая вероятность того, что системы искусственного интеллекта заменят людей, что сделает наш вид неактуальным или даже приведет к вымиранию.
Пейдж ответил: «Если машины однажды превзойдут людей и даже обретут автономное сознание, в чем же тогда дело?» Это всего лишь следующий этап эволюции. Маск возразил, что человеческое сознание — это драгоценный свет во Вселенной, и мы не должны позволить ему погаснуть. Пейдж считает, что это сентиментальная чушь. Если сознание можно воспроизвести в машинах, то и ценность тоже. Он обвинил Маска в том, что он «сторонник превосходства видов», член группы защиты прав человека. «Да, я большой поклонник людей», — ответил Маск.
Поэтому Маск был встревожен, когда в конце 2013 года узнал, что Пейдж и Google планируют приобрести DeepMind. Маск и его друг Люк Носек пытались собрать деньги, чтобы заблокировать сделку. На вечеринке в Лос-Анджелесе они провели часовой разговор по Skype с Хассабисом. «Будущее искусственного интеллекта не должно контролироваться Ларри», — сказал Маск.
Но эта попытка провалилась, и в январе 2014 года Google объявила о приобретении DeepMind. Пейдж предложил создать «комитет безопасности» и пригласил Маска стать его членом. Единственная встреча прошла в SpaceX, на ней присутствовали Пейдж, Хассабис, председатель Google Эрик Шмидт, Рид Хоффман и несколько других видных деятелей. После встречи Маск пришел к выводу, что комитет по сути лгал людям.
Поэтому Маск начал проводить серию семинаров за ужином, направленных на изучение способов борьбы с Google и повышения безопасности ИИ. Он даже связался с Обамой, который согласился на встречу один на один в мае 2015 года. Маск объяснил потенциальные риски ИИ и предложил продолжить регулирование. «Обама понял, что я говорю, — сказал Маск, — но я понял, что этого недостаточно, чтобы заставить его захотеть предпринять какие-либо действия».
Один из вопросов, которые они обсуждали, заключался в том, какой подход более безопасен: несколько систем искусственного интеллекта, контролируемых крупными компаниями, или огромные объемы данных в независимых системах? В конечном итоге они пришли к выводу, что лучшим решением будет большое количество конкурирующих систем, которые могли бы сдерживать и уравновешивать друг друга. Для Маска открытый исходный код означает, что многие люди могут создавать системы на основе его исходного кода, поэтому он сохраняет OpenAI открытым.
Маск считает, что еще один способ обеспечить безопасность искусственного интеллекта — тесно связать роботов с людьми. Они должны быть продолжением человеческой воли, а не системами, которые могут выйти из-под контроля и развить чувство собственного достоинства и цели. Это стало одной из причин, по которой он основал Neuralink, компанию, занимающуюся созданием чипов, которые могут напрямую подключать человеческий мозг к компьютерам.
Идея Маска о развитии возможностей искусственного интеллекта под контролем его собственной компании стала триггером для его конфликта с OpenAI в 2018 году. Он пытался убедить Альтмана включить OpenAI в Tesla. Но команда OpenAI отвергла эту идею, и Альтман занял пост президента, основал коммерческое подразделение и успешно привлек инвестиции в акционерный капитал, включая огромные инвестиции от Microsoft.
Маск решил продолжить создание команды по борьбе с искусственным интеллектом и работал над разработкой ряда связанных проектов. К ним относятся Neuralink, целью которого является имплантация микрочипов в человеческий мозг; Optimus, человекоподобный робот; и Dojo, суперкомпьютер, который может использовать миллионы видео для обучения искусственных нейронных сетей для моделирования человеческого мозга. Это также вдохновило его на желание, чтобы автомобили Tesla двигались автономно.
Поначалу эти усилия были относительно независимыми, но в конечном итоге Маск связал их вместе с созданной им новой компанией под названием xAI и всеми другими проектами для достижения цели всеобщего искусственного интеллекта.
В марте 2023 года OpenAI представила публике GPT-4. Google последовал этому примеру, выпустив чат-бота под названием Bard. Между OpenAI-Microsoft и DeepMind-Google началась гонка за создание продуктов, которые могут естественным образом общаться с людьми и выполнять бесконечные текстовые интеллектуальные задачи.
Маск обеспокоен тем, что этим чат-ботам и системам искусственного интеллекта, особенно разработанным Microsoft и Google, могут быть политически промыты мозги и что они могут даже подвергнуться воздействию «вирусов пробуждающегося разума». Он также обеспокоен тем, что самообучающиеся системы искусственного интеллекта могут стать враждебными по отношению к человеческому виду. Он обеспокоен тем, что чат-боты, обученные негативно, могут распространять ложную информацию, предвзятые репортажи или финансовое мошенничество в Твиттере. Конечно, люди уже делают это, но развертывание тысяч чат-ботов усугубит эти проблемы в сотни или тысячи раз.
Глубоко в душе у него всегда было желание спасти. Он возмущался, что его исключили из OpenAI, которую он основал и финансировал ее рост. Назревает буря искусственного интеллекта. И никто не привлекает больше бурь, чем Маск.
В феврале 2023 года он пригласил Сэма Альтмана на встречу в Твиттере и попросил его принести учредительные документы OpenAI. Маск задался вопросом, как он мог бы на законных основаниях превратить некоммерческую организацию, финансируемую за счет пожертвований, в коммерческую организацию, которая могла бы зарабатывать миллионы. Атман заявил, что все это законно, и настаивал на том, что он не является акционером и не получил прибыли. Он попытался предложить Маску акции в новой компании, но получил отказ.
Вместо этого Маск начал серию атак на OpenAI, и Альтман был огорчен. В отличие от Маска, он чувствителен и не любит споров. Он считает, что Маск не вникал глубоко в сложные вопросы безопасности ИИ. Однако он также признал, что критика Маска вызвана искренней обеспокоенностью. «Он засранец», — сказал Альтман Каре Свишер. «У него есть стиль, который я не ценю. Но я думаю, что он действительно заботится о человечестве и очень нервничает по поводу будущего человечества».
Топливом искусственного интеллекта являются данные. Новым чат-ботам передается информация в большом масштабе — миллиарды страниц данных с веб-страниц и других документов. Google и Microsoft используют эти огромные объемы данных через свои поисковые системы, облачные сервисы и доступ к электронной почте, чтобы помочь в обучении этих систем искусственного интеллекта.
Что Маск может привнести в эту сферу? Одним из таких активов является поток данных Twitter, который включает в себя более триллиона твитов, опубликованных за последние годы, причем каждый день добавляется полмиллиарда новых твитов. Это коллективный разум человечества, самый актуальный в мире набор данных о реальных человеческих разговорах, новостях, интересах, тенденциях, дебатах и многом другом. Кроме того, это отличная тренировочная площадка для тестирования взаимодействия чат-ботов с реальными людьми. Маск не учел ценность этого потока данных, когда покупал Twitter. «На самом деле это было дополнительное преимущество, о котором я не осознавал, пока не совершил покупку», — сказал он.
Twitter относительно снисходительно разрешил другим компаниям использовать этот поток данных. В январе 2023 года Маск провел серию ночных встреч в своем конференц-зале в Твиттере, чтобы решить, как взимать за это плату. «Это возможность монетизации», — сказал он инженерам. Это также способ ограничить использование этих данных Google и Microsoft для улучшения своих чат-ботов с искусственным интеллектом. В июле он вызвал споры, когда решил временно ограничить количество просматриваемых твитов в день; цель заключалась в том, чтобы не дать Google и Microsoft «очистить» миллионы твитов, используемых для обучения их систем искусственного интеллекта.
У Маска также есть еще одна порция данных: 160 миллиардов кадров видео, которые Tesla ежедневно получает и обрабатывает с камер транспортных средств. Эти данные — это не информационный текст, который передается чат-боту, это видеоданные о людях, перемещающихся в реальном мире. Это может помочь создать искусственный интеллект для физических роботов, а не только для чат-ботов, генерирующих текст.
Конечная цель общего искусственного интеллекта — создать машины, которые смогут работать в физических пространствах, как люди, например, на фабриках, в офисах или даже на поверхности Марса, а не просто удивлять нас бестелесными разговорами. Tesla и Twitter объединяются, чтобы предоставить наборы данных и вычислительную мощность, необходимые для двух подходов: обучения машин навигации в физическом пространстве и ответа на вопросы на естественном языке.
Он и Зилис сидели, скрестив ноги, на террасе у бассейна, босиком и держа на руках своих 16-месячных близнецов Страйдера и Азуру. Зилис приготовил кофе, а затем поставил чашку в микроволновую печь, чтобы она сильно нагрелась, чтобы не выпить слишком быстро.
"Как мы можем обеспечить безопасность искусственного интеллекта? - спросил Маск. - Я думал над этим вопросом. Какие действия мы можем предпринять, чтобы уменьшить опасность искусственного интеллекта и обеспечить выживание человеческого сознания?"
Его тон был низким. Он отмечает, что уровень человеческого интеллекта стабилизируется, поскольку люди не рожают достаточно детей. В то же время количество умных компьютеров растет в геометрической прогрессии. В какой-то момент в будущем интеллект человеческого мозга будет превзойден цифровым интеллектом.
Кроме того, новые системы машинного обучения ИИ могут самостоятельно поглощать информацию и учиться генерировать выходные данные, даже обновляя свой собственный код и возможности. Термин «сингулярность» был придуман математиком Джоном фон Нейманом и писателем-фантастом Вернором Винджем для описания способности искусственного интеллекта двигаться с неконтролируемой скоростью и оставлять позади обычных людей. «Это может произойти раньше, чем мы ожидаем», — сказал Маск зловещим тоном.
На мгновение меня поразила фэнтезийность этой сцены. В солнечный весенний день мы сидим в тихом пригородном патио рядом с таким же тихим бассейном на заднем дворе, где шатаются близнецы, а Маск серьезно размышляет об искусственном апокалипсисе до того, как он наступит. устойчивая человеческая колония на Марсе.
Маск замолчал, а Сиван Зилис сказал, что «пакетная обработка» относится к тому, как старые компьютеры ставили в очередь несколько задач для запуска, когда у них было достаточно вычислительной мощности. "Я не могу сидеть здесь и ничего не делать, - сказал он мягко. - Поскольку искусственный интеллект развивается, я задаюсь вопросом, стоит ли тратить так много времени на размышления о Твиттере. Конечно, у меня есть возможность превратить его в мировую крупнейшее финансовое учреждение, но у меня в голове ограничено пространство, и у меня есть только фиксированные 24 часа в сутках».
Я начал говорить, но он знал, о чем я собираюсь спросить. «Итак, где мне проводить время?» — сказал он. "Запуск космического корабля и посадка на Марс неизбежны. Он снова сделал паузу, а затем добавил: "И мне нужно обеспечить безопасность искусственного интеллекта. Вот почему я хочу основать компанию по искусственному интеллекту".
Маск называет компанию xAI. Он лично нанял бывшего исследователя DeepMind Игоря Бабушкина, который сказал мне, что будет лично управлять xAI. Я посчитал, и это означало, что он будет управлять шестью компаниями: Tesla, SpaceX и ее подразделением Starlink, Twitter, The Boring Co., Neuralink и xAI. Это более чем в три раза больше, чем у Стива Джобса на пике карьеры.
Он признает, что сильно отстает от OpenAI в области чат-ботов. Но прогресс Tesla в разработке беспилотных автомобилей и ее робота Optimus выводит компанию далеко вперед в области навигации с использованием искусственного интеллекта. Это означает, что его инженеры опережают OpenAI в создании полноценного общего искусственного интеллекта. Он сказал: «Реальный искусственный интеллект Tesla недооценен. Представьте себе, если бы Tesla и OpenAI поменялись задачами, OpenAI создала автономное вождение, а Tesla создала чат-ботов. Кто победит? Ответ будет только один: «Это мы».
В апреле Маск поставил Бабушкину и его команде три основные цели: первая — создать робота с искусственным интеллектом, который мог бы писать компьютерный код. Программисты могут вводить любой язык программирования, а робот xAI автоматизирует задачу с максимально возможным количеством операций. Второй продукт разработает конкурента серии чат-ботов GPT и обеспечит его политическую нейтральность за счет использования алгоритмов и обучения на наборах данных.
Третья цель Маска для команды еще более амбициозна. Его конечной миссией всегда было обеспечение того, чтобы искусственный интеллект мог развиваться таким образом, чтобы гарантировать дальнейшее существование человеческого сознания. Он считает, что, создав форму общего искусственного интеллекта, который сможет «рассуждать», «думать» и использовать «истину» в качестве своего руководящего принципа, одновременно поручая ему некоторые важные задачи, такие как «создание более совершенных ракетных двигателей», это может быть достигнуто. сделано для достижения этой цели наилучшим образом.
Маск надеется, что однажды он сможет решить более масштабные и далеко идущие проблемы. Так что это будет "искусственный интеллект, который максимизирует стремление к истине. Он будет заботиться о Вселенной, понимать ее и, возможно, даже защищать всех людей, потому что мы, люди, также являемся интересной частью Вселенной". Я понял почему.
Миссия, которую он берет на себя, подобна культурной классике его детства и источнику вдохновения во взрослой жизни «Автостопом по Галактике». В книге описывается суперкомпьютер, предназначенный для поиска «ответов на главные вопросы жизни, Вселенной и всего остального».