На конференції в 2012 році Ілон Маск познайомився з Демісом Хассабісом, засновником DeepMind.Креативна концепція компанії полягає в розробці машин, які можуть вивчати моделі людського мислення.
«Ми з Ілоном відразу зійшлися, тож я пішов на його ракетний завод», — сказав Хассабіс. Коли вони сиділи разом у ресторані з видом на конвеєр заводу, Маск пояснив, що він будує ракети, тому що думає, що це може бути спосіб для людей зберегти свою свідомість перед лицем світової війни, планетарного зіткнення чи краху цивілізації. Хассабіс сказав, що можна додати ще одну потенційну загрозу: штучний інтелект. Машини можуть одного дня стати «суперрозумними», перевершивши нас, смертних, і навіть викорінити незначне існування людей.
Маск вшанував цю можливість хвилиною мовчання. Він подумав, що Хассабіс може бути правий щодо небезпек ШІ, тому він негайно інвестував 5 мільйонів доларів у DeepMind, щоб контролювати, що він робить.
Через кілька тижнів після цієї розмови Маск представив DeepMind засновнику Google Ларрі Пейджу. Вони знайомі більше десятка років, і Маск часто відвідує Пейдж в її будинку в Пало-Альто. Потенційна загроза штучного інтелекту стала темою, яку Маск часто піднімає під час переговорів, але Пейдж нехтує нею.
Вони почали бурхливу дискусію в 2013 році, коли Маск святкував свій день народження в Напа-Веллі, Каліфорнія. Маск вважає, що якщо ми не створимо гарантії, існує велика ймовірність того, що системи штучного інтелекту замінять людей, що зробить наш вид неактуальним або навіть призведе до зникнення.
Пейдж відповів: «Якщо машини одного дня перевершать людей і навіть матимуть автономну свідомість, у чому тут велика проблема?» Це лише наступний етап еволюції. Маск відповів, що людська свідомість є дорогоцінним світлом у Всесвіті, і ми не повинні дозволити йому згаснути. Пейдж вважає, що це сентиментальна фігня. Якщо свідомість може бути відтворена в машинах, цінність також може бути відтворена. Він звинуватив Маска в тому, що він «прихильник переваги виду», член пролюдської спільноти. «Так, я великий шанувальник людей», — відповів Маск.
Тож Маск був наляканий, коли наприкінці 2013 року почув, що Пейдж і Google планують придбати DeepMind. Маск і його друг Люк Носек намагалися зібрати гроші, щоб заблокувати угоду. На вечірці в Лос-Анджелесі вони провели годинну розмову по скайпу з Хасабіс. "Майбутнє штучного інтелекту не повинно контролюватися Ларрі", - сказав Маск.
Але ця спроба не увінчалася успіхом, і Google оголосив про придбання DeepMind у січні 2014 року. Пейдж запропонував створити «комітет безпеки» і запросив Маска стати його членом. Єдина зустріч відбулася в SpaceX і включала Пейджа, Хассабіса, голову правління Google Еріка Шмідта, Рейда Хоффмана та кількох інших відомих діячів. Після зустрічі Маск дійшов висновку, що комітет в основному бреше людям.
Таким чином, Маск почав проводити серію обідніх семінарів, спрямованих на вивчення способів боротьби з Google і підвищення безпеки ШІ. Він навіть зв’язався з Обамою, який погодився на зустріч сам-на-сам у травні 2015 року. Маск пояснив потенційні ризики ШІ та запропонував продовжити регулювання. «Обама зрозумів, що я говорю, — сказав Маск, — але я зрозумів, що цього недостатньо, щоб змусити його вжити будь-яких дій».
Потім Маск звернувся за допомогою до Сема Альтмана, підприємця з програмного забезпечення, ентузіаста спортивних автомобілів і фаната виживання, який, незважаючи на зовнішню зрілу зовнішність, мав таку жорстоку рішучість, як і Маск. Під час невеликої вечері в Пало-Альто вони вирішили спільно заснувати некомерційну дослідницьку лабораторію штучного інтелекту під назвою OpenAI. Він відкриє вихідний код свого програмного забезпечення, щоб протистояти зростаючому впливу Google у цій галузі. «Ми хочемо мати версію Linux, подібну до штучного інтелекту, яка не контролюється жодною людиною чи компанією», — сказав Маск.
Одне з питань, яке вони обговорювали, полягало в тому, який підхід є більш безпечним: кілька систем ШІ, контрольованих великими компаніями, чи величезні обсяги даних у незалежних системах? Зрештою, вони дійшли висновку, що велика кількість конкуруючих систем, які могли б контролювати та врівноважувати одна одну, була б кращим рішенням. Для Маска відкритий код означає, що багато людей можуть створювати системи на основі його вихідного коду, тому він залишає OpenAI відкритим.
Маск вважає, що ще один спосіб забезпечити безпеку штучного інтелекту – це тісно зв’язати роботів з людьми. Вони мають бути продовженням людської волі, а не системами, які можуть вийти з-під контролю та розвинути почуття власної цілі та мети. Це стало однією з причин, чому він заснував Neuralink, компанію, яка займається створенням чіпів, які можуть безпосередньо підключати людський мозок до комп’ютера.
Ідея Маска щодо розвитку можливостей штучного інтелекту під контролем його власної компанії стала приводом для його конфлікту з OpenAI у 2018 році. Він намагався переконати Альтмана включити OpenAI в Tesla. Але команда OpenAI відхилила цю ідею, і Альтман став президентом, заснував прибутковий підрозділ і успішно залучив інвестиції в акціонерний капітал, у тому числі величезні інвестиції від Microsoft.
Маск вирішив продовжити створення команди проти штучного інтелекту та працював над розробкою низки відповідних проектів. Серед них Neuralink, який має на меті імплантувати мікрочіпи в людський мозок; Optimus, людиноподібний робот; і Dojo, суперкомп’ютер, який може використовувати мільйони відео для навчання штучних нейронних мереж для моделювання людського мозку. Це також надихнуло його на те, щоб автомобілі Tesla їздили автономно.
Спочатку ці зусилля були відносно незалежними, але згодом Маск об’єднав їх з новою компанією, яку він створив під назвою xAI, та всіма іншими проектами для досягнення мети загального штучного інтелекту.
У березні 2023 року OpenAI випустив GPT-4 для громадськості. Google послідував цьому прикладу, випустивши чат-бота під назвою Bard. Між OpenAI-Microsoft і DeepMind-Google почалася гонка за створення продуктів, які можуть природно спілкуватися з людьми та виконувати нескінченні текстові інтелектуальні завдання.
Маск стурбований тим, що ці чат-боти та системи штучного інтелекту, особливо ті, які освоюють Microsoft і Google, можуть бути політично промиті мізками та навіть можуть бути уражені «вірусами пробудження розуму». Він також стурбований тим, що системи штучного інтелекту, що самонавчаються, можуть стати ворожими для людського роду. Він стурбований тим, що чат-боти, навчені негативно, можуть поширювати неправдиву інформацію, упереджені звіти або фінансові махінації в Twitter. Звичайно, люди вже роблять це, але розгортання тисяч чат-ботів погіршить ці проблеми в сотні чи тисячі разів.
У глибині душі він завжди мав бажання рятувати. Він був обурений тим, що його виключили з OpenAI, який він заснував і фінансував його розвиток. Назріває шторм штучного інтелекту. І ніхто не приваблює більше штормів, ніж Маск.
У лютому 2023 року він запросив Сема Альтмана зустрітися в Twitter і попросив його надати установчі документи OpenAI. Маск сумнівався, як він міг законно перетворити некомерційну організацію, що фінансується за рахунок пожертвувань, у комерційну організацію, яка могла б заробляти мільйони. Атман сказав, що все законно, і наполягав, що він не був акціонером і не отримав прибутку. Він намагався запропонувати Маску акції нової компанії, але отримав відмову.
Натомість Маск почав серію атак на OpenAI, і Альтман був засмучений. На відміну від Маска, він чутливий і не любить суперечок. Він вважає, що Маск не вникав глибоко в складність питань безпеки ШІ. Однак він також визнав, що критика Маска виникла через щиру стурбованість. «Він мудак», — сказав Альтман Карі Свішер. «У нього є стиль, який я не ціную. Але я думаю, що він дійсно дбає про людство, і він дуже хвилюється щодо майбутнього людства».
Паливом штучного інтелекту є дані. Нові чат-боти передають інформацію у великих масштабах — мільярди сторінок даних із веб-сторінок, інших документів. Google і Microsoft використовують ці величезні масиви даних через свої пошукові системи, хмарні служби та доступ до електронної пошти, щоб допомогти навчити ці системи ШІ.
Що може привнести Маск у цю сферу? Одним із таких активів є потік даних Twitter, який включає понад трильйон твітів, опублікованих протягом багатьох років, із півмільярда нових твітів, які додаються щодня. Це колективний розум людства, найактуальніший у світі набір даних реальних людських розмов, новин, інтересів, тенденцій, дебатів тощо. Крім того, це чудовий тренувальний майданчик для перевірки взаємодії чат-ботів із реальними людьми. Маск не врахував цінність цього потоку даних, коли купував Twitter. «Насправді це була додаткова перевага, яку я не усвідомлював, поки не зробив покупку», — сказав він.
Twitter був відносно поблажливим, дозволяючи іншим компаніям використовувати цей потік даних. У січні 2023 року Маск провів серію нічних зустрічей у своєму конференц-залі Twitter, щоб вирішити, як за це стягувати плату. «Це можливість монетизації», — сказав він інженерам. Це також спосіб обмежити Google і Microsoft використання цих даних для покращення своїх чат-ботів AI. Він викликав суперечки в липні, коли він вирішив тимчасово обмежити кількість твітів, які переглядаються на день; мета полягала в тому, щоб запобігти Google і Microsoft від «збирання» мільйонів твітів, які використовуються для навчання їхніх систем штучного інтелекту.
У Маска також є ще один пакет даних: 160 мільярдів кадрів відео, які Tesla щодня отримує та обробляє з камер автомобіля. Ці дані не те саме, що інформативний текст, який передається чат-боту, це відеодані про те, як люди орієнтуються в реальному світі. Це може допомогти створити штучний інтелект для фізичних роботів, а не лише для чат-ботів, які генерують текст.
Кінцевою метою загального штучного інтелекту є створення машин, які можуть працювати у фізичному просторі, як люди, наприклад, на фабриках, в офісах або навіть на поверхні Марса, а не просто вражати нас безтілесними розмовами. Tesla і Twitter об’єднуються, щоб забезпечити набори даних і потужність обробки, необхідні для двох підходів: навчання машин орієнтуватися у фізичному просторі та відповідати на запитання природною мовою.
У березні Маск надіслав мені повідомлення зі словами: «Є щось важливе, про що я хочу з тобою поговорити, що можна зробити лише особисто». Після того, як я прибув до Остіна, він був у домі Шівона Зіліса, керівника Neuralink. також мати двох його дітей, була його мозковим трестом у сфері штучного інтелекту з моменту заснування OpenAI вісім років тому. Він сказав, що ми повинні залишити наші телефони вдома, тому що хтось може використовувати їх, щоб шпигувати за нашими розмовами. Але потім він погодився, що я міг би використати його зауваження щодо штучного інтелекту у своїй книзі.
Вони з Зілісом сиділи, схрестивши ноги, на терасі біля басейну, босоніж і тримали на руках своїх 16-місячних близнюків Страйдера та Лазур. Зіліс зробив каву, а потім поставив чашку в мікрохвильову піч, щоб вона була дуже гарячою, щоб він не випив її надто швидко.
"Як ми можемо забезпечити безпеку штучного інтелекту? - запитав Маск. - Я думав над цим питанням. Які дії ми можемо вжити, щоб зменшити небезпеку штучного інтелекту та забезпечити виживання людської свідомості?"
Його тон був низьким. Він зазначає, що рівень людського інтелекту стабілізується, оскільки люди не народжують достатньо дітей. Водночас кількість розумних комп’ютерів зростає експоненціально. У якийсь момент у майбутньому інтелект людського мозку буде перевершений цифровим інтелектом.
Крім того, нові системи машинного навчання штучного інтелекту можуть самостійно поглинати інформацію та вчитися створювати результати, навіть оновлюючи власний код і можливості. Термін «сингулярність» ввели математик Джон фон Нейман і письменник-фантаст Вернор Вінге, щоб описати здатність штучного інтелекту рухатися з неконтрольованою швидкістю, залишаючи позаду звичайних людей. Митті позаду. «Це може статися раніше, ніж ми очікуємо», — сказав Маск зловісним тоном.
На мить я був вражений фантазією цієї сцени. Сонячного весняного дня ми сидимо на тихому внутрішньому дворику в передмісті біля такого ж тихого басейну на задньому дворі, з близнюками, які дитяться, і Маск серйозно міркує про апокаліпсис штучного інтелекту, перш ніж він настане. Який шанс на успіх створення стійка людська колонія на Марсі.
Маск замовк, а Сіван Зіліс сказав, що «пакетна обробка» стосується того, як старі комп’ютери ставили в чергу кілька завдань для виконання, коли вони мали достатню обчислювальну потужність. «Я не можу сидіти тут і нічого не робити, — м’яко сказав він. — Оскільки штучний інтелект розвивається, я думаю, чи варто витрачати стільки часу на роздуми про Twitter. Звичайно, у мене є можливість перетворити його на світовий найбільша фінансова установа, але в моєму мозку дуже багато місця, і я маю лише фіксовані 24 години на добу».
Я почав говорити, але він знав, що я збираюся запитати. «То де ж мені провести час?» — сказав він. «Запуск зорельота і посадка на Марс неминучі», — він знову зробив паузу, а потім додав: «І мені потрібно забезпечити безпеку штучного інтелекту. Ось чому я хочу створити компанію зі штучного інтелекту».
Компанію Маск називає xAI. Він особисто залучив колишнього дослідника DeepMind Ігоря Бабушкіна, який сказав мені, що особисто керуватиме xAI. Тож я підрахував, і це означало, що він керуватиме шістьма компаніями: Tesla, SpaceX і її підрозділом Starlink, Twitter, The Boring Co., Neuralink і xAI. Це більш ніж у три рази більше, ніж Стів Джобс на піку свого розвитку.
Він визнає, що сильно відстає від OpenAI у чат-ботах. Але прогрес Tesla в безпілотних автомобілях та її роботі Optimus ставить її далеко вперед у навігації за допомогою штучного інтелекту. Це означає, що його інженери випередили OpenAI у фактичному створенні повномасштабного загального штучного інтелекту. Він сказав: «Реальний штучний інтелект Tesla недооцінений. Уявіть, якби Tesla та OpenAI помінялися завданнями, OpenAI створив автономне водіння, а Tesla створила чат-ботів. Хто виграє? Відповідь буде лише «Це ми».
У квітні Маск поставив Бабушкіну та його команді три головні цілі: перша — створити робота зі штучним інтелектом, який міг би писати комп’ютерний код. Програмісти можуть вводити текст будь-якою мовою програмування, а робот xAI автоматизує завдання з максимально можливою кількістю операцій. Другий продукт створить конкурента серії чат-ботів GPT і забезпечить його політичну нейтральність за допомогою алгоритмів і навчання на наборах даних.
Третій гол Маска за команду ще більш амбітний. Його основною місією завжди було забезпечення того, щоб штучний інтелект міг розвиватися таким чином, щоб допомогти зберегти подальше існування людської свідомості. Він вважає, що шляхом створення форми загального штучного інтелекту, який може «міркувати», «думати» і використовувати «правду» як свій керівний принцип, призначаючи йому деякі важливі завдання, такі як «створення кращих ракетних двигунів», це може бути зроблено для досягнення цього найкращим можливим способом.
Одного разу Маск сподівається, що він зможе вирішити більші, більш далекосяжні проблеми. Тож це буде «штучний інтелект, який максимізує прагнення до істини. Він дбатиме про Всесвіт, розумітиме його та, можливо, навіть захищатиме всіх людей, тому що ми, люди, також є цікавою частиною Всесвіту». Це прозвучало знайомо, а потім Я зрозуміла чому.
Місія, до якої він береться, схожа на культурну класику його дитинства та джерело натхнення у дорослому віці, «Автостопом по Галактиці». У книзі описується суперкомп’ютер, призначений для пошуку «відповідей на основні питання життя, Всесвіту та всього іншого».
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Маск: боротися з гегемонією ШІ Microsoft і Google
Джерело｜TIME
Автор｜Волтер Айзексон
Переклад｜Yang Xuehan
Джерело丨Heizhi
На конференції в 2012 році Ілон Маск познайомився з Демісом Хассабісом, засновником DeepMind.Креативна концепція компанії полягає в розробці машин, які можуть вивчати моделі людського мислення.
«Ми з Ілоном відразу зійшлися, тож я пішов на його ракетний завод», — сказав Хассабіс. Коли вони сиділи разом у ресторані з видом на конвеєр заводу, Маск пояснив, що він будує ракети, тому що думає, що це може бути спосіб для людей зберегти свою свідомість перед лицем світової війни, планетарного зіткнення чи краху цивілізації. Хассабіс сказав, що можна додати ще одну потенційну загрозу: штучний інтелект. Машини можуть одного дня стати «суперрозумними», перевершивши нас, смертних, і навіть викорінити незначне існування людей.
Маск вшанував цю можливість хвилиною мовчання. Він подумав, що Хассабіс може бути правий щодо небезпек ШІ, тому він негайно інвестував 5 мільйонів доларів у DeepMind, щоб контролювати, що він робить.
Через кілька тижнів після цієї розмови Маск представив DeepMind засновнику Google Ларрі Пейджу. Вони знайомі більше десятка років, і Маск часто відвідує Пейдж в її будинку в Пало-Альто. Потенційна загроза штучного інтелекту стала темою, яку Маск часто піднімає під час переговорів, але Пейдж нехтує нею.
Вони почали бурхливу дискусію в 2013 році, коли Маск святкував свій день народження в Напа-Веллі, Каліфорнія. Маск вважає, що якщо ми не створимо гарантії, існує велика ймовірність того, що системи штучного інтелекту замінять людей, що зробить наш вид неактуальним або навіть призведе до зникнення.
Пейдж відповів: «Якщо машини одного дня перевершать людей і навіть матимуть автономну свідомість, у чому тут велика проблема?» Це лише наступний етап еволюції. Маск відповів, що людська свідомість є дорогоцінним світлом у Всесвіті, і ми не повинні дозволити йому згаснути. Пейдж вважає, що це сентиментальна фігня. Якщо свідомість може бути відтворена в машинах, цінність також може бути відтворена. Він звинуватив Маска в тому, що він «прихильник переваги виду», член пролюдської спільноти. «Так, я великий шанувальник людей», — відповів Маск.
Тож Маск був наляканий, коли наприкінці 2013 року почув, що Пейдж і Google планують придбати DeepMind. Маск і його друг Люк Носек намагалися зібрати гроші, щоб заблокувати угоду. На вечірці в Лос-Анджелесі вони провели годинну розмову по скайпу з Хасабіс. "Майбутнє штучного інтелекту не повинно контролюватися Ларрі", - сказав Маск.
Але ця спроба не увінчалася успіхом, і Google оголосив про придбання DeepMind у січні 2014 року. Пейдж запропонував створити «комітет безпеки» і запросив Маска стати його членом. Єдина зустріч відбулася в SpaceX і включала Пейджа, Хассабіса, голову правління Google Еріка Шмідта, Рейда Хоффмана та кількох інших відомих діячів. Після зустрічі Маск дійшов висновку, що комітет в основному бреше людям.
Таким чином, Маск почав проводити серію обідніх семінарів, спрямованих на вивчення способів боротьби з Google і підвищення безпеки ШІ. Він навіть зв’язався з Обамою, який погодився на зустріч сам-на-сам у травні 2015 року. Маск пояснив потенційні ризики ШІ та запропонував продовжити регулювання. «Обама зрозумів, що я говорю, — сказав Маск, — але я зрозумів, що цього недостатньо, щоб змусити його вжити будь-яких дій».
Одне з питань, яке вони обговорювали, полягало в тому, який підхід є більш безпечним: кілька систем ШІ, контрольованих великими компаніями, чи величезні обсяги даних у незалежних системах? Зрештою, вони дійшли висновку, що велика кількість конкуруючих систем, які могли б контролювати та врівноважувати одна одну, була б кращим рішенням. Для Маска відкритий код означає, що багато людей можуть створювати системи на основі його вихідного коду, тому він залишає OpenAI відкритим.
Маск вважає, що ще один спосіб забезпечити безпеку штучного інтелекту – це тісно зв’язати роботів з людьми. Вони мають бути продовженням людської волі, а не системами, які можуть вийти з-під контролю та розвинути почуття власної цілі та мети. Це стало однією з причин, чому він заснував Neuralink, компанію, яка займається створенням чіпів, які можуть безпосередньо підключати людський мозок до комп’ютера.
Ідея Маска щодо розвитку можливостей штучного інтелекту під контролем його власної компанії стала приводом для його конфлікту з OpenAI у 2018 році. Він намагався переконати Альтмана включити OpenAI в Tesla. Але команда OpenAI відхилила цю ідею, і Альтман став президентом, заснував прибутковий підрозділ і успішно залучив інвестиції в акціонерний капітал, у тому числі величезні інвестиції від Microsoft.
Маск вирішив продовжити створення команди проти штучного інтелекту та працював над розробкою низки відповідних проектів. Серед них Neuralink, який має на меті імплантувати мікрочіпи в людський мозок; Optimus, людиноподібний робот; і Dojo, суперкомп’ютер, який може використовувати мільйони відео для навчання штучних нейронних мереж для моделювання людського мозку. Це також надихнуло його на те, щоб автомобілі Tesla їздили автономно.
Спочатку ці зусилля були відносно незалежними, але згодом Маск об’єднав їх з новою компанією, яку він створив під назвою xAI, та всіма іншими проектами для досягнення мети загального штучного інтелекту.
У березні 2023 року OpenAI випустив GPT-4 для громадськості. Google послідував цьому прикладу, випустивши чат-бота під назвою Bard. Між OpenAI-Microsoft і DeepMind-Google почалася гонка за створення продуктів, які можуть природно спілкуватися з людьми та виконувати нескінченні текстові інтелектуальні завдання.
Маск стурбований тим, що ці чат-боти та системи штучного інтелекту, особливо ті, які освоюють Microsoft і Google, можуть бути політично промиті мізками та навіть можуть бути уражені «вірусами пробудження розуму». Він також стурбований тим, що системи штучного інтелекту, що самонавчаються, можуть стати ворожими для людського роду. Він стурбований тим, що чат-боти, навчені негативно, можуть поширювати неправдиву інформацію, упереджені звіти або фінансові махінації в Twitter. Звичайно, люди вже роблять це, але розгортання тисяч чат-ботів погіршить ці проблеми в сотні чи тисячі разів.
У глибині душі він завжди мав бажання рятувати. Він був обурений тим, що його виключили з OpenAI, який він заснував і фінансував його розвиток. Назріває шторм штучного інтелекту. І ніхто не приваблює більше штормів, ніж Маск.
У лютому 2023 року він запросив Сема Альтмана зустрітися в Twitter і попросив його надати установчі документи OpenAI. Маск сумнівався, як він міг законно перетворити некомерційну організацію, що фінансується за рахунок пожертвувань, у комерційну організацію, яка могла б заробляти мільйони. Атман сказав, що все законно, і наполягав, що він не був акціонером і не отримав прибутку. Він намагався запропонувати Маску акції нової компанії, але отримав відмову.
Натомість Маск почав серію атак на OpenAI, і Альтман був засмучений. На відміну від Маска, він чутливий і не любить суперечок. Він вважає, що Маск не вникав глибоко в складність питань безпеки ШІ. Однак він також визнав, що критика Маска виникла через щиру стурбованість. «Він мудак», — сказав Альтман Карі Свішер. «У нього є стиль, який я не ціную. Але я думаю, що він дійсно дбає про людство, і він дуже хвилюється щодо майбутнього людства».
Паливом штучного інтелекту є дані. Нові чат-боти передають інформацію у великих масштабах — мільярди сторінок даних із веб-сторінок, інших документів. Google і Microsoft використовують ці величезні масиви даних через свої пошукові системи, хмарні служби та доступ до електронної пошти, щоб допомогти навчити ці системи ШІ.
Що може привнести Маск у цю сферу? Одним із таких активів є потік даних Twitter, який включає понад трильйон твітів, опублікованих протягом багатьох років, із півмільярда нових твітів, які додаються щодня. Це колективний розум людства, найактуальніший у світі набір даних реальних людських розмов, новин, інтересів, тенденцій, дебатів тощо. Крім того, це чудовий тренувальний майданчик для перевірки взаємодії чат-ботів із реальними людьми. Маск не врахував цінність цього потоку даних, коли купував Twitter. «Насправді це була додаткова перевага, яку я не усвідомлював, поки не зробив покупку», — сказав він.
Twitter був відносно поблажливим, дозволяючи іншим компаніям використовувати цей потік даних. У січні 2023 року Маск провів серію нічних зустрічей у своєму конференц-залі Twitter, щоб вирішити, як за це стягувати плату. «Це можливість монетизації», — сказав він інженерам. Це також спосіб обмежити Google і Microsoft використання цих даних для покращення своїх чат-ботів AI. Він викликав суперечки в липні, коли він вирішив тимчасово обмежити кількість твітів, які переглядаються на день; мета полягала в тому, щоб запобігти Google і Microsoft від «збирання» мільйонів твітів, які використовуються для навчання їхніх систем штучного інтелекту.
У Маска також є ще один пакет даних: 160 мільярдів кадрів відео, які Tesla щодня отримує та обробляє з камер автомобіля. Ці дані не те саме, що інформативний текст, який передається чат-боту, це відеодані про те, як люди орієнтуються в реальному світі. Це може допомогти створити штучний інтелект для фізичних роботів, а не лише для чат-ботів, які генерують текст.
Кінцевою метою загального штучного інтелекту є створення машин, які можуть працювати у фізичному просторі, як люди, наприклад, на фабриках, в офісах або навіть на поверхні Марса, а не просто вражати нас безтілесними розмовами. Tesla і Twitter об’єднуються, щоб забезпечити набори даних і потужність обробки, необхідні для двох підходів: навчання машин орієнтуватися у фізичному просторі та відповідати на запитання природною мовою.
Вони з Зілісом сиділи, схрестивши ноги, на терасі біля басейну, босоніж і тримали на руках своїх 16-місячних близнюків Страйдера та Лазур. Зіліс зробив каву, а потім поставив чашку в мікрохвильову піч, щоб вона була дуже гарячою, щоб він не випив її надто швидко.
"Як ми можемо забезпечити безпеку штучного інтелекту? - запитав Маск. - Я думав над цим питанням. Які дії ми можемо вжити, щоб зменшити небезпеку штучного інтелекту та забезпечити виживання людської свідомості?"
Його тон був низьким. Він зазначає, що рівень людського інтелекту стабілізується, оскільки люди не народжують достатньо дітей. Водночас кількість розумних комп’ютерів зростає експоненціально. У якийсь момент у майбутньому інтелект людського мозку буде перевершений цифровим інтелектом.
Крім того, нові системи машинного навчання штучного інтелекту можуть самостійно поглинати інформацію та вчитися створювати результати, навіть оновлюючи власний код і можливості. Термін «сингулярність» ввели математик Джон фон Нейман і письменник-фантаст Вернор Вінге, щоб описати здатність штучного інтелекту рухатися з неконтрольованою швидкістю, залишаючи позаду звичайних людей. Митті позаду. «Це може статися раніше, ніж ми очікуємо», — сказав Маск зловісним тоном.
На мить я був вражений фантазією цієї сцени. Сонячного весняного дня ми сидимо на тихому внутрішньому дворику в передмісті біля такого ж тихого басейну на задньому дворі, з близнюками, які дитяться, і Маск серйозно міркує про апокаліпсис штучного інтелекту, перш ніж він настане. Який шанс на успіх створення стійка людська колонія на Марсі.
Маск замовк, а Сіван Зіліс сказав, що «пакетна обробка» стосується того, як старі комп’ютери ставили в чергу кілька завдань для виконання, коли вони мали достатню обчислювальну потужність. «Я не можу сидіти тут і нічого не робити, — м’яко сказав він. — Оскільки штучний інтелект розвивається, я думаю, чи варто витрачати стільки часу на роздуми про Twitter. Звичайно, у мене є можливість перетворити його на світовий найбільша фінансова установа, але в моєму мозку дуже багато місця, і я маю лише фіксовані 24 години на добу».
Я почав говорити, але він знав, що я збираюся запитати. «То де ж мені провести час?» — сказав він. «Запуск зорельота і посадка на Марс неминучі», — він знову зробив паузу, а потім додав: «І мені потрібно забезпечити безпеку штучного інтелекту. Ось чому я хочу створити компанію зі штучного інтелекту».
Компанію Маск називає xAI. Він особисто залучив колишнього дослідника DeepMind Ігоря Бабушкіна, який сказав мені, що особисто керуватиме xAI. Тож я підрахував, і це означало, що він керуватиме шістьма компаніями: Tesla, SpaceX і її підрозділом Starlink, Twitter, The Boring Co., Neuralink і xAI. Це більш ніж у три рази більше, ніж Стів Джобс на піку свого розвитку.
Він визнає, що сильно відстає від OpenAI у чат-ботах. Але прогрес Tesla в безпілотних автомобілях та її роботі Optimus ставить її далеко вперед у навігації за допомогою штучного інтелекту. Це означає, що його інженери випередили OpenAI у фактичному створенні повномасштабного загального штучного інтелекту. Він сказав: «Реальний штучний інтелект Tesla недооцінений. Уявіть, якби Tesla та OpenAI помінялися завданнями, OpenAI створив автономне водіння, а Tesla створила чат-ботів. Хто виграє? Відповідь буде лише «Це ми».
У квітні Маск поставив Бабушкіну та його команді три головні цілі: перша — створити робота зі штучним інтелектом, який міг би писати комп’ютерний код. Програмісти можуть вводити текст будь-якою мовою програмування, а робот xAI автоматизує завдання з максимально можливою кількістю операцій. Другий продукт створить конкурента серії чат-ботів GPT і забезпечить його політичну нейтральність за допомогою алгоритмів і навчання на наборах даних.
Третій гол Маска за команду ще більш амбітний. Його основною місією завжди було забезпечення того, щоб штучний інтелект міг розвиватися таким чином, щоб допомогти зберегти подальше існування людської свідомості. Він вважає, що шляхом створення форми загального штучного інтелекту, який може «міркувати», «думати» і використовувати «правду» як свій керівний принцип, призначаючи йому деякі важливі завдання, такі як «створення кращих ракетних двигунів», це може бути зроблено для досягнення цього найкращим можливим способом.
Одного разу Маск сподівається, що він зможе вирішити більші, більш далекосяжні проблеми. Тож це буде «штучний інтелект, який максимізує прагнення до істини. Він дбатиме про Всесвіт, розумітиме його та, можливо, навіть захищатиме всіх людей, тому що ми, люди, також є цікавою частиною Всесвіту». Це прозвучало знайомо, а потім Я зрозуміла чому.
Місія, до якої він береться, схожа на культурну класику його дитинства та джерело натхнення у дорослому віці, «Автостопом по Галактиці». У книзі описується суперкомп’ютер, призначений для пошуку «відповідей на основні питання життя, Всесвіту та всього іншого».