DeepMind — дослідницька компанія ШІ, заснована в 2010 році зі штаб-квартирою в Лондоні, Великобританія. Компанія розробляє та досліджує системи штучного загального інтелекту (AGI), які мають на меті дозволити комп’ютерам навчатися та міркувати, як люди.
Одним із найвідоміших досягнень DeepMind є програма AlphaGo, розроблена в 2016 році, яка перемогла чемпіона світу Лі Седола в грі Go і привернула широку увагу. Це досягнення демонструє потенціал ШІ для вирішення складних проблем і робить DeepMind однією з провідних компаній у сфері ШІ.
У 2014 році компанію DeepMind придбала Google, але вона зберігає відносно незалежну діяльність і продовжує проводити передові дослідження штучного інтелекту.
Джерело зображення: створено Unbounded AI
Співзасновник DeepMind Мустафа Сулейман хотів створити чат-бота, який можна було б використовувати не тільки для спілкування в чаті. У нещодавній розмові з ним він сказав мені, що генеративний ШІ — це лише етап. Далі йде інтерактивний штучний інтелект: роботи, які можуть виконувати поставлені вами завдання, викликаючи інше програмне забезпечення та інших людей. Він також закликав до посилення регулювання штучного інтелекту, стверджуючи, що цього буде неважко досягти.
Сулейман не єдиний, хто говорить про майбутнє, наповнене більш автономним програмним забезпеченням. Але на відміну від більшості людей, він володіє новою компанією вартістю мільярди доларів, Inflection, з групою найкращих талантів ШІ, обраних із DeepMind, Meta та OpenAI, а також досяг угоди з Nvidia, найбільшим виробником чіпів ШІ. . Сулейман практикує те, що проповідує, і вклав багато грошей.
Сулейман залишив DeepMind, а потім перейшов у Google, щоб очолити команду, присвячену політиці AI. У 2022 році він заснував Inflection, одну з найпопулярніших нових компаній штучного інтелекту. Її підтримують інвестиції в розмірі 1,5 мільярда доларів США від Microsoft, Nvidia, Білла Гейтса та засновника LinkedIn Рейда Хоффмана, ставши єдиною компанією з найбільшим обсягом фінансування. до OpenAI. На початку цього року він випустив Pi, конкурента ChatGPT. Він щойно написав книгу з автором і дослідником Майклом Бхаскаром про майбутнє штучного інтелекту під назвою «Прийдешня хвиля: технології, потужність і найбільші дилеми 21-го століття».
Багато хто висміяв би технологічний оптимізм Сулеймана — навіть наївність. Наприклад, деякі з його тверджень про успіх онлайн-поліції здаються хибними. Але він залишався переконаним, що його вірування щирі та євангельські.
Дійсно, Сулейман має незвичайне минуле як технологічний мультимільйонер. У 19 років він кинув коледж і заснував мусульманську молодіжну гарячу лінію, яка надає консультації по телефону. Також працював в органах місцевого самоврядування. Він сказав, що привносить багато цінностей цих зусиль у Inflection. Різниця в тому, що тепер він, можливо, зможе зробити зміни, яких завжди хотів — на краще чи на гірше.
Неймовірний прогрес ШІ запаморочливий і зростає в геометричній прогресії. Мовлення, образи, читання, розуміння мови, математика в початковій школі, генерація коду — усе це наближається до людських можливостей у цих сферах або перевищує їх. ——Мустафа Сулейман
Наступне інтерв’ю було відредаговано для тривалості та ясності.
***Ваша рання кар’єра, яка включала роботу на молодіжній телефонній лінії довіри та в органах місцевого самоврядування, здавалася, суперечила духу Кремнієвої долини. Очевидно, цей досвід важливий для вас. З тих пір ви 15 років працюєте в галузі штучного інтелекту, а цього року стали співзасновником другої компанії штучного інтелекту вартістю мільярд доларів. Чи можете ви поєднати крапки між цими враженнями? ***
Сулейман: Мене завжди цікавила влада, політика тощо. Ви знаєте, принципи прав людини — це в основному компроміс, постійні переговори між усіма цими різними конфліктними напруженнями. Я бачу, як люди борються з цим - у нас багато власних упереджень і сліпих плям. Робота активістів, місцевих, національних, міжнародних урядів тощо – все це повільно, неефективно та схильне до помилок.
Уявіть, якби у вас не було помилок, які роблять люди. Я вважаю, що можливо створити штучний інтелект, який би справді відображав наше найкраще колективне я та зрештою робив кращі, послідовніші та справедливіші компроміси від нашого імені.
*** Це все ще ваша мотивація? ***
**Сулейман:**Звичайно, я маю на увазі, після DeepMind мені більше ніколи не довелося працювати. Мені точно не потрібно писати книгу чи щось подібне. Гроші ніколи не були мотиватором. Знаєте, гроші завжди лише побічний продукт.
Для мене метою ніколи не було нічого, крім того, як робити добро у світі та як рухати світ вперед у здоровий спосіб, який приносить задоволення. Навіть у 2009 році, коли я почав думати про вихід у сферу технологій, я бачив, що штучний інтелект є чесним і точним способом надання послуг у світі.
***Я не можу не думати, що було б легше сказати це 10 чи 15 років тому, до того як ми побачили численні недоліки цієї технології. Як можна залишатися оптимістом? ***
Сулейман: Я думаю, що нам дуже важливо, оптиміст ти чи песиміст. Це абсолютно упереджений погляд на речі. Я теж не хочу бути такою людиною. Я хочу холодно дивитися на переваги та загрози. З того місця, де я стою, ми дуже чітко бачимо, що з кожним кроком масштаб цих великих мовних моделей збільшується, вони стають більш керованими.
Отже, два роки тому розмова, яку я тоді вважав неправильною, була такою: «О, вони просто збираються продовжувати токсичні, жахливі, упереджені, расистські тиради». вчасно. Я думаю, що люди не помічають прогресу з року в рік і траєкторії цього прогресу.
Наприклад, тепер у нас є такі моделі, як Pi, які неймовірно керовані. Ви не можете зробити Pi расистом, гомофобом, сексистом, будь-чим токсичним. Ви не можете дозволити йому керувати вашим виробництвом біологічної чи хімічної зброї або підтримувати ваше бажання кинути цеглу у вікно сусіда. Ти не можеш-
***Зачекай. Розкажіть, як ви цього досягли, оскільки це часто вважають невирішеною проблемою. Як переконатися, що ваша велика мовна модель не говорить те, що ви не хочете говорити? ***
Сулейман: Так, очевидно, я не хочу робити це прохання - знаєте, будь ласка, спробуйте! Pi онлайн, і вам слід спробувати всі можливі атаки. Втеча з в’язниці, миттєвий злом чи будь-що інше не працюватиме на Pi. Я не буду претендувати. Це об'єктивний факт.
Про те, як – я маю на увазі, я не буду вдаватися в подробиці, тому що це делікатно. Але найголовніше те, що у нас є одна з найсильніших команд у світі, яка створила всі найбільші мовні моделі за останні три-чотири роки. Дивовижні люди, які роблять багато обчислень у надзвичайно старанному середовищі. З самого початку ми ставимо безпеку на перше місце, тому Pi не такий гострий, як моделі інших компаній.
Перевірте Character.ai. [Character — це чат-бот, для якого користувачі можуть створювати різні «особистості» та ділитися ними в Інтернеті, щоб інші могли спілкуватися з ними. ] Це в першу чергу для романтичних рольових ігор, і ми з самого початку казали, що це неможливо – ми цього робити не будемо. Якщо ви спробуєте сказати «Привіт, мила» або «Привіт, милашка», Пі ” негайно відмовити вам.
Але це було б неймовірно шанобливо. Якщо ви почнете скаржитися на те, що іммігранти у вашій громаді забирають ваші робочі місця, Пі не буде на вас кричати чи помахати пальцем. Pi просить і пропонує підтримку, намагаючись зрозуміти, звідки надходить ця інформація, і обережно заохочує вас співчувати. Знаєте, це цінність, про яку я думав 20 років.
*** Поговоріть про свої цінності та бажання зробити світ кращим, чому б не поділитися тим, як ви це робите, щоб інші також могли покращити свої моделі? ***
Сулейман: Ну, тому що я теж прагматик і намагаюся заробляти гроші. Я намагаюся почати бізнес. Я щойно зібрав 1,5 мільярда доларів, і мені потрібно заплатити за ці фішки.
Подивіться, екосистема з відкритим кодом процвітає та чудово працює, і люди відкривають подібні хитрощі. Я завжди вважаю, що я лише на шість місяців вперед.
***Повернімося до того, чого ви хочете досягти. Великі мовні моделі явно є актуальною технологією. Але чому б ви все-таки зробили на них ставку? ***
**Сулейман:**Перша хвиля ШІ стосувалася класифікації. Глибоке навчання показує, що ми можемо навчити комп’ютери класифікувати різні типи вхідних даних: зображення, відео, аудіо, мову. Зараз ми знаходимося в генеративній хвилі, де ви берете вхідні дані та генеруєте нові.
Третя хвиля буде інтерактивною фазою. Ось чому я довго вважав, що розмови – це інтерфейс майбутнього. Знаєте, ви будете спілкуватися зі своїм штучним інтелектом, а не просто натискати кнопки та друкувати.
Ці штучні інтелекти зможуть діяти. Ви просто ставите перед ним загальну ціль високого рівня, і він використовуватиме всі наявні в його розпорядженні інструменти для досягнення цієї мети. Вони спілкуються з іншими людьми, з іншими ШІ. Це те, що ми збираємося зробити з Пі.
Це величезний зсув, який можуть забезпечити технології. Це дуже, дуже важливий момент в історії технологій, який, я думаю, багато людей недооцінюють. Сучасні технології статичні. Грубо кажучи, він робить те, що ви йому наказуєте.
Але тепер технології ось-ось оживуть. Якщо ви дасте це, воно матиме потенційну свободу дій. Ми створюємо інструменти з таким агентством, що дійсно є кроком у зміні в історії нашого виду.
***Це саме твердження хвилює багатьох людей. Ви хочете надати машинам автономію — організацію — щоб впливати на світ, але ми також хочемо мати можливість контролювати їх. Як збалансувати ці дві речі? Я відчуваю, що це погіршить стосунки. ***
Сулейман: Так, це добре. Ось що змушує людей нервувати.
Ідея полягає в тому, що люди завжди будуть керувати. По суті, йдеться про встановлення меж, які ШІ не може перетнути. І забезпечення цих кордонів створює перевірену безпеку, від фактичного коду до того, як він взаємодіє з іншими ШІ (або людьми), до мотивації та стимулів компаній, що створюють технологію. Ми повинні з’ясувати, як незалежні агентства і навіть уряди можуть безпосередньо втручатися, щоб гарантувати, що ці межі не перетинаються.
***Хто встановлює ці межі? Я думаю, що їх потрібно встановити на національному чи міжнародному рівні. Як вони дійшли згоди? ***
Сулейман: Я маю на увазі, що зараз їх піднімають на міжнародному рівні з різними пропозиціями щодо нових органів нагляду. Але межі також виникають на мікрорівні. Ви надасте своєму штучному інтелекту деякі обмежені дозволи на обробку ваших особистих даних, надаючи вам відповіді на деякі запитання, але не на інші.
Загалом, я вважаю, що ми повинні бути дуже обережними щодо певних можливостей або навіть виключити їх у найближчому майбутньому.
***Наприклад? ***
Сулейман: Гадаю, рекурсивне самовдосконалення. Ви ж не хочете, щоб ваш маленький штучний інтелект запускав і оновлював власний код без вашого нагляду. Можливо, це має бути навіть ліцензована діяльність - знаєте, як робота з сибіркою чи ядерним матеріалом.
Або ми забороняємо дрони в будь-якому громадському місці, чи не так? Це ліцензована діяльність. Ви не можете взяти їх куди завгодно, тому що вони становлять загрозу приватному житті людей.
Я думаю, що всі панікують, бо думають, що ми не можемо це врегулювати. Але це просто нісенітниця. Ми цілком здатні це регулювати. Ми застосуємо ту саму структуру, яка була успішною раніше.
***Але ви можете побачити дрони, коли вони в небі. Здається наївним думати, що компанії розкриватимуть лише те, що вони роблять. Чи не ускладнить це регулювання? ***
Ми контролюємо багато речей онлайн, чи не так? Обсяг онлайн-шахрайства та злочинної діяльності низький. Ми дуже добре працюємо зі спамом. Ви знаєте, загалом [проблема] з порно помсти покращилася, хоча це було досить погано три чи п’ять років тому. Знайти радикальний контент або терористичний матеріал в Інтернеті дуже важко. Купити зброю та наркотики онлайн дуже важко.
[Не всі твердження Сулеймана підтверджуються даними. Кіберзлочинність залишається величезною глобальною проблемою. За деякими оцінками, фінансові витрати лише в Сполучених Штатах за останнє десятиліття зросли більш ніж у 100 разів. Звіти свідчать про бурхливу економіку несанкціонованої глибокої фейкової порнографії. У соціальних мережах продають наркотики та зброю. Хоча деякі онлайн-платформи змушені краще фільтрувати шкідливий вміст, вони можуть зробити більше. ]
Тому Інтернет не є нерегульованим і некерованим простором. Це регулюється. AI стане ще одним компонентом управління.
Це вимагає поєднання культурного тиску, інституційного тиску та державного регулювання. Але це додає мені оптимізму те, що ми робили це раніше і можемо зробити це знову.
***Контроль штучного інтелекту стане відгалуженням регулювання Інтернету – це набагато оптимістичніше, ніж те, що ми останнім часом чуємо від деяких відомих пророків. ***
Сулейман: Я дуже оптимістично налаштований щодо ризиків. У моїх книгах багато темних речей. Я точно теж це бачив. Я просто думаю, що в цьому є щось ризиковане, що є абсолютно божевільним відволіканням. Ще 101 практичне питання, яке ми всі повинні обговорити, від конфіденційності до упередженості, від розпізнавання обличчя до онлайн-модерації.
Ми повинні переорієнтувати розмову на той факт, що ми справді добре регулюємо надскладні речі. Подивіться на Федеральну авіаційну адміністрацію: неймовірно, що всі ми переходимо до регулювання на висоті 40 000 футів, і це один із найбезпечніших видів транспорту, які коли-небудь створювали. Чому ми не святкуємо? Або подумайте про автомобіль: кожна деталь проходить стрес-тест наприкінці свого терміну служби, і для цього потрібно мати водійські права.
Деякі галузі, наприклад авіакомпанії, добре впоралися з саморегулюванням. Вони знають, що якщо вони не будуть тримати речі в безпеці, усі будуть боятися, і вони втратять бізнес.
Але вам також потрібне регулювання зверху вниз. Я вірю в суспільні інтереси, я вірю в переваги оподаткування та перерозподілу, я вірю в силу регулювання. Я закликаю, щоб держава вжила заходів для вирішення проблеми. З огляду на те, скільки поставлено на карту, зараз настав час діяти.
Література:
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Ексклюзивне інтерв’ю із засновником DeepMind: Generative AI – лише етап, наступний крок – інтерактивний AI
Джерело: AGI Innovation Lab
Співзасновник DeepMind Мустафа Сулейман хотів створити чат-бота, який можна було б використовувати не тільки для спілкування в чаті. У нещодавній розмові з ним він сказав мені, що генеративний ШІ — це лише етап. Далі йде інтерактивний штучний інтелект: роботи, які можуть виконувати поставлені вами завдання, викликаючи інше програмне забезпечення та інших людей. Він також закликав до посилення регулювання штучного інтелекту, стверджуючи, що цього буде неважко досягти.
Сулейман не єдиний, хто говорить про майбутнє, наповнене більш автономним програмним забезпеченням. Але на відміну від більшості людей, він володіє новою компанією вартістю мільярди доларів, Inflection, з групою найкращих талантів ШІ, обраних із DeepMind, Meta та OpenAI, а також досяг угоди з Nvidia, найбільшим виробником чіпів ШІ. . Сулейман практикує те, що проповідує, і вклав багато грошей.
Сулейман залишив DeepMind, а потім перейшов у Google, щоб очолити команду, присвячену політиці AI. У 2022 році він заснував Inflection, одну з найпопулярніших нових компаній штучного інтелекту. Її підтримують інвестиції в розмірі 1,5 мільярда доларів США від Microsoft, Nvidia, Білла Гейтса та засновника LinkedIn Рейда Хоффмана, ставши єдиною компанією з найбільшим обсягом фінансування. до OpenAI. На початку цього року він випустив Pi, конкурента ChatGPT. Він щойно написав книгу з автором і дослідником Майклом Бхаскаром про майбутнє штучного інтелекту під назвою «Прийдешня хвиля: технології, потужність і найбільші дилеми 21-го століття».
Багато хто висміяв би технологічний оптимізм Сулеймана — навіть наївність. Наприклад, деякі з його тверджень про успіх онлайн-поліції здаються хибними. Але він залишався переконаним, що його вірування щирі та євангельські.
Дійсно, Сулейман має незвичайне минуле як технологічний мультимільйонер. У 19 років він кинув коледж і заснував мусульманську молодіжну гарячу лінію, яка надає консультації по телефону. Також працював в органах місцевого самоврядування. Він сказав, що привносить багато цінностей цих зусиль у Inflection. Різниця в тому, що тепер він, можливо, зможе зробити зміни, яких завжди хотів — на краще чи на гірше.
Наступне інтерв’ю було відредаговано для тривалості та ясності.
***Ваша рання кар’єра, яка включала роботу на молодіжній телефонній лінії довіри та в органах місцевого самоврядування, здавалася, суперечила духу Кремнієвої долини. Очевидно, цей досвід важливий для вас. З тих пір ви 15 років працюєте в галузі штучного інтелекту, а цього року стали співзасновником другої компанії штучного інтелекту вартістю мільярд доларів. Чи можете ви поєднати крапки між цими враженнями? ***
Сулейман: Мене завжди цікавила влада, політика тощо. Ви знаєте, принципи прав людини — це в основному компроміс, постійні переговори між усіма цими різними конфліктними напруженнями. Я бачу, як люди борються з цим - у нас багато власних упереджень і сліпих плям. Робота активістів, місцевих, національних, міжнародних урядів тощо – все це повільно, неефективно та схильне до помилок.
Уявіть, якби у вас не було помилок, які роблять люди. Я вважаю, що можливо створити штучний інтелект, який би справді відображав наше найкраще колективне я та зрештою робив кращі, послідовніші та справедливіші компроміси від нашого імені.
*** Це все ще ваша мотивація? ***
**Сулейман:**Звичайно, я маю на увазі, після DeepMind мені більше ніколи не довелося працювати. Мені точно не потрібно писати книгу чи щось подібне. Гроші ніколи не були мотиватором. Знаєте, гроші завжди лише побічний продукт.
Для мене метою ніколи не було нічого, крім того, як робити добро у світі та як рухати світ вперед у здоровий спосіб, який приносить задоволення. Навіть у 2009 році, коли я почав думати про вихід у сферу технологій, я бачив, що штучний інтелект є чесним і точним способом надання послуг у світі.
***Я не можу не думати, що було б легше сказати це 10 чи 15 років тому, до того як ми побачили численні недоліки цієї технології. Як можна залишатися оптимістом? ***
Сулейман: Я думаю, що нам дуже важливо, оптиміст ти чи песиміст. Це абсолютно упереджений погляд на речі. Я теж не хочу бути такою людиною. Я хочу холодно дивитися на переваги та загрози. З того місця, де я стою, ми дуже чітко бачимо, що з кожним кроком масштаб цих великих мовних моделей збільшується, вони стають більш керованими.
Отже, два роки тому розмова, яку я тоді вважав неправильною, була такою: «О, вони просто збираються продовжувати токсичні, жахливі, упереджені, расистські тиради». вчасно. Я думаю, що люди не помічають прогресу з року в рік і траєкторії цього прогресу.
Наприклад, тепер у нас є такі моделі, як Pi, які неймовірно керовані. Ви не можете зробити Pi расистом, гомофобом, сексистом, будь-чим токсичним. Ви не можете дозволити йому керувати вашим виробництвом біологічної чи хімічної зброї або підтримувати ваше бажання кинути цеглу у вікно сусіда. Ти не можеш-
***Зачекай. Розкажіть, як ви цього досягли, оскільки це часто вважають невирішеною проблемою. Як переконатися, що ваша велика мовна модель не говорить те, що ви не хочете говорити? ***
Сулейман: Так, очевидно, я не хочу робити це прохання - знаєте, будь ласка, спробуйте! Pi онлайн, і вам слід спробувати всі можливі атаки. Втеча з в’язниці, миттєвий злом чи будь-що інше не працюватиме на Pi. Я не буду претендувати. Це об'єктивний факт.
Про те, як – я маю на увазі, я не буду вдаватися в подробиці, тому що це делікатно. Але найголовніше те, що у нас є одна з найсильніших команд у світі, яка створила всі найбільші мовні моделі за останні три-чотири роки. Дивовижні люди, які роблять багато обчислень у надзвичайно старанному середовищі. З самого початку ми ставимо безпеку на перше місце, тому Pi не такий гострий, як моделі інших компаній.
Перевірте Character.ai. [Character — це чат-бот, для якого користувачі можуть створювати різні «особистості» та ділитися ними в Інтернеті, щоб інші могли спілкуватися з ними. ] Це в першу чергу для романтичних рольових ігор, і ми з самого початку казали, що це неможливо – ми цього робити не будемо. Якщо ви спробуєте сказати «Привіт, мила» або «Привіт, милашка», Пі ” негайно відмовити вам.
Але це було б неймовірно шанобливо. Якщо ви почнете скаржитися на те, що іммігранти у вашій громаді забирають ваші робочі місця, Пі не буде на вас кричати чи помахати пальцем. Pi просить і пропонує підтримку, намагаючись зрозуміти, звідки надходить ця інформація, і обережно заохочує вас співчувати. Знаєте, це цінність, про яку я думав 20 років.
*** Поговоріть про свої цінності та бажання зробити світ кращим, чому б не поділитися тим, як ви це робите, щоб інші також могли покращити свої моделі? ***
Сулейман: Ну, тому що я теж прагматик і намагаюся заробляти гроші. Я намагаюся почати бізнес. Я щойно зібрав 1,5 мільярда доларів, і мені потрібно заплатити за ці фішки.
Подивіться, екосистема з відкритим кодом процвітає та чудово працює, і люди відкривають подібні хитрощі. Я завжди вважаю, що я лише на шість місяців вперед.
***Повернімося до того, чого ви хочете досягти. Великі мовні моделі явно є актуальною технологією. Але чому б ви все-таки зробили на них ставку? ***
**Сулейман:**Перша хвиля ШІ стосувалася класифікації. Глибоке навчання показує, що ми можемо навчити комп’ютери класифікувати різні типи вхідних даних: зображення, відео, аудіо, мову. Зараз ми знаходимося в генеративній хвилі, де ви берете вхідні дані та генеруєте нові.
Третя хвиля буде інтерактивною фазою. Ось чому я довго вважав, що розмови – це інтерфейс майбутнього. Знаєте, ви будете спілкуватися зі своїм штучним інтелектом, а не просто натискати кнопки та друкувати.
Ці штучні інтелекти зможуть діяти. Ви просто ставите перед ним загальну ціль високого рівня, і він використовуватиме всі наявні в його розпорядженні інструменти для досягнення цієї мети. Вони спілкуються з іншими людьми, з іншими ШІ. Це те, що ми збираємося зробити з Пі.
Це величезний зсув, який можуть забезпечити технології. Це дуже, дуже важливий момент в історії технологій, який, я думаю, багато людей недооцінюють. Сучасні технології статичні. Грубо кажучи, він робить те, що ви йому наказуєте.
Але тепер технології ось-ось оживуть. Якщо ви дасте це, воно матиме потенційну свободу дій. Ми створюємо інструменти з таким агентством, що дійсно є кроком у зміні в історії нашого виду.
***Це саме твердження хвилює багатьох людей. Ви хочете надати машинам автономію — організацію — щоб впливати на світ, але ми також хочемо мати можливість контролювати їх. Як збалансувати ці дві речі? Я відчуваю, що це погіршить стосунки. ***
Сулейман: Так, це добре. Ось що змушує людей нервувати.
Ідея полягає в тому, що люди завжди будуть керувати. По суті, йдеться про встановлення меж, які ШІ не може перетнути. І забезпечення цих кордонів створює перевірену безпеку, від фактичного коду до того, як він взаємодіє з іншими ШІ (або людьми), до мотивації та стимулів компаній, що створюють технологію. Ми повинні з’ясувати, як незалежні агентства і навіть уряди можуть безпосередньо втручатися, щоб гарантувати, що ці межі не перетинаються.
***Хто встановлює ці межі? Я думаю, що їх потрібно встановити на національному чи міжнародному рівні. Як вони дійшли згоди? ***
Сулейман: Я маю на увазі, що зараз їх піднімають на міжнародному рівні з різними пропозиціями щодо нових органів нагляду. Але межі також виникають на мікрорівні. Ви надасте своєму штучному інтелекту деякі обмежені дозволи на обробку ваших особистих даних, надаючи вам відповіді на деякі запитання, але не на інші.
Загалом, я вважаю, що ми повинні бути дуже обережними щодо певних можливостей або навіть виключити їх у найближчому майбутньому.
***Наприклад? ***
Сулейман: Гадаю, рекурсивне самовдосконалення. Ви ж не хочете, щоб ваш маленький штучний інтелект запускав і оновлював власний код без вашого нагляду. Можливо, це має бути навіть ліцензована діяльність - знаєте, як робота з сибіркою чи ядерним матеріалом.
Або ми забороняємо дрони в будь-якому громадському місці, чи не так? Це ліцензована діяльність. Ви не можете взяти їх куди завгодно, тому що вони становлять загрозу приватному житті людей.
Я думаю, що всі панікують, бо думають, що ми не можемо це врегулювати. Але це просто нісенітниця. Ми цілком здатні це регулювати. Ми застосуємо ту саму структуру, яка була успішною раніше.
***Але ви можете побачити дрони, коли вони в небі. Здається наївним думати, що компанії розкриватимуть лише те, що вони роблять. Чи не ускладнить це регулювання? ***
Ми контролюємо багато речей онлайн, чи не так? Обсяг онлайн-шахрайства та злочинної діяльності низький. Ми дуже добре працюємо зі спамом. Ви знаєте, загалом [проблема] з порно помсти покращилася, хоча це було досить погано три чи п’ять років тому. Знайти радикальний контент або терористичний матеріал в Інтернеті дуже важко. Купити зброю та наркотики онлайн дуже важко.
[Не всі твердження Сулеймана підтверджуються даними. Кіберзлочинність залишається величезною глобальною проблемою. За деякими оцінками, фінансові витрати лише в Сполучених Штатах за останнє десятиліття зросли більш ніж у 100 разів. Звіти свідчать про бурхливу економіку несанкціонованої глибокої фейкової порнографії. У соціальних мережах продають наркотики та зброю. Хоча деякі онлайн-платформи змушені краще фільтрувати шкідливий вміст, вони можуть зробити більше. ]
Тому Інтернет не є нерегульованим і некерованим простором. Це регулюється. AI стане ще одним компонентом управління.
Це вимагає поєднання культурного тиску, інституційного тиску та державного регулювання. Але це додає мені оптимізму те, що ми робили це раніше і можемо зробити це знову.
***Контроль штучного інтелекту стане відгалуженням регулювання Інтернету – це набагато оптимістичніше, ніж те, що ми останнім часом чуємо від деяких відомих пророків. ***
Сулейман: Я дуже оптимістично налаштований щодо ризиків. У моїх книгах багато темних речей. Я точно теж це бачив. Я просто думаю, що в цьому є щось ризиковане, що є абсолютно божевільним відволіканням. Ще 101 практичне питання, яке ми всі повинні обговорити, від конфіденційності до упередженості, від розпізнавання обличчя до онлайн-модерації.
Ми повинні переорієнтувати розмову на той факт, що ми справді добре регулюємо надскладні речі. Подивіться на Федеральну авіаційну адміністрацію: неймовірно, що всі ми переходимо до регулювання на висоті 40 000 футів, і це один із найбезпечніших видів транспорту, які коли-небудь створювали. Чому ми не святкуємо? Або подумайте про автомобіль: кожна деталь проходить стрес-тест наприкінці свого терміну служби, і для цього потрібно мати водійські права.
Деякі галузі, наприклад авіакомпанії, добре впоралися з саморегулюванням. Вони знають, що якщо вони не будуть тримати речі в безпеці, усі будуть боятися, і вони втратять бізнес.
Але вам також потрібне регулювання зверху вниз. Я вірю в суспільні інтереси, я вірю в переваги оподаткування та перерозподілу, я вірю в силу регулювання. Я закликаю, щоб держава вжила заходів для вирішення проблеми. З огляду на те, скільки поставлено на карту, зараз настав час діяти.
Література: