DeepMind — исследовательская компания в области искусственного интеллекта, основанная в 2010 году со штаб-квартирой в Лондоне, Великобритания. Компания разрабатывает и исследует системы общего искусственного интеллекта (AGI), целью которых является дать компьютерам возможность учиться и рассуждать, как люди.
Одним из самых известных достижений DeepMind является разработанная в 2016 году программа AlphaGo, которая победила чемпиона мира Ли Седоля в игре Го и привлекла всеобщее внимание. Это достижение демонстрирует потенциал ИИ в решении сложных задач и делает DeepMind одной из ведущих компаний в области ИИ.
В 2014 году компания DeepMind была приобретена Google, но она сохраняет относительно независимую деятельность и продолжает проводить передовые исследования в области искусственного интеллекта.
Источник изображения: Создано Unbounded AI
Соучредитель DeepMind Мустафа Сулейман хотел создать чат-бота, который можно было бы использовать не только для общения. В недавнем разговоре с ним он сказал мне, что генеративный ИИ — это всего лишь этап. Далее идет интерактивный ИИ: роботы, которые могут выполнять поставленные вами задачи, вызывая другое программное обеспечение и других людей. Он также призвал к ужесточению регулирования ИИ, утверждая, что добиться этого будет несложно.
Сулейман не единственный, кто говорит о будущем, наполненном более автономным программным обеспечением. Но в отличие от большинства людей, он владеет новой компанией Inflection стоимостью в миллиарды долларов, в которую входит группа лучших специалистов в области ИИ, выбранных из DeepMind, Meta и OpenAI, а также достиг соглашения с Nvidia, крупнейшим производителем ИИ-чипов. . Сулейман практикует то, что проповедует, и вложил много денег.
Сулейман покинул DeepMind, а затем перешел в Google, чтобы возглавить команду, занимающуюся политикой в области искусственного интеллекта. В 2022 году он основал Inflection, одну из самых популярных новых компаний в области искусственного интеллекта. Она поддерживается инвестициями в размере 1,5 миллиарда долларов США от Microsoft, NVIDIA, Билла Гейтса и основателя LinkedIn Рида Хоффмана, став единственной компанией с крупнейшим масштабом финансирования. в ОпенАИ. Ранее в этом году он выпустил Pi, конкурента ChatGPT. Он только что написал в соавторстве с писателем и исследователем Майклом Бхаскаром книгу о будущем искусственного интеллекта под названием «Грядущая волна: технологии, мощь и величайшие дилеммы 21 века».
Многие посмеялись бы над технологическим оптимизмом Сулеймана, даже над его наивностью. Например, некоторые из его заявлений об успехе онлайн-полицейской деятельности кажутся неуместными. Но он оставался убежденным, что его убеждения были искренними и евангелистскими.
Действительно, у Сулеймана необычное прошлое технического мультимиллионера. В 19 лет он бросил колледж и основал горячую линию для мусульманской молодежи, которая предоставляет консультации по телефону. Он также работал в местном самоуправлении. Он сказал, что привносит многие ценности из этих усилий в Inflection. Разница в том, что теперь он, возможно, сможет внести изменения, которых всегда хотел, – к лучшему или к худшему.
Невероятный прогресс в области искусственного интеллекта ошеломляет и растет в геометрической прогрессии. Речь, воображение, чтение, понимание языка, математика в начальной школе, генерация кода — все это приближается к человеческому уровню или превосходит его в этих областях. —— Мустафа Сулейман
Следующее интервью было отредактировано для обеспечения длины и ясности.
***Ваша ранняя карьера, которая включала работу на линии помощи молодежи и в местном самоуправлении, казалось, противоречила идеалам Кремниевой долины. Очевидно, что этот опыт важен для вас. С тех пор вы работаете в сфере искусственного интеллекта уже 15 лет и в этом году стали соучредителем своей второй компании в области искусственного интеллекта с оборотом в миллиард долларов. Можете ли вы соединить точки между этими событиями? ***
Сулейман: Меня всегда интересовала власть, политика и т. д. Знаете, принципы прав человека – это, по сути, компромисс, постоянные переговоры между всеми этими различными конфликтными ситуациями. Я вижу, как люди борются с этим — мы полны собственных предубеждений и слепых зон. Работа активистов, местных, национальных, международных правительств и т. д. – все это медленно, неэффективно и подвержено ошибкам.
Представьте, если бы у вас не было ошибок, которые совершают люди. Я думаю, что возможно создать ИИ, который действительно отражает наши лучшие коллективные качества и в конечном итоге обеспечивает лучшие, более последовательные и более справедливые компромиссы от нашего имени.
***Это все еще твоя мотивация? ***
**Сулейман:**Конечно, я имею в виду, что после DeepMind мне больше никогда не приходилось работать. Мне, конечно, не нужно писать книгу или что-то в этом роде. Деньги никогда не были мотиватором. Знаете, деньги – это всегда всего лишь побочный продукт.
Для меня целью никогда не было ничего, кроме как творить добро в мире и как продвигать мир вперед здоровым и приносящим удовлетворение способом. Еще в 2009 году, когда я начал подумывать о том, чтобы заняться технологиями, я увидел, что ИИ представляет собой справедливый и точный способ предоставления услуг по всему миру.
***Не могу не думать, что было бы легче сказать это 10 или 15 лет назад, до того, как мы увидели множество недостатков этой технологии. Как оставаться оптимистом? ***
Сулейман: Думаю, нас очень волнует, оптимист вы или пессимист. Это совершенно предвзятый взгляд на вещи. Я тоже не хочу быть таким человеком. Я хочу смотреть на преимущества и угрозы хладнокровно. С моей точки зрения мы очень ясно видим, что с каждым шагом масштаб этих больших языковых моделей увеличивается, они становятся более управляемыми.
Итак, два года назад разговор, который я тогда считал неправильным, звучал так: «О, они просто будут продолжать токсичные, вызывающие тошноту, предвзятые, расистские тирады». во времени. Я думаю, что люди упускают из виду прогресс из года в год и траекторию этого прогресса.
Например, теперь у нас есть такие модели, как Pi, которые невероятно управляемы. Вы не можете сделать Пи расистом, гомофобом, сексистом или чем-то токсичным. Вы не можете позволить ему руководить вашим производством биологического или химического оружия или поддерживать ваше желание бросить кирпич в окно соседа. Ты не можешь-
***Подожди. Расскажите, как вы этого добились, поскольку часто это считают нерешённой проблемой. Как гарантировать, что ваша большая языковая модель не говорит того, чего вы не хотите говорить? ***
Сулейман: Да, очевидно, я не хочу обращаться с такой просьбой — ну, пожалуйста, попробуйте! Пи в сети, и вам следует попробовать все возможные атаки. Взлом джейлбрейка, мгновенный взлом или что-то еще не сработает на Pi. Я не буду предъявлять претензии. Это объективный факт.
О том, как... я имею в виду, я не буду вдаваться в подробности, потому что это деликатно. Но самое главное — у нас одна из сильнейших команд в мире, создавшая все крупнейшие языковые модели за последние три-четыре года. Удивительные люди, выполняющие множество вычислений в чрезвычайно кропотливой обстановке. Мы с самого начала ставим безопасность на первое место, поэтому Pi не такой острый, как модели других компаний.
Проверьте Персонаж.ай. [Персонаж — это чат-бот, для которого пользователи могут создавать разные «личности» и делиться ими в Интернете, чтобы другие могли с ними общаться. ] Это в первую очередь для романтических ролевых игр, и мы с самого начала говорили, что это невозможно — мы не будем этого делать. Если вы попытаетесь сказать Пи «Привет, милый» или «Привет, милашка», и это немедленно отвергнуть вас.
Но это было бы невероятно уважительно. Если вы начнете жаловаться на иммигрантов в вашем районе, которые отнимают вашу работу, Пи не будет кричать на вас или грозить пальцем. Пи спрашивает и предлагает поддержку, пытаясь понять, откуда взялась эта информация, и мягко побуждает вас сопереживать. Знаете, это ценность, о которой я думаю уже 20 лет.
*** Расскажите о своих ценностях и желании сделать мир лучше. Почему бы не рассказать, как вы это делаете, чтобы другие тоже могли улучшить свои модели? ***
Сулейман: Ну, потому что я тоже прагматик и пытаюсь зарабатывать деньги. Я пытаюсь начать бизнес. Я только что собрал 1,5 миллиарда долларов, и мне нужно заплатить за эти фишки.
Посмотрите, экосистема с открытым исходным кодом процветает и отлично справляется со своей задачей, и люди открывают для себя подобные трюки. Я всегда предполагаю, что забегаю всего на шесть месяцев вперед.
***Давайте вернемся к тому, чего вы хотите достичь. Большие языковые модели, очевидно, являются современной технологией. Но почему вы все еще делаете ставку на них? ***
**Сулейман:**Первая волна ИИ была связана с классификацией. Глубокое обучение показывает, что мы можем научить компьютеры классифицировать различные типы входных данных: изображения, видео, аудио, язык. Сейчас мы находимся в генеративной волне, когда вы берете входные данные и генерируете новые данные.
Третья волна будет интерактивной. Вот почему я долгое время считал, что разговоры — это интерфейс будущего. Знаете, вы будете разговаривать со своим ИИ, а не просто нажимать кнопки и печатать.
Эти ИИ смогут действовать. Вы просто даете ему общую цель высокого уровня, и он будет использовать все имеющиеся в его распоряжении инструменты для достижения этой цели. Они разговаривают с другими людьми, с другими ИИ. Это то, что мы собираемся сделать с Пи.
Это огромный сдвиг, который могут сделать технологии. Это очень, очень глубокий момент в истории технологий, который, я думаю, многие недооценивают. Сегодняшние технологии статичны. Грубо говоря, он делает то, что вы ему говорите.
Но теперь технологии вот-вот оживут. Если вы дадите его, у него появится потенциальная свобода действий. Мы создаем инструменты с помощью такого рода деятельности, что на самом деле является шагом вперед в истории нашего вида.
***Именно это утверждение беспокоит многих людей. Вы хотите дать машинам автономию — возможность влиять на мир, но мы также хотим иметь возможность их контролировать. Как сбалансировать эти две вещи? Я чувствую, что это обострит отношения. ***
Сулейман: Да, это хороший момент. Вот что заставляет людей нервничать.
Идея состоит в том, что люди всегда будут командовать. По сути, речь идет об установлении границ, которые ИИ не может пересечь. И обеспечение этих границ создает доказуемую безопасность — от фактического кода до того, как он взаимодействует с другими ИИ (или людьми), до мотивации и стимулов компаний, создающих технологию. Нам следует выяснить, как независимые агентства и даже правительства могут напрямую вмешаться, чтобы гарантировать, что эти границы не будут пересечены.
***Кто устанавливает эти границы? Я думаю, что их необходимо установить на национальном или международном уровне. Как они пришли к соглашению? ***
Сулейман: Я имею в виду, что сейчас они поднимаются на международном уровне со всевозможными предложениями относительно новых надзорных органов. Но границы также играют роль на микроуровне. Вы предоставите своему ИИ некоторые ограниченные разрешения на обработку ваших личных данных, предоставляя вам ответы на некоторые вопросы, но не на другие.
В целом, я думаю, нам следует быть очень осторожными или даже исключать определенные возможности в обозримом будущем.
***Например? ***
Сулейман: Думаю, это что-то вроде рекурсивного самосовершенствования. Вы не хотите, чтобы ваш маленький ИИ запускался и обновлял свой собственный код без вашего присмотра. Может быть, это даже должна быть лицензируемая деятельность, например, работа с сибирской язвой или ядерными материалами.
Или мы не разрешаем использование дронов в общественных местах, верно? Это лицензируемая деятельность. Вы не можете взять их с собой куда угодно, потому что они представляют угрозу частной жизни людей.
Я думаю, что все паникуют, потому что думают, что мы не можем это регулировать. Но это просто ерунда. Мы вполне способны это регулировать. Мы будем применять ту же структуру, которая была успешной раньше.
***Но дроны можно увидеть, когда они в небе. Кажется наивным думать, что компании будут раскрывать только то, что они производят. Не усложнит ли это регулирование? ***
Мы следим за многими вещами в Интернете, верно? Количество онлайн-мошенничества и преступной деятельности невелико. Мы очень хорошо справляемся со спамом. Знаете, в целом [проблема] с порноместью улучшилась, хотя три-пять лет назад все было довольно плохо. Найти радикальный контент или террористические материалы в Интернете очень сложно. Купить оружие и наркотики онлайн очень сложно.
[Не все утверждения Сулеймана подтверждены данными. Киберпреступность остается огромной глобальной проблемой. По некоторым оценкам, только в США финансовые затраты за последнее десятилетие выросли более чем в 100 раз. Отчеты свидетельствуют о бурном развитии экономики дипфейковой порнографии без согласия. В социальных сетях продаются наркотики и оружие. Хотя некоторые онлайн-платформы вынуждены лучше фильтровать вредоносный контент, они могут сделать больше. ]
Таким образом, Интернет не является нерегулируемым и неуправляемым пространством. Это регулируется. ИИ станет еще одним компонентом управления.
Это требует сочетания культурного давления, институционального давления и государственного регулирования. Но меня вселяет оптимизм то, что мы делали это раньше и можем сделать это снова.
***Контроль над искусственным интеллектом станет ответвлением регулирования Интернета, что гораздо более оптимистично, чем то, что мы слышали в последнее время от некоторых известных предсказателей пессимизма. ***
Сулейман: Я очень оптимистично смотрю на риски. В моих книгах много темного. Я тоже это определенно видел. Я просто думаю, что в этом есть что-то рискованное, это совершенно безумное отвлечение. Еще 101 практический вопрос, который нам всем следует обсудить: от конфиденциальности до предвзятости, от распознавания лиц до онлайн-модерации.
Нам следует переориентировать разговор на тот факт, что мы действительно хорошо справляемся с регулированием сверхсложных вещей. Посмотрите на Федеральное управление гражданской авиации: невероятно, что мы все входим в правила на высоте 40 000 футов, и это один из самых безопасных видов транспорта, когда-либо созданных. Почему бы нам не праздновать? Или подумайте об автомобиле: каждая его деталь в конце срока службы проходит стресс-тесты, и для этого нужно иметь водительские права.
Некоторые отрасли, такие как авиакомпании, с самого начала проделали хорошую работу по саморегулированию. Они знают, что если не обеспечат безопасность, все испугаются, и они потеряют бизнес.
Но вам также необходимо регулирование сверху вниз. Я верю в общественные интересы, я верю в преимущества налогообложения и перераспределения, я верю в силу регулирования. Я призываю государство принять меры для решения этой проблемы. Учитывая, как много поставлено на карту, сейчас самое время действовать.
Использованная литература:
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Эксклюзивное интервью с основателем DeepMind: Генеративный ИИ — это всего лишь этап, следующий шаг — интерактивный ИИ
Первоисточник: Инновационная лаборатория AGI.
Соучредитель DeepMind Мустафа Сулейман хотел создать чат-бота, который можно было бы использовать не только для общения. В недавнем разговоре с ним он сказал мне, что генеративный ИИ — это всего лишь этап. Далее идет интерактивный ИИ: роботы, которые могут выполнять поставленные вами задачи, вызывая другое программное обеспечение и других людей. Он также призвал к ужесточению регулирования ИИ, утверждая, что добиться этого будет несложно.
Сулейман не единственный, кто говорит о будущем, наполненном более автономным программным обеспечением. Но в отличие от большинства людей, он владеет новой компанией Inflection стоимостью в миллиарды долларов, в которую входит группа лучших специалистов в области ИИ, выбранных из DeepMind, Meta и OpenAI, а также достиг соглашения с Nvidia, крупнейшим производителем ИИ-чипов. . Сулейман практикует то, что проповедует, и вложил много денег.
Сулейман покинул DeepMind, а затем перешел в Google, чтобы возглавить команду, занимающуюся политикой в области искусственного интеллекта. В 2022 году он основал Inflection, одну из самых популярных новых компаний в области искусственного интеллекта. Она поддерживается инвестициями в размере 1,5 миллиарда долларов США от Microsoft, NVIDIA, Билла Гейтса и основателя LinkedIn Рида Хоффмана, став единственной компанией с крупнейшим масштабом финансирования. в ОпенАИ. Ранее в этом году он выпустил Pi, конкурента ChatGPT. Он только что написал в соавторстве с писателем и исследователем Майклом Бхаскаром книгу о будущем искусственного интеллекта под названием «Грядущая волна: технологии, мощь и величайшие дилеммы 21 века».
Многие посмеялись бы над технологическим оптимизмом Сулеймана, даже над его наивностью. Например, некоторые из его заявлений об успехе онлайн-полицейской деятельности кажутся неуместными. Но он оставался убежденным, что его убеждения были искренними и евангелистскими.
Действительно, у Сулеймана необычное прошлое технического мультимиллионера. В 19 лет он бросил колледж и основал горячую линию для мусульманской молодежи, которая предоставляет консультации по телефону. Он также работал в местном самоуправлении. Он сказал, что привносит многие ценности из этих усилий в Inflection. Разница в том, что теперь он, возможно, сможет внести изменения, которых всегда хотел, – к лучшему или к худшему.
Следующее интервью было отредактировано для обеспечения длины и ясности.
***Ваша ранняя карьера, которая включала работу на линии помощи молодежи и в местном самоуправлении, казалось, противоречила идеалам Кремниевой долины. Очевидно, что этот опыт важен для вас. С тех пор вы работаете в сфере искусственного интеллекта уже 15 лет и в этом году стали соучредителем своей второй компании в области искусственного интеллекта с оборотом в миллиард долларов. Можете ли вы соединить точки между этими событиями? ***
Сулейман: Меня всегда интересовала власть, политика и т. д. Знаете, принципы прав человека – это, по сути, компромисс, постоянные переговоры между всеми этими различными конфликтными ситуациями. Я вижу, как люди борются с этим — мы полны собственных предубеждений и слепых зон. Работа активистов, местных, национальных, международных правительств и т. д. – все это медленно, неэффективно и подвержено ошибкам.
Представьте, если бы у вас не было ошибок, которые совершают люди. Я думаю, что возможно создать ИИ, который действительно отражает наши лучшие коллективные качества и в конечном итоге обеспечивает лучшие, более последовательные и более справедливые компромиссы от нашего имени.
***Это все еще твоя мотивация? ***
**Сулейман:**Конечно, я имею в виду, что после DeepMind мне больше никогда не приходилось работать. Мне, конечно, не нужно писать книгу или что-то в этом роде. Деньги никогда не были мотиватором. Знаете, деньги – это всегда всего лишь побочный продукт.
Для меня целью никогда не было ничего, кроме как творить добро в мире и как продвигать мир вперед здоровым и приносящим удовлетворение способом. Еще в 2009 году, когда я начал подумывать о том, чтобы заняться технологиями, я увидел, что ИИ представляет собой справедливый и точный способ предоставления услуг по всему миру.
***Не могу не думать, что было бы легче сказать это 10 или 15 лет назад, до того, как мы увидели множество недостатков этой технологии. Как оставаться оптимистом? ***
Сулейман: Думаю, нас очень волнует, оптимист вы или пессимист. Это совершенно предвзятый взгляд на вещи. Я тоже не хочу быть таким человеком. Я хочу смотреть на преимущества и угрозы хладнокровно. С моей точки зрения мы очень ясно видим, что с каждым шагом масштаб этих больших языковых моделей увеличивается, они становятся более управляемыми.
Итак, два года назад разговор, который я тогда считал неправильным, звучал так: «О, они просто будут продолжать токсичные, вызывающие тошноту, предвзятые, расистские тирады». во времени. Я думаю, что люди упускают из виду прогресс из года в год и траекторию этого прогресса.
Например, теперь у нас есть такие модели, как Pi, которые невероятно управляемы. Вы не можете сделать Пи расистом, гомофобом, сексистом или чем-то токсичным. Вы не можете позволить ему руководить вашим производством биологического или химического оружия или поддерживать ваше желание бросить кирпич в окно соседа. Ты не можешь-
***Подожди. Расскажите, как вы этого добились, поскольку часто это считают нерешённой проблемой. Как гарантировать, что ваша большая языковая модель не говорит того, чего вы не хотите говорить? ***
Сулейман: Да, очевидно, я не хочу обращаться с такой просьбой — ну, пожалуйста, попробуйте! Пи в сети, и вам следует попробовать все возможные атаки. Взлом джейлбрейка, мгновенный взлом или что-то еще не сработает на Pi. Я не буду предъявлять претензии. Это объективный факт.
О том, как... я имею в виду, я не буду вдаваться в подробности, потому что это деликатно. Но самое главное — у нас одна из сильнейших команд в мире, создавшая все крупнейшие языковые модели за последние три-четыре года. Удивительные люди, выполняющие множество вычислений в чрезвычайно кропотливой обстановке. Мы с самого начала ставим безопасность на первое место, поэтому Pi не такой острый, как модели других компаний.
Проверьте Персонаж.ай. [Персонаж — это чат-бот, для которого пользователи могут создавать разные «личности» и делиться ими в Интернете, чтобы другие могли с ними общаться. ] Это в первую очередь для романтических ролевых игр, и мы с самого начала говорили, что это невозможно — мы не будем этого делать. Если вы попытаетесь сказать Пи «Привет, милый» или «Привет, милашка», и это немедленно отвергнуть вас.
Но это было бы невероятно уважительно. Если вы начнете жаловаться на иммигрантов в вашем районе, которые отнимают вашу работу, Пи не будет кричать на вас или грозить пальцем. Пи спрашивает и предлагает поддержку, пытаясь понять, откуда взялась эта информация, и мягко побуждает вас сопереживать. Знаете, это ценность, о которой я думаю уже 20 лет.
*** Расскажите о своих ценностях и желании сделать мир лучше. Почему бы не рассказать, как вы это делаете, чтобы другие тоже могли улучшить свои модели? ***
Сулейман: Ну, потому что я тоже прагматик и пытаюсь зарабатывать деньги. Я пытаюсь начать бизнес. Я только что собрал 1,5 миллиарда долларов, и мне нужно заплатить за эти фишки.
Посмотрите, экосистема с открытым исходным кодом процветает и отлично справляется со своей задачей, и люди открывают для себя подобные трюки. Я всегда предполагаю, что забегаю всего на шесть месяцев вперед.
***Давайте вернемся к тому, чего вы хотите достичь. Большие языковые модели, очевидно, являются современной технологией. Но почему вы все еще делаете ставку на них? ***
**Сулейман:**Первая волна ИИ была связана с классификацией. Глубокое обучение показывает, что мы можем научить компьютеры классифицировать различные типы входных данных: изображения, видео, аудио, язык. Сейчас мы находимся в генеративной волне, когда вы берете входные данные и генерируете новые данные.
Третья волна будет интерактивной. Вот почему я долгое время считал, что разговоры — это интерфейс будущего. Знаете, вы будете разговаривать со своим ИИ, а не просто нажимать кнопки и печатать.
Эти ИИ смогут действовать. Вы просто даете ему общую цель высокого уровня, и он будет использовать все имеющиеся в его распоряжении инструменты для достижения этой цели. Они разговаривают с другими людьми, с другими ИИ. Это то, что мы собираемся сделать с Пи.
Это огромный сдвиг, который могут сделать технологии. Это очень, очень глубокий момент в истории технологий, который, я думаю, многие недооценивают. Сегодняшние технологии статичны. Грубо говоря, он делает то, что вы ему говорите.
Но теперь технологии вот-вот оживут. Если вы дадите его, у него появится потенциальная свобода действий. Мы создаем инструменты с помощью такого рода деятельности, что на самом деле является шагом вперед в истории нашего вида.
***Именно это утверждение беспокоит многих людей. Вы хотите дать машинам автономию — возможность влиять на мир, но мы также хотим иметь возможность их контролировать. Как сбалансировать эти две вещи? Я чувствую, что это обострит отношения. ***
Сулейман: Да, это хороший момент. Вот что заставляет людей нервничать.
Идея состоит в том, что люди всегда будут командовать. По сути, речь идет об установлении границ, которые ИИ не может пересечь. И обеспечение этих границ создает доказуемую безопасность — от фактического кода до того, как он взаимодействует с другими ИИ (или людьми), до мотивации и стимулов компаний, создающих технологию. Нам следует выяснить, как независимые агентства и даже правительства могут напрямую вмешаться, чтобы гарантировать, что эти границы не будут пересечены.
***Кто устанавливает эти границы? Я думаю, что их необходимо установить на национальном или международном уровне. Как они пришли к соглашению? ***
Сулейман: Я имею в виду, что сейчас они поднимаются на международном уровне со всевозможными предложениями относительно новых надзорных органов. Но границы также играют роль на микроуровне. Вы предоставите своему ИИ некоторые ограниченные разрешения на обработку ваших личных данных, предоставляя вам ответы на некоторые вопросы, но не на другие.
В целом, я думаю, нам следует быть очень осторожными или даже исключать определенные возможности в обозримом будущем.
***Например? ***
Сулейман: Думаю, это что-то вроде рекурсивного самосовершенствования. Вы не хотите, чтобы ваш маленький ИИ запускался и обновлял свой собственный код без вашего присмотра. Может быть, это даже должна быть лицензируемая деятельность, например, работа с сибирской язвой или ядерными материалами.
Или мы не разрешаем использование дронов в общественных местах, верно? Это лицензируемая деятельность. Вы не можете взять их с собой куда угодно, потому что они представляют угрозу частной жизни людей.
Я думаю, что все паникуют, потому что думают, что мы не можем это регулировать. Но это просто ерунда. Мы вполне способны это регулировать. Мы будем применять ту же структуру, которая была успешной раньше.
***Но дроны можно увидеть, когда они в небе. Кажется наивным думать, что компании будут раскрывать только то, что они производят. Не усложнит ли это регулирование? ***
Мы следим за многими вещами в Интернете, верно? Количество онлайн-мошенничества и преступной деятельности невелико. Мы очень хорошо справляемся со спамом. Знаете, в целом [проблема] с порноместью улучшилась, хотя три-пять лет назад все было довольно плохо. Найти радикальный контент или террористические материалы в Интернете очень сложно. Купить оружие и наркотики онлайн очень сложно.
[Не все утверждения Сулеймана подтверждены данными. Киберпреступность остается огромной глобальной проблемой. По некоторым оценкам, только в США финансовые затраты за последнее десятилетие выросли более чем в 100 раз. Отчеты свидетельствуют о бурном развитии экономики дипфейковой порнографии без согласия. В социальных сетях продаются наркотики и оружие. Хотя некоторые онлайн-платформы вынуждены лучше фильтровать вредоносный контент, они могут сделать больше. ]
Таким образом, Интернет не является нерегулируемым и неуправляемым пространством. Это регулируется. ИИ станет еще одним компонентом управления.
Это требует сочетания культурного давления, институционального давления и государственного регулирования. Но меня вселяет оптимизм то, что мы делали это раньше и можем сделать это снова.
***Контроль над искусственным интеллектом станет ответвлением регулирования Интернета, что гораздо более оптимистично, чем то, что мы слышали в последнее время от некоторых известных предсказателей пессимизма. ***
Сулейман: Я очень оптимистично смотрю на риски. В моих книгах много темного. Я тоже это определенно видел. Я просто думаю, что в этом есть что-то рискованное, это совершенно безумное отвлечение. Еще 101 практический вопрос, который нам всем следует обсудить: от конфиденциальности до предвзятости, от распознавания лиц до онлайн-модерации.
Нам следует переориентировать разговор на тот факт, что мы действительно хорошо справляемся с регулированием сверхсложных вещей. Посмотрите на Федеральное управление гражданской авиации: невероятно, что мы все входим в правила на высоте 40 000 футов, и это один из самых безопасных видов транспорта, когда-либо созданных. Почему бы нам не праздновать? Или подумайте об автомобиле: каждая его деталь в конце срока службы проходит стресс-тесты, и для этого нужно иметь водительские права.
Некоторые отрасли, такие как авиакомпании, с самого начала проделали хорошую работу по саморегулированию. Они знают, что если не обеспечат безопасность, все испугаются, и они потеряют бизнес.
Но вам также необходимо регулирование сверху вниз. Я верю в общественные интересы, я верю в преимущества налогообложения и перераспределения, я верю в силу регулирования. Я призываю государство принять меры для решения этой проблемы. Учитывая, как много поставлено на карту, сейчас самое время действовать.
Использованная литература: