Энергопотребление и потребление воды: кто может сэкономить потребление энергии ИИ?

Первоисточник: Чен Гэн рассказывает о технологиях

Источник изображения: Создано Unbounded AI‌

Сегодня, хотя большая модель искусственного интеллекта, представленная ChatGPT, принесла большие изменения в человеческое общество, она также вызывает споры из-за потребления энергии.

В последней публикации журнала The Economist говорится: «Высокопроизводительные вычислительные мощности, включая суперкомпьютеры, становятся основными потребителями энергии». **По данным Международного энергетического агентства, на центры обработки данных приходится от 1,5% до 2% мирового потребления электроэнергии, что примерно эквивалентно потреблению электроэнергии всей экономикой Великобритании. **Ожидается, что к 2030 году этот показатель вырастет до 4%.

**Искусственный интеллект потребляет не только электроэнергию, но и воду. ** Согласно экологическому отчету Google за 2023 год, в 2022 году он будет потреблять 5,6 миллиарда галлонов (около 21,2 миллиарда литров) воды, что эквивалентно воде 37 полей для гольфа. Из них 5,2 миллиарда галлонов пришлось на центры обработки данных компании, что на 20% больше, чем в 2021 году.

В условиях огромных затрат на потребление энергии искусственный интеллект (ИИ) хочет двигаться в будущее, а экономика стала настоящей проблемой, которую ChatGPT необходимо срочно решить. И если проблема энергопотребления должна быть решена, любые меры по оптимизации, основанные на существующих технологиях и архитектуре, остановят кипящую воду. В этом контексте прорыв в передовых технологиях может стать окончательным решением проблемы энергопотребления ИИ. дилемма. .

ИИ потребляет энергию

По сути вычислений, вычисления — это процесс преобразования данных из беспорядка в порядок, и этот процесс требует определенного количества затрат энергии.

С точки зрения только количества, согласно неполной статистике, около 5% мировой выработки электроэнергии в 2020 году будет использоваться для энергопотребления вычислений, и эта цифра может увеличиться примерно до 15%-25% к 2030 году, то есть, как говорится, что доля потребления электроэнергии в компьютерной отрасли будет на одном уровне с крупными энергоемкими отраслями, такими как промышленность.

В 2020 году энергопотребление дата-центров Китая превысит 200 миллиардов кВтч, что вдвое превысит совокупную выработку электроэнергии плотиной «Три ущелья» и электростанцией Гэчжоуба (около 100 миллиардов кВтч).

Фактически, для компьютерной индустрии стоимость электроэнергии также является основной стоимостью помимо стоимости чипа.

**Если потребляемая электроэнергия не производится за счет возобновляемых источников энергии, то будут наблюдаться выбросы углекислого газа. Вот почему модели машинного обучения также генерируют выбросы углекислого газа. ChatGPT не является исключением. **

Данные показывают, что тренировка GPT-3 потребляет 1287 МВтч (мегаватт-час), что эквивалентно выбросам 552 тонн углерода. В этом отношении исследователь устойчивых данных Каспар Людвигсен также проанализировал: «Большие выбросы GPT-3 можно частично объяснить тем фактом, что он был обучен на старом, менее эффективном оборудовании, но поскольку не существует стандартизированного способа измерения выбросов CO2, эти цифры основаны на оценках.Кроме того, стандарт того, какая часть этой части значения выбросов углерода должна быть выделена на обучение ChatGPT, также относительно расплывчат.Следует отметить, что, поскольку обучение с подкреплением само по себе требует дополнительных затрат, оно потребляет электроэнергию, поэтому углерод Выбросы, генерируемые ChatGPT на этапе обучения модели, должны быть больше этого значения». Рассчитанные только на 552 тонны выбросов, они эквивалентны годовому потреблению энергии 126 датскими домохозяйствами.

**На этапе эксплуатации, хотя энергозатратность действий людей при работе ChatGPT очень мала, он также может стать вторым по величине источником выбросов углекислого газа из-за того, что их может быть один миллиард раз в день. **

Соучредитель Databoxer Крис Болтон объяснил один метод расчета: «Во-первых, мы подсчитали, что каждое слово ответа занимает 0,35 секунды на графическом процессоре A100, предполагая, что 1 миллион пользователей с 10 вопросами на каждого пользователя, генерирующим 1000-10 000 ответов и 300 миллионов слов в день, каждый word составляет 0,35 секунды, можно подсчитать, что графический процессор A100 работает 29 167 часов в день».

Cloud Carbon Footprint указывает минимальное энергопотребление графического процессора A100 в центре обработки данных Azure (46 Вт) и максимальное энергопотребление (407 Вт). диапазон.

Крис Болтон сказал: «Коэффициент выбросов на западе Соединенных Штатов составляет 0,000322167 тонн/кВтч, поэтому здесь будет производиться 3,82 тонны эквивалента углекислого газа в день. Средний американец производит около 15 тонн эквивалента углекислого газа в год. Другими словами, это эквивалентно годовым выбросам углекислого газа 93 американцев.

Хотя «виртуальный» атрибут позволяет людям легко игнорировать «углеродные книги» цифровых продуктов, на самом деле Интернет уже давно является одной из крупнейших машин на планете, работающих на угле. **Исследование Беркли на тему энергопотребления и искусственного интеллекта утверждает, что искусственный интеллект практически съедает энергию. **

Например, предварительно обученная языковая модель Google T5 использовала 86 мегаватт электроэнергии и произвела 47 метрических тонн выбросов CO2; многораундовый чат-бот Google в открытом поле Meena использовал 232 мегаватта электроэнергии и произвел 96 метрических тонн выбросов CO2; Языковой перевод структура, разработанная Google — GShard использовала 24 мегаватта электроэнергии и произвела 4,3 метрических тонны выбросов углекислого газа; алгоритм маршрутизации Switch Transformer, разработанный Google, использовал 179 мегаватт электроэнергии и произвел 59 метрических тонн выбросов углекислого газа.

Вычислительная мощность, используемая в глубоком обучении, выросла в 300 000 раз в период с 2012 по 2018 год, что делает GPT-3 похожим на тот, который оказывает наибольшее воздействие на климат. Однако когда он работает одновременно с человеческим мозгом, потребление энергии человеческим мозгом составляет всего 0,002% от энергопотребления машины.

Не только потребляет электроэнергию, но и потребляет воду

Помимо огромного энергопотребления, искусственный интеллект также потребляет очень много воды.

Фактически, независимо от энергопотребления или потребления воды, оно неотделимо от цифрового центра, столпа цифрового мира. Глобальным центрам обработки данных, поскольку серверам и сетевому оборудованию, обеспечивающим работу Интернета и хранящим огромные объемы данных, требуется много энергии, а системы охлаждения являются одним из основных источников энергопотребления. **

Правда в том, что сверхбольшой центр обработки данных потребляет почти 100 миллионов киловатт-часов электроэнергии каждый год, а развитие генеративного искусственного интеллекта еще больше увеличило энергопотребление центра обработки данных. Поскольку для крупномасштабных моделей часто требуются десятки тысяч графических процессоров, период обучения может варьироваться от нескольких недель до нескольких месяцев, и для этого процесса требуется большое количество энергии.

Серверы дата-центров во время работы генерируют много тепловой энергии, а водяное охлаждение является наиболее распространенным методом для серверов, что, в свою очередь, приводит к огромному расходу воды. Данные показывают, что GPT-3 потребляет почти 700 тонн воды во время тренировки, а затем потребляет 500 миллилитров воды на каждые 20-50 ответов на вопросы.

Согласно исследованию Virginia Tech, центры обработки данных потребляют в среднем 401 тонну воды в день для охлаждения, что эквивалентно потреблению воды 100 000 домохозяйств. В 2022 году Meta использовала более 2,6 миллиона кубических метров (около 697 миллионов галлонов) воды, в основном для центров обработки данных. Его последняя крупномасштабная языковая модель «Лама 2» также требует много воды для обучения. Несмотря на это, в 2022 году пятая часть дата-центров Meta будет испытывать «дефицит воды».

Кроме того, это еще один важный инфраструктурный чип для искусственного интеллекта: процесс его производства также требует большого количества энергии и водных ресурсов. С точки зрения энергии, процесс производства чипов требует много энергии, особенно передовых чипов. В отчете «Прогноз энергопотребления и выбросов углерода в цепочке поставок бытовой электроники» международной экологической организации Greenpeace East Asia были изучены выбросы углекислого газа 13 ведущих компаний-производителей электроники в Восточной Азии, включая Samsung Electronics и TSMC, и говорится, что промышленность по производству электроники, особенно Полупроводниковая промышленность Выбросы углерода растут, а потребление электроэнергии в мировой полупроводниковой промышленности к 2030 году вырастет до 237 тераватт-часов.

С точки зрения потребления водных ресурсов, процесс изготовления кремниевых пластин требует очистки «сверхчистой водой», и чем выше процесс производства чипов, тем больше расход воды. Для производства 2-граммового компьютерного чипа требуется около 32 килограммов воды. Производство 8-дюймовых пластин потребляет около 250 тонн воды в час, а 12-дюймовых пластин может достигать 500 тонн.

** Годовая мощность TSMC составляет около 30 миллионов пластин, а производство чипов потребляет около 80 миллионов тонн воды. Адекватные водные ресурсы стали необходимым условием для развития промышленности по производству чипов. **В июле 2023 года Министерство экономики, торговли и промышленности Японии приняло решение о создании новой системы предоставления субсидий на строительство объектов, поставляющих техническую воду на заводы по производству полупроводников, чтобы обеспечить техническую воду, необходимую для производства полупроводников.

В долгосрочной перспективе продвижение и применение генеративного искусственного интеллекта и беспилотного вождения приведут к дальнейшему росту индустрии производства чипов, за которым последует большое потребление энергетических ресурсов.

**Кто может спасти ИИ от потребления энергии? **

Можно сказать, что сегодня потребление энергии стало слабостью, ограничивающей развитие ИИ. Согласно текущему техническому маршруту и модели развития, прогресс ИИ вызовет две проблемы:

**С одной стороны, масштаб дата-центра будет становиться все больше и больше, соответственно будет увеличиваться и его энергопотребление, а работа будет становиться все медленнее и медленнее. **

Очевидно, что с популяризацией приложений ИИ потребность ИИ в ресурсах центров обработки данных резко возрастет. Крупномасштабным центрам обработки данных требуется большое количество электроэнергии для работы серверов, устройств хранения данных и систем охлаждения. Это приводит к увеличению энергопотребления, а также поднимает вопросы стабильности энергоснабжения и воздействия на окружающую среду. Продолжающийся рост центров обработки данных может также оказать давление на поставки энергии, а зависимость от традиционных источников энергии для удовлетворения энергетических потребностей центров обработки данных может привести к росту цен на энергоносители и нестабильности поставок. Конечно, высокое энергопотребление центров обработки данных также оказывает воздействие на окружающую среду, включая выбросы CO2 и потребление энергии.

**С другой стороны, чипы искусственного интеллекта развиваются в сторону более высокой вычислительной мощности и высокой степени интеграции, полагаясь на производственные процессы для поддержки роста пиковой вычислительной мощности.По мере того, как производственные процессы становятся более совершенными, их энергопотребление и потребление воды также увеличиваются. **

Итак, перед лицом такого огромного потребления энергии ИИ, есть ли у нас лучший путь? Фактически, лучший способ решить техническую дилемму — это разработать новые технологии.

С одной стороны, прогресс ИИ в эпоху после Мура требует поиска новых, более надежных парадигм и методов.

Фактически, сегодня причина, по которой искусственный интеллект создаёт огромные проблемы с потреблением энергии, тесно связана с тем, как искусственный интеллект реализует интеллект.

Мы можем сравнить построение и работу искусственных нейронных сетей на этом этапе с группой независимых искусственных «нейронов», работающих вместе. Каждый нейрон подобен небольшой вычислительной единице, которая принимает информацию, выполняет некоторые вычисления и выдает выходные данные. Сегодняшние искусственные нейронные сети создаются путем умного проектирования того, как эти вычислительные блоки соединяются так, чтобы после обучения они могли выполнять конкретные задачи.

Но искусственные нейронные сети также имеют свои ограничения. Например, если нам нужно использовать нейронную сеть, чтобы отличить круг от квадрата. Один из подходов — разместить в выходном слое два нейрона: один для круга, другой для квадрата. Однако если мы хотим, чтобы нейронная сеть также могла различать цвет фигур, например синего и красного, тогда нам понадобятся четыре выходных нейрона: синий круг, синий квадрат, красный круг и красный квадрат.

То есть по мере увеличения сложности задачи структура нейронной сети также требует большего количества нейронов для обработки большего количества информации. Причина в том, что искусственные нейронные сети достигают интеллекта не так, как человеческий мозг воспринимает мир природы, а «для всех комбинаций нервная система искусственного интеллекта должна иметь соответствующий нейрон».

Напротив, человеческий мозг может выполнять большую часть обучения без усилий, поскольку информация в мозге представлена активностью большого количества нейронов. То есть восприятие красного квадрата человеческим мозгом не кодируется как активность одного нейрона, а кодируется как активность тысяч нейронов. Один и тот же набор нейронов, активирующийся по-разному, может представлять собой совершенно разную концепцию.

**Как видите, вычисления человеческого мозга — это совершенно другой метод вычислений. И если этот метод расчета применить к технологии искусственного интеллекта, это значительно снизит энергопотребление искусственного интеллекта. **И этот метод расчета является так называемым «сверхразмерным расчетом». То есть имитировать метод вычислений человеческого мозга и использовать многомерное математическое пространство для выполнения вычислений, чтобы добиться более эффективного и интеллектуального процесса вычислений.

Например, традиционная модель архитектурного проектирования является двухмерной.Мы можем рисовать только на плоскости.Каждый рисунок представляет собой отдельный аспект здания, например планировку этажей и прокладку проводов. Но по мере того, как здания становятся все более сложными, нам нужно все больше и больше чертежей, чтобы представить все детали, что отнимает много времени и бумаги.

Гиперпространственные вычисления, кажется, предоставляют нам новый метод проектирования. Мы можем проектировать здания в трех измерениях, причем каждое измерение представляет такие свойства, как длина, ширина, высота, материал, цвет и т. д. Более того, мы также можем проектировать в пространстве более высокого измерения, например, в четвертом измерении, представляющем изменения зданий в разные моменты времени. Это позволяет нам выполнять все проекты на одном суперчертеже, устраняя необходимость в куче 2D-чертежей, что значительно повышает эффективность.

Аналогичным образом, потребление энергии при обучении ИИ можно сравнить с проектированием зданий. Традиционное глубокое обучение требует большого количества вычислительных ресурсов для обработки каждого признака или атрибута, в то время как гиперпространственные вычисления помещают все признаки в многомерное пространство для обработки. Таким образом, ИИ может воспринимать несколько функций одновременно, только выполнив вычисления один раз, что экономит много времени вычислений и энергопотребления.

** С другой стороны, найти новые решения в области энергоресурсов, например, технологии ядерного синтеза. **Технология производства электроэнергии на основе ядерного синтеза считается одним из лучших решений глобальной проблемы выбросов углекислого газа, поскольку она практически не приводит к образованию ядерных отходов и не вызывает загрязнения выбросами углекислого газа в ходе производственного процесса.

В мае 2023 года Microsoft подписала договор купли-продажи с Helion Energy, начинающей компанией, занимающейся ядерным термоядерным синтезом, став первым клиентом компании и будет закупать у нее электроэнергию, когда компания построит первую в мире электростанцию ядерного синтеза в 2028 году. Более того, в долгосрочной перспективе, даже если ИИ достигнет снижения энергопотребления на единицу вычислительной мощности с помощью сверхразмерных вычислительных ламп, прорывы в технологии ядерного синтеза или других низкоуглеродных энергетических технологиях все равно могут сделать развитие ИИ больше не ограниченным углеродом. По-прежнему имеет большое значение для поддержки и продвижения.

В конце концов, проблему потребления энергии и ресурсов, вызванную технологиями, пока можно фундаментально решить только на техническом уровне. Технологии ограничивают развитие технологий, а также способствуют развитию технологий, что имело место с древних времен.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить