Fritzchens Fritz / Лучшие изображения AI / GPU Shot Fractched 5 / Лицензии CC-BY 4.0
Адам Зью
В серии из двух частей, MIT News исследует экологические последствия генеративного ИИ. В этой статье мы смотрим на то, почему эта технология настолько ресурсов. Вторая часть будет исследовать, что делают эксперты, чтобы уменьшить углеродный след и другие воздействия Геная.
Трудно игнорировать волнение, связанное с потенциальными преимуществами генеративного ИИ, от повышения производительности работников до продвижения научных исследований, трудно игнорировать. В то время как взрывной рост этой новой технологии позволил быстро развернуть мощные модели во многих отраслях, экологические последствия этого генеративного «Золотой лихорадки» ИИ остаются трудными, не говоря уже о смягчении.
Вычислительная мощность, необходимая для обучения генеративных моделей ИИ, которые часто имеют миллиарды параметров, таких как GPT-4 Openai, может потребовать ошеломляющего количества электроэнергии, что приводит к увеличению выбросов углекислого газа и давления на электрической сети.
Кроме того, развертывание этих моделей в реальных приложениях, что позволяет миллионам использовать генеративный ИИ в своей повседневной жизни, а затем настраивать модели, чтобы повысить их производительность, привлекает большое количество энергии долгое время после разработки модели.
Помимо требований к электричеству, требуется большая часть воды для охлаждения оборудования, используемого для обучения, развертывания и тонкой настройки генеративных моделей искусственного интеллекта, которые могут напрягать муниципальные водоснабжения и нарушать местные экосистемы. Растущее число генеративных приложений ИИ также вызвало спрос на высокопроизводительное вычислительное оборудование, добавив косвенные воздействия на окружающую среду от его производства и транспорта.
«Когда мы думаем о воздействии генеративного ИИ на окружающую среду, это не только электричество, которое вы потребляете, когда вы подключаете компьютер. Существуют гораздо более широкие последствия, которые выходят на системный уровень и сохраняются в зависимости от действий, которые мы предпринимаем», – говорит Эльза А. Оливетти, профессор факультета материаловедения и инженерии, а также лидерство миссии декарбонизации нового климатического проекта MIT.
Olivetti является старшим автором статьи 2024 года «Последствия для генеративного ИИ в климате и устойчивости», в соавторстве со стороны коллег по Массачусетским технологиям в ответ на призыв к общему институту статьи, которые исследуют преобразующий потенциал генеративного ИИ, как в положительном, так и негативном Направления для общества.
Требующие центры обработки данных
Требования к электроэнергии в центрах обработки данных являются одним из основных факторов, способствующих воздействию на окружающую среду генеративного ИИ, поскольку центры обработки обработки данных используются для обучения и запуска моделей глубокого обучения, стоящих за популярными инструментами, такими как CHATGPT и DALL-E.
Центр обработки данных-это здание, контролируемое температурой, в котором находится вычислительная инфраструктура, такая как серверы, накопители данных и сетевое оборудование. Например, Amazon имеет более 100 центров обработки данных по всему миру, каждый из которых имеет около 50 000 серверов, которые компания использует для поддержки услуг облачных вычислений.
В то время как центры обработки данных существуют с 1940-х годов (первый был построен в Университете Пенсильвании в 1945 году, чтобы поддержать первый цифровой компьютер общего назначения, ENIAC), рост генеративного искусственного интеллекта значительно увеличил темпы построения центров обработки данных.
«Что отличается от генеративного ИИ, так это плотность мощности, которая требуется. По сути, это просто вычисления, но генеративный кластер обучения искусственного интеллекта может потреблять в семь или восемь раз больше энергии, чем типичная вычислительная рабочая нагрузка », – говорит Номан Башир, ведущий автор Impact Paper, который является научным сотрудником по климату в MIT Climate и консорциум по устойчивому развитию (MCSC) и постдок в лаборатории информатики и искусственного интеллекта (CSAIL).
Ученые подсчитали, что требования к энергопотреблению в центрах обработки данных в Северной Америке увеличились с 2688 мегаватт в конце 2022 года до 5341 мегаватт в конце 2023 года, частично обусловленных требованиями генеративного ИИ. Во всем мире потребление центров обработки данных в 2022 году выросло до 460 тераватт. Организация экономического сотрудничества и развития.
Ожидается, что к 2026 году потребление электроэнергии в центрах обработки данных будет приближаться к 1050 тераваттам (которые будут увеличивать центры данных до пятого места в глобальном списке, между Японией и Россией).
Хотя не все вычисления центров обработки данных включают генеративный ИИ, эта технология была основной движущей силой растущих потребностей в энергии.
«Спрос на новые центры обработки данных не может быть удовлетворен устойчивым способом. Темпы, в которых компании строят новые центры обработки данных, означает большую часть электроэнергии для их питания, должен поступать из электростанций на основе ископаемого топлива »,-говорит Башир.
Трудно определить мощность, необходимую для обучения и развертывания такой модели, как GPT-3 Openai. В исследовательском документе 2021 года ученые из Google и Калифорнийского университета в Беркли оценили, что только процесс обучения потреблял 1287 мегаватт -часов электроэнергии (достаточно для питания около 120 средних домов США в течение года), генерируя около 552 тонн углекислого газа.
В то время как все модели машинного обучения должны быть обучены, одной из проблем, уникальной для генеративного ИИ, являются быстрые колебания использования энергии, которые происходят на разных этапах процесса обучения, объясняет Башир.
Операторы электропередачи должны иметь способ поглотить эти колебания для защиты сетки, и они обычно используют дизельные генераторы для этой задачи.
Увеличение воздействия от вывода
После обучения генеративной модели ИИ, требования к энергии не исчезают.
Каждый раз, когда используется модель, возможно, человек, просящий Chatgpt обобщать электронное письмо, вычислительное оборудование, которое выполняет эти операции, потребляет энергию. Исследователи подсчитали, что запрос CHATGPT потребляет примерно в пять раз больше электричества, чем простой веб -поиск.
«Но обычный пользователь не слишком много думает об этом», – говорит Башир. «Простота использования генеративных интерфейсов ИИ и отсутствие информации о воздействии на окружающую среду моих действий означает, что, как пользователь, у меня нет большого стимула для сокращения моего использования генеративного ИИ».
При традиционном ИИ использование энергии довольно равномерно разделено между обработкой данных, обучением модели и выводом, которое является процессом использования обученной модели для прогнозирования новых данных. Тем не менее, Башир ожидает, что требования к электричеству генеративного вывода ИИ будут в конечном итоге доминировать, поскольку эти модели становятся повсеместными во многих применениях, а электричество, необходимое для вывода, увеличится, поскольку будущие версии моделей станут больше и сложнее.
Кроме того, генеративные модели искусственного интеллекта имеют особенно короткий срок годности, обусловленный растущим спросом на новые приложения для искусственного интеллекта. Башир добавляет, что компании выпускают новые модели каждые несколько недель, поэтому энергия, используемая для обучения предыдущих версий, попадает в отходы. Новые модели часто потребляют больше энергии для обучения, поскольку они обычно имеют больше параметров, чем их предшественники.
В то время как потребности в электроэнергии в центрах обработки данных могут привлечь наибольшее внимание в исследовательской литературе, количество воды, потребляемой этими объектами, также оказывает воздействие на окружающую среду.
Охлажденная вода используется для охлаждения центра обработки данных путем поглощения тепла от вычислительного оборудования. Было подсчитано, что для каждого киловатт -час энергии потребляется центр обработки данных, ему потребуется два литра воды для охлаждения, говорит Башир.
«То, что это называется« облачными вычислениями », не означает, что оборудование живет в облаке. Центры обработки данных присутствуют в нашем физическом мире, и из -за использования воды они имеют прямые и косвенные последствия для биоразнообразия », – говорит он.
Вычислительное оборудование внутри центров обработки данных приносит свои собственные, менее прямое воздействие на окружающую среду.
Хотя трудно оценить, сколько энергии необходимо для изготовления графического процессора, тип мощного процессора, который может обрабатывать интенсивные генеративные рабочие нагрузки ИИ, это было бы больше, чем необходимо для создания более простого процессора, поскольку процесс изготовления более сложный. Углеродный след графического процессора усугубляется выбросами, связанными с материалом и транспортировкой продукта.
Существуют также экологические последствия для получения сырья, используемого для изготовления графических процессоров, которые могут включать в себя процедуры грязной добычи и использование токсичных химических веществ для обработки.
Исследовательская фирма TechInsight по оценкам, что три основных производителя (NVIDIA, AMD и Intel) отправили в центры обработки данных 3,85 млн. Старочных процессоров в 2023 году, по сравнению с примерно 2,67 млн. В 2022 году. Ожидается, что это число увеличится на еще больший процент в 2024 году. Полем
По словам Башира, отрасль находится на неустойчивом пути, но есть способы стимулировать ответственное развитие генеративного ИИ, которое поддерживает экологические цели.
Он, Оливетти и их коллеги по MIT утверждают, что это потребует всестороннего рассмотрения всех экологических и социальных затрат на генеративный ИИ, а также подробную оценку стоимости в его предполагаемых выгодах.
«Нам нужен более контекстуальный способ систематического и всестороннего понимания последствий новых разработок в этом пространстве. Из -за скорости, с которой произошли улучшения, у нас не было возможности догнать наши способности измерять и понимать компромиссы », – говорит Оливетти.
MIT News
