AI ​​технологията зад ChatGPT е изградена в Айова – с много вода

DES MOINES, Iowa (AP) – Цената за изграждане на продукт с изкуствен интелект като ChatGPT може да бъде трудна за измерване.

Но единственото нещо, от което OpenAI, подкрепян от Microsoft, се нуждаеше за своята технология, беше много вода, извлечена от водосборите на реките Raccoon и Des Moines в централна Айова, за да охлади мощен суперкомпютър, тъй като помогна да научи своите AI системи как да имитират човешко писане.

Докато се надпреварват да се възползват от A Генеративна AI лудостводещи технологични разработчици, включително Microsoft, OpenAI и Google, признаха, че нарастващото търсене на техните AI инструменти носи значителни разходи, от скъпи полупроводници до повишена консумация на вода.

Но често са потайни за подробностите. Малко хора в Айова знаеха за статута му на родното място на най-модерния голям езиков модел на OpenAI, GPT-4, преди висш ръководител на Microsoft да каже в реч: „Той буквално беше направен до царевичните полета западно от Де Мойн“.

Изграждането на голям езиков модел изисква анализиране на модели в огромен корпус от текстове, написани от хора. Всички тези изчисления консумират много електричество и генерират много топлина. За да поддържат прохлада през горещите дни, центровете за данни трябва да изпомпват вода, често към охладителна кула извън техните сгради с размерите на склад.

в него Последен екологичен докладMicrosoft разкри, че нейното глобално потребление на вода е нараснало с 34% от 2021 г. до 2022 г. (до близо 1,7 милиарда галона, или повече от 2500 плувни басейна с олимпийски размери), рязко увеличение в сравнение с предходни години, което външни изследователи свързват с изследванията на AI.

„Честно е да се каже, че по-голямата част от растежа се дължи на изкуствения интелект“, каза Шаоли Рен, изследовател от Калифорнийския университет, Ривърсайд, който се опитваше да изчисли темпа на растеж, включително „огромни инвестиции в генеративен AI и партньорството с OpenAI.“ Въздействието върху околната среда на генеративни AI продукти като ChatGPT.

В изследване, планирано да бъде публикувано по-късно тази година, екипът на Рен изчислява, че ChatGPT поглъща 500 милилитра вода (близо до това, което има в бутилка вода от 16 унции) всеки път, когато му зададете серия от 5 до 50 подкани или въпроса. Диапазонът варира в зависимост от това къде се намират неговите сървъри и сезона. Оценката включва косвено използване на вода, което компаниите не измерват, като охлаждащи електроцентрали, които доставят електричество на центрове за данни.

„Повечето хора не осъзнават използването на ресурси зад ChatGPT“, каза Рен. „Ако не сте наясно с използването на ресурси, няма начин да помогнем за опазването на ресурсите.“

Google споменати 20% ръст в използването на вода през същия период, което Рен също отдава до голяма степен на работата си в областта на изкуствения интелект. Възходът на Google не беше равномерен, а по-скоро последователен в Орегон, където се намираше Привлече използването на вода Общественият интерес извън Лас Вегас се удвои. Айова също беше жадна, черпейки повече питейна вода в своите центрове за данни в Каунсил Блъфс, отколкото където и да било другаде.

В отговор на въпроси от Асошиейтед прес, Microsoft заяви в изявление тази седмица, че инвестира в изследвания за измерване на енергийния и въглеродния отпечатък на изкуствения интелект, „като същевременно работи върху начини да направи големите системи по-ефективни, както в обучението, така и в приложението. „

„Ние ще продължим да наблюдаваме нашите емисии и ще ускорим напредъка, докато увеличаваме използването на чиста енергия за захранване на центрове за данни, закупуване на възобновяема енергия и други усилия за постигане на целите ни за устойчивост да бъдем отрицателни въглеродни емисии, положителни води и нулеви отпадъци до 2030 г. .” Изявлението на компанията се казва.

OpenAI повтори тези коментари в собственото си изявление в петък, като каза, че влага много мисли в оптималното използване на изчислителната мощност.

„Осъзнаваме, че обучението на големи модели може да изразходва много енергия и вода“ и работим за подобряване на ефективността, каза тя.

Microsoft направи първата си инвестиция от 1 милиард долара в базираната в Сан Франциско OpenAI през 2019 г., повече от две години преди стартъпът да представи ChatGPT и да се разпространи по света. Очарование от развитието на изкуствения интелект. Като част от сделката, софтуерният гигант ще достави изчислителната мощност, необходима за обучение на моделите с изкуствен интелект.

За да свършат поне част от тази работа, двете компании погледнаха към Уест Де Мойн, Айова, град с 68 000 жители, където Microsoft натрупва центрове за данни, за да захранва своите облачни изчислителни услуги повече от десетилетие. Четвъртият и петият център за данни са планирани да отворят там по-късно тази година.

„Те го изграждат възможно най-бързо“, каза Стив Гейер, който беше кмет, когато Microsoft дойде в града. Гейер каза, че компанията е била привлечена от ангажимента на града за изграждане на обществена инфраструктура и е допринесла с „удивителна“ сума пари чрез данъчни плащания, които подкрепят тази инвестиция.

„Но, знаете ли, те бяха много потайни относно това, което правеха там“, добави той.

Microsoft за първи път заяви, че разработва един от най-мощните суперкомпютри в света за OpenAI през 2020 г. Тогава отказа да разкрие местоположението му на AP, но го описа като „единна система“, съдържаща повече от 285 000 традиционни полупроводникови ядра и 10 000 процесора. Графика. – Един вид Чипът, който стана решаващ За натоварвания на AI.

Експертите казаха, че може да има смисъл да се „обучи предварително“ AI модел на едно място поради големите количества данни, които ще трябва да бъдат прехвърлени между изчислителните центрове.

Президентът на Microsoft Брад Смит разкри едва в края на май, че е изградил „усъвършенстван AI суперкомпютърен център за данни“ в Айова, изключително за да позволи на OpenAI да обучи това, което стана неговият модел от четвърто поколение, GPT-4. Сега моделът захранва премиум версиите на ChatGPT и някои от собствените продукти на Microsoft и ускори дебата за ограничаване на обществените рискове от ИИ.

„Направено е от тези необикновени инженери в Калифорния, но всъщност е направено в Айова“, каза Смит.

В известен смисъл Западен Де Мойн е сравнително ефективно място за обучение на мощна AI система, особено в сравнение с центровете за данни на Microsoft в Аризона, които консумират много повече вода за същото изчислително търсене.

„Така че, ако разработвате AI модели в рамките на Microsoft, трябва да планирате обучението си в Айова, вместо в Аризона“, каза Рен. „По отношение на обучението, няма разлика. И по отношение на консумацията на вода или енергия, има голяма разлика.“

През по-голямата част от годината времето в Айова е достатъчно студено, за да позволи на Microsoft да използва външния въздух, за да поддържа суперкомпютъра да работи правилно и да отвежда топлината извън сградата. Само когато температурата надвиши 29,3 градуса по Целзий (около 85 градуса по Фаренхайт), той изтегля вода, се казва в публично изявление на компанията.

Може да има твърде много вода, особено през лятото. През юли 2022 г., предходния месец OpenAI казва, че е завършен Чрез своето GPT-4 обучение, Microsoft изпомпва около 11,5 милиона галона вода към своя клъстер от центрове за данни в Айова, според West Des Moines Water Works. Това представлява около 6% от общата вода, използвана в района, която осигурява и питейна вода за жителите на града.

През 2022 г. в документ от West Des Moines Water Works се казва, че то и градската управа ще „обмислят бъдещи проекти за центрове за данни“ от Microsoft само ако тези проекти успеят да „демонстрират и внедрят технология за значително намаляване на потреблението на вода от настоящите нива“, за да поддържат водоснабдяване Вода за други битови и стопански нужди.

Microsoft заяви в четвъртък, че работи директно с Water Works, за да отговори на своите наблюдения. Компанията е добър партньор и работи с местните власти, за да намали своя воден отпечатък, като същевременно продължава да задоволява нуждите си, се казва в писмено изявление на водното предприятие.

—-

О’Брайън съобщи от Провидънс, Роуд Айлънд.

——

Associated Press и OpenAI имат лицензионно споразумение, което позволява част от текстовите архиви на AP да бъдат използвани за обучение на големия езиков модел на технологичната компания. AP получава неразкрита такса за използване на нейното съдържание.