Энергопотребление ИИ удалось снизить на 95 % без потерь, но Nvidia новый алгоритм вряд ли одобрит

В условиях растущей популярности искусственного интеллекта высокое энергопотребление ИИ-моделей становится всё более актуальной проблемой. Несмотря на то, что такие техногиганты, как Nvidia, Microsoft и OpenAI, пока не говорят об этой проблеме громко, явно преуменьшая её значение, специалисты из BitEnergy AI разработали технологию, способную значительно снизить энергопотребление без существенных потерь в качестве и скорости работы ИИ.

 Источник изображения: Copilot

Источник изображения: Copilot

Согласно исследованию, новый метод может сократить использование энергии вплоть до 95 %. Команда называет своё открытие «Умножением линейной сложности» (Linear-Complexity Multiplication) или сокращённо L-Mul. Как пишет TechSpot, этот вычислительный процесс основан на сложении целых чисел и требует значительно меньше энергии и операций по сравнению с умножением чисел с плавающей запятой, которое широко применяется в задачах, связанных с ИИ.

На сегодняшний день числа с плавающей запятой активно используются в ИИ для обработки очень больших или очень малых чисел. Они напоминают запись в бинарной форме, что позволяет алгоритмам точно выполнять сложные вычисления. Однако такая точность требует крайне больших ресурсов и уже вызывает определённые опасения, так как некоторым ИИ-моделям нужны огромные объёмы электроэнергии. Например, для работы ChatGPT требуется столько электроэнергии, сколько потребляют 18 000 домохозяйств в США — 564 МВт·ч ежедневно. По оценкам аналитиков из Кембриджского центра альтернативных финансов, к 2027 году ИИ-индустрия может потреблять от 85 до 134 ТВт·ч ежегодно.

Алгоритм L-Mul решает эту проблему за счёт замены сложных операций умножения с плавающей запятой на более простые сложения целых чисел. В ходе тестирования ИИ-модели сохранили точность, при этом энергопотребление для операций с тензорами сократилось на 95 %, а для скалярных операций на 80 %.

L-Mul также улучшает и производительность. Оказалось, что алгоритм превосходит текущие стандарты вычислений с 8-битной точностью, обеспечивая более высокую точность с меньшим количеством операций на уровне битов. В ходе тестов, охватывающих различные задачи ИИ, включая обработку естественного языка и машинное зрение, снижение производительности составило всего 0,07 %, что специалисты сочли незначительной потерей на фоне огромной экономии энергии.

При этом модели на основе трансформеров, такие как GPT, могут получить наибольшую выгоду от использования L-Mul, поскольку алгоритм легко интегрируется во все ключевые компоненты этих систем. А тесты на популярных моделях ИИ, таких как Llama и Mistral, показали даже улучшение точности в некоторых задачах.

Плохая новость заключается в том, что L-Mul требует специализированного оборудования и современные ускорители для ИИ не оптимизированы для использования этого метода. Хорошая новость заключается в том, что уже ведутся работы по созданию такого оборудования и программных интерфейсов (API).

Одной из возможных преград может стать сопротивление со стороны крупных производителей чипов вроде Nvidia, которые могут замедлить внедрение новой технологии. Так как, например, Nvidia является лидером в производстве оборудования для искусственного интеллекта и маловероятно, что она так просто уступит позиции более энергоэффективным решениям.

Meta? использовала почти все ваши публикации с 2007 года для обучения ИИ

Компания Meta?, владеющая Facebook? и Instagram?, подтвердила, что использует публичные посты пользователей, опубликованные с 2007 года, для обучения ИИ-моделей. Это заявление прозвучало во время правительственного расследования в Австралии. При этом миллиарды пользователей за пределами Европейского союза (ЕС) и Бразилии, сохраняющие публичность своих постов, не имеют возможности отказаться от участия в обучении ИИ.

 Источник изображения: VEPN / Pixabay

Источник изображения: VEPN / Pixabay

Во время расследования, проводимого австралийским правительством относительно внедрения ИИ, Мелинда Клейбо (Melinda Claybaugh), глобальный директор по вопросам конфиденциальности компании Meta?, признала, что компания использует все публичные текстовые и фотоматериалы, опубликованные совершеннолетними пользователями Facebook? и Instagram? с 2007 года. Признание прозвучало после настойчивых вопросов сенатора от партии «Зелёных» Дэвида Шубриджа (David Shoebridge). При этом Meta? не предоставляет возможности удаления уже собранных данных, даже в случае, если пользователь изменит настройки приватности.

Meta? в своих материалах по конфиденциальности и блогах упоминает об использовании публичных постов и комментариев для обучения моделей генеративного ИИ. Однако детали этого процесса остаются неясными. В июне 2023 года, отвечая на запрос The New York Times о сроках начала и масштабах сбора данных, Meta? не предоставила конкретного ответа, отметив лишь, что изменение настроек приватности предотвратит будущий сбор.

Особенно тревожит факт использования данных пользователей, которые в 2007 году могли быть несовершеннолетними. Клейбо заявила, что Meta? не использует данные пользователей младше 18 лет, однако не смогла дать чёткого ответа на вопрос о том, как обрабатываются аккаунты взрослых, созданные ими в детском возрасте. Сенатор Тони Шелдон (Tony Sheldon) задал вопрос о сканировании публичных фотографий детей на аккаунтах взрослых пользователей. Клейбо подтвердила, что такие данные тоже используются.

В отличие от пользователей из ЕС, имеющих право отказаться от участия в обучении ИИ благодаря местным законам о конфиденциальности, и пользователей из Бразилии, где недавно запретили Meta? использовать персональные данные для обучения ИИ, большинство из миллиардов пользователей Facebook? и Instagram? лишены такой возможности. Клейбо не смогла уточнить, будет ли предоставлена возможность отказа австралийским пользователям или кому-либо ещё в будущем, ссылаясь на неопределённость нынешнего регуляторного ландшафта.

Отсутствие возможности отказа от использования данных вызывает критику со стороны правозащитников и политиков. Сенатор Шубридж отметил, что неспособность правительства Австралии принять адекватные законы о конфиденциальности позволяет таким компаниям, как Meta?, продолжать монетизировать и эксплуатировать даже фотографии и видео детей на Facebook?. Данное заявление указывает на глобальную проблему: законодательство не поспевает за темпами развития технологий ИИ и методами сбора данных.

Три тайконавта вернулись на Землю после полугодовой экспедиции

Три тайконавта, которые отправились в космическое пространство на пилотируемом корабле «Шэньчжоу-18» в апреле этого года, успешно вернулись на Землю. По данным Китайского агентства пилотируемых космических полётов (CMSA), все члены экипажа чувствуют себя хорошо.

 Источник изображения: CCTV

Источник изображения: CCTV

Тайконавты Е Гуанфу (Ye Guangfu), Ли Конг (Li Cong) и Ли Гуансу (Li Guangsu) провели на борту китайской космической станции «Тяньгун» более шести месяцев. В конце минувшей недели их миссия была завершена после того, как спускаемая капсула корабля «Шэньчжоу-18» в воскресенье вечером совершила посадку на севере Китая. Доставка экипажа на Землю осуществлялась в ночное время, поэтому наблюдателям и поисково-спасательным группам пришлось задействовать инфракрасные тепловизоры, чтобы не потерять капсулу из вида.

За время пребывания на борту станции «Тяньгун» тайконавты провели ряд научных экспериментов, в том числе связанных с изучением микроскопических форм жизни. В мае они совершили рекордный по продолжительности для Китая выход в открытый космос. В июне они снова проводили работы за пределами «Тяньгун», в рамках которых устанавливались элементы защиты станции от космического мусора. Капитан экипажа Е Гуанфу за время проведения миссии также стал первым тайконавтом, который суммарно провёл в космосе 365 дней. Добиться этого ему удалось, в то числе, благодаря участию в миссии «Шэньчжоу-13», которая реализовывалась в 2021-2022 годах.

На смену экипажу миссии «Шэньчжоу-18» на орбитальной станции остались члены экипажа миссии «Шэньчжоу-19», которые прибыли туда 30 октября. Это также означает, что несколько дней в космосе находились сразу шесть китайских астронавтов. Е Гуанфу официально передал управление орбитальной станцией командиру «Шэньчжоу-19» Цай Сючжэ (Cai Xuzhe) 1 ноября.

Если Япония не усилит санкции против Китая, американцы грозят лишить японские компании субсидий

Специальный комитет Палаты представителей США, контролирующий взаимодействие с Китаем, направил в адрес посла Японии письмо с требованием усилить ограничения в отношении КНР в сфере поставок оборудования для выпуска чипов. Если японская сторона не поддержит это предложение, то власти США оставляют за собой право лишить японские компании субсидий при строительстве предприятий на американской земле.

 Источник изображения: Tokyo Electron

Источник изображения: Tokyo Electron

Авторы письма, подписанного представителями обеих доминирующих партий в США, отвергают доводы японской стороны о существенном ущербе японским компаниям, который вызван ограничениями на поставку оборудования в Китай. По их мнению, куда важнее расширять сотрудничество между США, Нидерландами и Японией в сфере сдерживания амбиций Китая по развитию национальной полупроводниковой промышленности. По мнению американских парламентариев, доводы японской стороны о существенном вреде от имеющихся экспортных ограничений для поставщиков оборудования из Японии «не выдерживают никакой проверки».

По словам авторов письма, поставщики оборудования для производства чипов получают выгоду от роста объёмов заказов, а также субсидии в Европе и США, что с запасом перекрывает возможный ущерб от санкций против Китая. Даже если японские поставщики оборудования и не пользуются прямыми субсидиями, их продукцию закупают получатели таких субсидий в лице компаний Intel и Samsung, которые строят свои предприятия на территории США. Американские производители оборудования, к слову, уже не раз заявляли, что страдают от экспортных ограничений в отношении Китая заметно больше японских и нидерландских конкурентов.

Помимо запрета на поставку определённых видов оборудования для производства чипов из Нидерландов и Японии в Китай, американские власти добиваются прекращения обслуживания уже эксплуатируемого в Поднебесной оборудования, включая поставку запасных частей и компонентов. В данный момент к очевидным соображениям об упущенной выгоде партнёры в Нидерландах и Японии добавляют в качестве контраргументов и неопределённость, вызванную предстоящими президентскими выборами в США. Власти указанных стран не торопятся синхронизировать свои экспортные ограничения с американскими в ожидании итогов этих выборов. Япония боится не только потерять выручку в Китае, но и столкнуться с ответными мерами китайской стороны. Важнейшая для экономики страны автомобильная промышленность из-за возможных санкций Китая рискует лишиться доступа к редкоземельным минералам.

Письмо японскому послу также упоминает о необходимости бороться с другой угрозой, исходящей от китайской полупроводниковой промышленности — власти США опасаются способности китайских поставщиков завалить мир дешёвыми чипами, производимыми по зрелым литографическим технологиям. В США, например, для защиты внутреннего рынка электронных компонентов с 2025 года на китайскую продукцию будет введена пошлина в размере 50 %. По мнению американских парламентариев, без слаженной санкционной политики США, Нидерланды и Япония рискуют лишить свои национальные отрасли возможности выпускать конкурентоспособные товары массового спроса и системы вооружений в достаточных количествах. Помимо лишения японских компаний субсидий в США, местные власти могут воспользоваться особенностями законодательства, которые позволяют наложить ограничения на поставки оборудования из третьих стран в Китай, если оно использует технологии американского происхождения. В сегменте оборудования для выпуска чипов под эту категорию подпадает почти вся продукция.

В Microsoft Paint добавили ИИ-функции заливки и стирания, прямо как в Photoshop

Microsoft представила новые основанные на генеративном искусственном интеллекте функции для приложений Paint и «Фотографии» на компьютерах класса Copilot Plus PC с ИИ-ускорителями. Новые возможности предназначаются для редактирования изображений и выступают своего рода аналогами функций, которые уже есть в Adobe Photoshop.

 Источник изображений: blogs.windows.com

Источник изображений: blogs.windows.com

Для работы обоих инструментов используется кисть с регулируемым размером, помогающая указывать на подлежащие редактированию области изображения. Функция Generative Erase удаляет с изображений нежелательные элементы — так же это делает Magic Eraser на телефонах Google Pixel. Generative Fill, напротив, добавляет на изображения новые элементы — пользователю необходимо создать текстовый запрос и выбрать, где их разместить. Схожим образом работает и одноимённый инструмент в Photoshop.

Основу для работы новых функций заложил инструмент Paint Cocreator, анонсированный для компьютеров Copilot Plus PC в этом году — он предназначен для генерации изображений при помощи текстовых запросов и выступающих образцами эскизов. Обеспечивающая работу функций диффузионная модель получила обновление, с которым повысились качество и скорость работы, а также появилась «встроенная модерация», предотвращающая злоупотребления.

Инструмент Generative Erase появился и в приложении «Фотографии» наряду с функцией Super-Resolution, которая при помощи локального ИИ масштабирует размытые или пикселизированные изображения. Степень увеличения картинки можно регулировать при помощи ползунка — оно может быть восьмикратным. Это соответствует возможностям масштабирующего средства на платформе Canva и вдвое превосходит возможности четырёхкратного увеличения Super Resolution в Adobe Lightroom. Функция доступна бесплатно и работает достаточно быстро, «за считанные секунды» повышая разрешение изображений до 4K, уверяют в Microsoft.

Nothing представила первый в мире смартфон, светящийся в темноте — Phone (2a) Plus Community Edition

Nothing анонсировала новую версию своего смартфона Phone (2a) Plus — новинка под именем Phone (2a) Plus Community Edition получила светящиеся в темноте корпус и упаковку, которые были разработаны «самыми талантливыми поклонниками» бренда. Устройство появилось на свет как результат проведённого Nothing конкурса, в рамках которого сообществу предложили «создать смартфон собственным воображением».

 Источник изображения: Nothing

Источник изображения: Nothing

Nothing Phone (2a) Plus Community Edition — первый «крупный пилотный проект по совместному созданию оборудования». Читать далее »

Arm захотела исключить проблемную «дочку» Arm China из отношений с китайскими компаниями

Основанная в 2002 году дочерняя компания Arm China до 2016 года полностью принадлежала британскому холдингу Arm, но после 51 % акций этой структуры достался консорциуму китайских инвесторов с государственным участием. Arm China по факту выступала посредником между головной структурой и китайскими клиентами, которые покупали лицензии, но теперь материнский холдинг хочет выстроить с ними прямые взаимоотношения.

 Источник изображения: Arm

Источник изображения: Arm

Поскольку Arm China имеет определённый процент с прибыли, получаемой Arm в Китае, прямое взаимодействие с китайскими клиентами позволило бы британскому холдингу повысить показатели прибыльности. Как отмечает Tom’s Hardware со ссылкой на публикацию DigiTimes, материнский холдинг надеется хотя бы часть своих лицензий продавать китайским клиентам напрямую. Это не первая проблема во взаимоотношениях Arm со своей китайской «дочкой». Некоторое время назад мятежный директор пытался осуществить рейдерский захват её активов, но позже Arm удалось вернуть себе контроль над этой компанией.

Arm China обладает определённой самостоятельностью. Например, она может разрабатывать Arm-совместимые архитектуры и даже лицензировать их использование материнской компанией. В сентябре этого года Arm china представила первые разработанные собственными силами графические процессоры семейства Linglong. По некоторым данным, Arm China также разрабатывает многочиповую упаковку и графические процессоры для ускорителей вычислений, используемых в системах искусственного интеллекта.

Для материнской Arm китайское подразделение является важным источником дохода. Во втором квартале текущего года оно обеспечило британский холдинг 13 % всей выручки. Не исключено, что на пути желания Arm обходиться без посредников во взаимоотношениях с китайскими клиентами могут возникнуть препятствия в виде санкций.

По стопам Apple: смартфоны серии Oppo Find X8 получат кнопку управления камерой

Компания Oppo пошла по стопам Apple, оснастив новые iPhone 16 кнопкой для взаимодействия с камерой, расположенной на боковой поверхности корпуса смартфонов. Аналогичное решение от Oppo получило название Quick Capture и представляет собой сенсорную кнопку для быстрого доступа к камере. Она появится в новых смартфонах серии Find X8.

 Источник изображения: YouTube

Источник изображения: YouTube

Теперь в интернете появилось небольшое видео, в котором менеджер по продуктам Oppo Find демонстрирует работу функции Quick Capture. Для запуска камеры необходимо дважды нажать кнопку, а продолжительное нажатие позволяет сделать снимок. Кроме того, с помощью свайпов по кнопке можно управлять зумом.

Основная причина появления кнопки Quick Capture заключается в том, что не всегда удобно делать снимок, нажимая на экран смартфона. Упомянутое видео посвящено использованию смартфона под водой, где нажимать на экран затруднительно. Смартфоны Find X8 получат защиту от пыли и влаги по стандарту IP68, что позволит использовать их в воде. В ролике отмечается, что работать с кнопкой на боковой поверхности корпуса удобно как в альбомной, так и в портретной ориентации.

Отметим, что у Oppo уже была похожая функция, реализованная в Find X7 Ultra с фирменным интерфейсом ColorOS 14. Двойное нажатие на кнопку регулировки громкости также позволяет запустить камеру. После этого кнопка громкости может использоваться для управления зумом, хотя это и не так плавно, как при регулировке свайпами.

Ретейлеры засветили дату выхода сюжетного дополнения The Lake House к Alan Wake 2

Дополнение «Дом у озера» (The Lake House) к хоррору Alan Wake 2 от финской студии Remedy Entertainment станет частью завтрашней презентации Xbox Partner Preview, однако главный сюрприз премьеры, похоже, оказался испорчен.

 Источник изображений: Remedy Entertainment

Источник изображений: Remedy Entertainment

Как подметили пользователи форума Reddit, австралийские и новозеландские ретейлеры JB Hi-Fi и EB Games разместили на страницах предзаказа розничного издания Alan Wake 2 информацию о дате выхода The Lake House.

«Будьте внимательны: в связи с международным характером релиза Alan Wake 2: Deluxe Edition размещённое на диске дополнение [The] Lake House не разблокируется до полуночи 22 октября 2024 года», — предупреждает EB Games.

Таким образом, аддон The Lake House для Alan Wake 2 поступит в продажу менее чем через неделю — 22 октября. О релизе расширения в предпоследнем месяце осени рассказывал сентябрьский тизер-трейлер DLC (прикреплён ниже).

По всей видимости, официальный анонс даты выхода прозвучит во время геймплейного показа The Lake House в рамках Xbox Partner Preview. Презентация стартует 17 октября в 20:00 по московскому времени.

Напомним, в The Lake House игрокам достанется роль Киран Эстевез — агента Федерального бюро контроля (ФБК) из Control. Героине предстоит расследовать события на секретной исследовательской станции ФБК у озера Колдрон.

Alan Wake 2 вышла 27 октября 2023 года на PC (EGS), PS5, Xbox Series X и S. Игра заслужила высокие оценки и порадовала Remedy продажами. Первое дополнение к проекту — «Ночные ключи» (Night Springs) — увидело свет в июне.

AST SpaceMobile рассказала, как будет предлагать услуги сотовой связи через спутники

В Cети появились слайды презентации AST SpaceMobile, в которых говорится о порядке предоставления услуг на сотовую связь компании через спутники. Тарифы будут предлагаться как с ежемесячной оплатой, так и ежедневной. Услуга будет автоматически предлагаться клиентам тех операторов, которые будут работать с сетью AST SpaceMobile.

 Источник изображений: AST SpaceMobile

Источник изображений: AST SpaceMobile

Как поясняется на кадрах с презентации, приглашение воспользоваться мобильной связью через спутник будет появляться на экране смартфона каждый раз, когда он будет покидать зону покрытия наземными вышками сотовой связи. В случае выбора этой опции абонент сможет немедленно воспользоваться всеми выгодами скоростной мобильной связи через космос — осуществлять видеозвонки, пользоваться интернетом и отсылать текстовые сообщения. Обещанная при этом скорость соединения будет достигать 20 Мбит/с и выше.

Также в презентации разъясняется, на кого будет ориентирована космическая сотовая связь. В прицеле компании обычные и корпоративные пользователи, звонки в службы спасения и интернет-вещей. В последнем случае, например, речь может идти о датчиках и технике сельскохозяйственного назначения.

Компания AST SpaceMobile уже приступила к развёртыванию на орбите своих «вышек сотовой связи» — гигантских спутников BlueBird. Обычному пользователю это сулит больше комфорта со стабильной связью даже в глухих местах Земли, но астрономы уже в ужасе от происходящего. Эта и другие группировки спутников связи на низкой орбите грозят похоронить наземную наблюдательную астрономию в оптическом и радиодиапазоне.

Наиболее грозный конкурент AST SpaceMobile — компания SpaceX Илона Маска (Elon Musk) — продвигает собственную сеть мобильной космической связи в рамках интернет-группировки Starlink. Обе они рассчитывают начать тестирование услуги «позвони через космос с обычного смартфона» ещё до конца текущего года, но чтобы покрыть США полностью, каждой из них придётся вывести на орбиту ещё много спутников — десятки в случае AST SpaceMobile, и сотни для сети Starlink. Также неясен вопрос с оплатой за услугу. Большинство абонентов просто не готовы переплачивать за связь через космос.