Сколько энергии тратит "искусственный интеллект"

Аватар пользователя IngeniumNotes

Идет поток анти-ИИ-шных материалов в западных СМИ. Вся новостная рассылка от соответствующих сайтов ими заполнена. Причем очевидные вещи преподносятся как необыкновенные открытия.

Действительно, и кто бы мог подумать, что этот графический генеративный ИИ будут использовать для того, чтобы создавать эротические "фото" своих одноклассниц? Или, например, что генеративный ИИ, создающий картинки, будет выдавать куски фотографий реальных людей и изображений, защищенных авторским правом, а текстовый ИИ - персональные данные?

Но попадаются и содержательные материалы. Например, я узнал ответ на вопрос который давно меня интересовал: "Сколько энергии нужно предварительно обученному ИИ для генерации ответа на тот или иной вопрос?". Раньше видел только материалы, посвященные процессу обучения ИИ.

Метрика у людей, конечно, интересная: количество энергии измеряют в килограммах углекислого газа. Что достаточно хорошо позволяет идентифицировать источник анти-ИИ-шной атаки. И, как следствие, что-то понять об окружающем мире: по сути, все публичное поле поделено между несколькими сектами. Как правило, они предпочитают не трогать друг друга. Но когда интересы сталкиваются (а судя по всему, наблюдаемая волна вызвана конфликтом вокруг OpenAI), то в инфополе происходит "короткое замыкание", и повестка дня начинает искрить "неожиданно" обнаружившимися фактами.

Но перейдем к цифрам. В первоисточнике, поскольку это все же научная статья, энергия указана в физических единицах измерения.

"Анализировалось десять задач. Определялась средняя энергия, затраченная на 1000 запусков. ...

Мы видим, что задачи классификации как изображений, так и текста находятся на нижнем конце спектра (в диапазоне от 0,002 до 0,007 кВтч для 1000 выводов).

А генеративные задачи, такие как генерация текста и обобщение (пересказ), используют в среднем более В 10 раз больше энергии для того же количества выводов (около 0,05 кВтч на 1000 выводов).

Мультимодальные задачи, такие как создание титров и создание изображений, находятся на верхнем конце спектра (0,06–2,9 кВтч на 1000 выводов). ...

Для сравнения, для зарядки среднего смартфона требуется 0,012 кВтч энергии. Это означает, что наиболее эффективная модель генерации текста использует 16% от полной зарядки смартфона для 1000 выводов. А наименее эффективная модель генерации изображений использует столько же энергии, как 950 зарядок смартфона (11,49 кВтч), или почти 1 зарядка смартфона на создание изображения (хотя между моделями создания изображений также существуют большие различия в зависимости от размера изображения, которое они генерируют)."

Для сравнения, около десяти лет назад Google сообщал, что на один поисковый запрос в среднем расходуется 0,3 ватт-часа электроэнергии (соответственно, 0,3 кВтч или 25 зарядок телефона на 1000 запросов).

https://t.me/IngeniumNotes

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя mmx
mmx(8 лет 9 месяцев)

Эколухи на ИИшницу ополчились? 

Аватар пользователя kuguar
kuguar(7 лет 6 месяцев)

Настоящий ИИ, который уже типа псевдоразумный, гоняют, замаскировав его под криптовалюту. Можете прикинуть энергопотребление и тактовую частоту.

(с)  по слухам из даркнета 

Аватар пользователя vleo
vleo(9 лет 10 месяцев)

Это ЧУШЬ - если говорить о том, что сейчас.

Но - как перспективная концепция Ваша идея неплоха... и не совсем нова - привязывать proof of work не к бессмысленному вычислению хеша, а к полезным вычислениям, причем унифицировнным, а нейро сетевые вычисления к этому хорошо подходят.

Аватар пользователя muxa
muxa(11 лет 10 месяцев)

просто поражаешься как бывает насрано в межушном ганглии.

Аватар пользователя user3120
user3120(8 лет 9 месяцев)

Оказывается зеленые правы говоря что у человека есть углеродный след.

Человек в среднем потребляет около 2000 ккалорий в день, что дает около 2 кВт*ч или около 100 Ватт, средней мощности. Можно представить, что человек ест, как одна большая лампочка на накаливания на 100 Ватт.

А представьте сколько из 8 миллиардов людей расходуют все это бесполезно не делая никакой полезной для общества работы.

***

Также люди совершенствуют компьютеры и их производительность на ватт постоянно растет.

https://alphapedia.ru/w/Performance_per_watt

***

То что запад пошел против ИИ это отзвук того что запад де факто проиграл майнинговую войну. То же самое будет и с ИИ.

Аватар пользователя yakov
yakov(2 года 4 месяца)

Немного огорчу. 100 ватт/чел., это в состоянии покоя. Если что-то делать начнет, то и все 200 ватт/чел. будет. 

Аватар пользователя TOGFO
TOGFO(2 года 4 месяца)

запад пошел против ИИ 

это где такое вы увидели?

Аватар пользователя user3120
user3120(8 лет 9 месяцев)

где такое вы увидели?

Пока только информационно(т.к. реального повода беспокоиться пока нет).

К примеру выпущен фильм "Создатель".

Про "Скайнет" и Терминатора - так вообще из каждого утюга было и есть (с спам рекламой кто всех будет спасать от "великого и ужасного"). Высказывание отдельных политиков и ЛОМов из США о ИИ.  И т. д. и т. п.

Т.е. (в лучшем случае) есть гегемон США и только они должны контролировать ИИ и разводить в пробирках, а другие страны должны делать все что скажут им США.

Аватар пользователя Strim
Strim(11 лет 3 месяца)

основное во всем этом хайпе- подмена понятий

пол сотни лет существующие уже программульки назвали ИИ и раздувают вокруг этого очередную аферу

Аватар пользователя user3120
user3120(8 лет 9 месяцев)

Без такой бравады человечество будет сверкать своим голым задом, как последний лузер и неудачник. Т.к. достижения людей нулевые. А список антидостижений поражает.

Аватар пользователя Rollon
Rollon(5 лет 6 месяцев)

нейросети это не те "программульки" которые писали "пол сотни лет" назад...оно конечно не ИИ, но люди в детали все равно не вдаются, так что без разницы

Аватар пользователя balmer
balmer(6 лет 7 месяцев)

Формально Strim прав. Сами нейросети не очень сильно изменились за 50 лет. Основное - это рост вычислительной мощи. Те-же самые нейросетки распознающие изображение боле-менее хорошо и быстро начинают рабоать с 10 миллионов весов и 1 терафлопа производительности.

Например в конце 80-х годов запускали нейросетки на 10 тыс. весов не сильно отличающиеся от современных, и они предсказуемо ничего не могли распознать.

Так что основное изменение - это количественное, а не качественное. Просто в миллион раз выросла скорость нейроускорителей за 30 лет.

Аватар пользователя user3120
user3120(8 лет 9 месяцев)

Переход количества в качество, на уровне преодоления потенциального барьера тоже значимое событие. Если потенциальный барьер преодолеть нельзя(или что-то использовать), то события как бы и нет(самого по себе).

Термояд вроде как уже сколько лет ковыряют, но потенциальный барьер реально преодолеть не могут. Так он есть(контролируемый и без грязного ядерного поджига) или его нет? Или он есть теоретически или в таком виде (термоядерный взрыв) что в мирном русле использовать его проблематично.

Кстати приводил на АШ уже пример, где это(отсуствие работающих токамаков для мирного использования термояда) не преграда:

Аватар пользователя amir_tt
amir_tt(9 лет 7 месяцев)

Точно, согласен. Все это называется простым русским словом аппроксимация когда некую зависимость пытаются заменить набором как правило сигмоидальных кривых. Когда это интерполяция получается хорошо. Когда это экстраполяция то не очень. Чего не отнять то это то, что сейчас хорошо проработаны препроцессоры которые выборки для обучения готовят и постпроцессоры для визуализации или озвучки.

Аватар пользователя tatar
tatar(8 лет 6 месяцев)

А может, это как с озоновыми дырами, заставили СССР угробить производство фреона. А теперь, чтобы другие страны не развивали этот самый ИИ.

Аватар пользователя Fvwm
Fvwm(12 лет 5 месяцев)

А может, это как с озоновыми дырами,

Почему "может"? И там и тут торчат уши абсолютно тех же самых персонажей.

Дело в том, что пока ИИ рисует голых одноклассниц это нормально, допустимо и вообще имеет хороший коммерческий потанцевал.

А вот если любому комментатору АШ дать доступ например к ИИ, который "всосал и переварил" все публикации например The Times за последние хотя бы 50 лет... то люди могут начать делать выводы, да хотя бы и по поводу то же озоновой дыры. А если этому ИИ скормить все материалы по Ковиду? И что бы любой мог с этим ИИ "поговорить"? Там чёрт знает что можно раскопать...

А если вдуть в ИИ все накопленные архивы ну например за XV век... не получится ли так, что жизнь какого-нибудь К.Медчи можно будет восстановить буквально по дням? И имея такую мощь что смогут нарыть полчища докторов, кандидатов в доктора, аспирантов, дипломников даже без учёта независимых исследователей и просто любознательных пятиклассников?

Реальный ИИ опасен, поэтому доступ к нему должен и будет ограничен.

Аватар пользователя vleo
vleo(9 лет 10 месяцев)

Против ИИ выступает секта снижения численности населения на кв. км. до Российских норм - то есть до 1 млрд. максимум на всю Планету.

Но мы то и сами в этой секте - у нас-то норматив как раз такой, о котором ТАМ только  мечтают.

Поэтому - на поганом Западе и в самом деле с ИИ пора завязывать, а у нас, в стране будущего (по плотности населения и энерговооруженности (высокой) на душу населения) - ИИ можно и нужно внедрять. Путин вот подтвердил недавно...

Аватар пользователя TOGFO
TOGFO(2 года 4 месяца)

Против ИИ выступает секта снижения численности населения

ну то есть те российские и гейропейские чиновники, которые говорят о замене гос аппарата на ИИ - они в сладострастном единении заботятся исключительно о росте населения???