Реальные опасности искусственного интеллекта

Когда речь заходит об искусственном интеллекте, в голове мгновенно всплывает знакомым рефреном фраза про роботов, которые нас всех скоро заменят. Этот первобытный страх не очень обоснован, но в силу растиражированности в поп-культуре умело скрывает за собой реальные проблемы, которые может создать бурное развитие ИИ уже завтра. Дело в том, что до захвата нас роботами мы можем просто не дожить — задохнемся или перегреемся, если развитие искусственного интеллекта будет происходить в направлении, которым идет сейчас.

В первую очередь, не стоит пугаться. Бурное развитие ИИ и сопутствующие проблемы — это решаемый вопрос, и ученые всего мира уже начали его решать (мы расскажем, что и как). Но для начала необходимо обрисовать текущую ситуацию.

Искусственный интеллект сейчас стал модным выражением, на которое сбегаются инвесторы и просто любопытные. Как и большинство популярных научных историй, которые внедряет бизнес, тема перегрета и переиспользуется. Что это означает на практике? Так как основная задача бизнеса — это получение прибыли, то любые разработки и любые достижения науки, которые решали прикладные задачи, при вовлечении бизнеса стараются масштабировать; при этом бизнес не особо думал о вреде наносимым окружающей среде и социуму при масштабировании. Например, это последствия второй промышленной революции: когда автомобилей на дорогах было мало, то наносимый ими вред окружающей среде тоже был невелик. Сейчас, когда владельцем авто стал каждый пятый человек в мире, то и количество выбросов СО2 в окружающую среду несопоставимо способности природы самоочищаться.

Почему встал вопрос об экологичности ИИ? Представим себе нейросети, которые ученые используют для решения важных научных задач. В этом случае, хотя обучение нейросетей и тратит определенное количество ресурсов, человечество по итогам получает возможность решения финансовых задач (игра на бирже), улучшение безопасности (видеоаналитика и распознавание документов), распознавание редких видов рака и прочее. Эти безусловно полезные и надежно внедренные в повседневность разработки не вызывали вопросов, так как разрабатывались в условиях сознательных ограничений и не выходили в массы. Однако когда нейросети стали использовать большинство компаний, в том числе для создания развлекательного контента (к примеру рисование), это привело к негативному воздействию на окружающую среду; Strubell et al. (2019) показали, что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет. Это перепотребление и привело к тому, что самым насущным вопросом стал вопрос экологичности ИИ. Таким образом, ИИ ученые разделили на два лагеря — Зеленый и Красный.

Почему большая часть ИИ все же Красная? Активное внедрение технологий искусственного интеллекта приводит к постоянному увеличению мощности процессоров, работа которых требует значительных затрат энергии. Так, прогресс в данной области имеет и отрицательную сторону, заставляя человечество сжигать большее количество углеводородного топлива, с помощью которого в мире вырабатывается львиная доля электричества. В конечном итоге это ведет к загрязнению атмосферы вредными выбросами. Красным становится тот искусственный интеллект, обучение и исполнение которого ничем не ограничено. Когда мы пользуемся мобильным телефоном или ноутбуком, то всегда видим заряд батарейки. Поэтому, когда запускаем на них игры или смотрим кино, то прекрасно знаем, что заряда хватит не навсегда. Мы можем оценить ущерб, предусмотреть его и заплатить за него. В случае с Красным ИИ, каждый раз, когда нейросети используются для написания посредственных текстов или рисования посредственных рисунков, где-то жужжат дата-центры, тратятся киловатты, но никто и никогда не скажет, сколько именно. Мы просто не видим наносимый вред, и, следовательно, только приумножаем его.

Термин «Зеленый ИИ» относится к исследованиям в области искусственного интеллекта, которые дают новые результаты, принимая во внимание вычислительные затраты, способствующие сокращению затрачиваемых ресурсов.Когда в Smart Engines задумались об экологичности нашего ИИ, то в первую очередь руководствовались как раз сокращением ресурсов, требуемых для обучения искусственного интеллекта: мы посчитали, что нужно не увеличивать размеры нейросетей, а улучшать их качество, то есть добиваться высокоточных результатов меньшим количеством вычислительных операций. Как сделать эффективность основным критерием оценки? Тут современные ученые столкнулись с несколькими проблемами, так как существует множество потенциальных мер эффективности, каждая из которых ограничена по-разному:

количество углерода, выбрасываемого при разработке ИИ, является важным показателем, но его трудно точно измерить, и он во многом зависит от местной инфраструктуры электроснабжения.
количество электроэнергии, потребляемой системой искусственного интеллекта, легче измерить, но оно также во многом зависит от локальной машины, на которой проводятся эксперименты, и, следовательно, не сопоставимо между разными исследователями в разных местах.
измерение суммы затрат на эксперимент может помочь вдохновить на разработку более дешевых моделей искусственного интеллекта, но и здесь измерение является проблемой, поскольку неясно, как оценивать эксперименты на местном оборудовании.

Так вышло, что самым зеленым ИИ, независимо от того, какой из способов выше использовать для определения его эффективности, стал местный ИИ. Российская алгоритмическая школа всегда бережно относилась к вычислительным ресурсам. Советская школа изначально жила в ограничениях (мы отставали в микроэлектронике), поэтому, когда это стало проблемой мирового масштаба, у нас оказался научный задел. Здесь всегда так делали, а это вдруг стало модным. Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.

Можем ли мы, как ученые, формировать эко-повестку в вопросах ИИ? Нет, но как ученые, мы не можем не предсказывать — это нормальная функция любого представителя науки. Уже сейчас, во время международной климатической конференции Cop26, инвесторы ищут исключительно «зеленые» проекты, в которые можно вкладывать, а фонды отказываются от спонсирования компаний, не задумывающихся об окружающей среде.

В области искусственного интеллекта мы в первую очередь должны задаваться вопросом: «а как это качественно улучшит жизнь человека?». Ведь цена за ответ на этот вопрос может быть очень высокой. Как бы текущий ИИ не оказался пластиковым пакетом на свалке истории.

Автор: Владимир Арлазаров, к.т.н., генеральный директор Smart Engines
Источник

"что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет."
В этом предложении видимо опечатка в части "потребляет", вероятно имелось ввиду производит СО2, или если потребляет то О2

Самая большая опасность ИИ в том что он выдаётся как нечто самостоятельное, в то время, как является лишь ПО с заданным алгоритмом и целью.

Можно написать миллион работ об опасности и вреде ИИ, но ИИ будет разработан, развит и запущен.
«Всё — яд, всё — лекарство; то и другое определяет доза»

Человечество будет развиваться и изобретать иначе настанет угасание и конец истории.

Verchovcev писал(а):

Самая большая опасность ИИ в том что он выдаётся как нечто самостоятельное, в то время, как является лишь ПО с заданным алгоритмом и целью.

ИИ сам по себе не опасен, не безопасен! :да:

Опасен путь, по которому идёт развитие цивилизации.
И похоже, что это путь скоро закончится. :смех:

роботы, роботы. чушь собачья. человечество строит роботов сотни лет и ничего. проблема в людях и только в них. есть особи желающие безграничной власти и вот они опасны и будут использовать ИИ в своих целях для получения этой безграничной власти, а сам ИИ лишь инструмент, всегда им был и будет.

Verchovcev писал(а):

Самая большая опасность ИИ в том что он выдаётся как нечто самостоятельное, в то время, как является лишь ПО с заданным алгоритмом и целью.

Абсолютно с вами согласен. Примитивное исполнение кода, написанного программистами. Все остальное - лапша на уши обывателей и домохозяек. Прекрасно это осознаю, как чел закончивший матмех ЛГУ.

Никакого искусственного интеллекта нет, вся пурга, что про него несут, нужна только для отмыва бабла, в том числе и государственного, т.е. моих и ваших налогов.

Реальное возникновение ИИ, думаю, возможно лет через 500.

berik81 писал(а):

"что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет."
В этом предложении видимо опечатка в части "потребляет", вероятно имелось ввиду производит СО2, или если потребляет то О2

А самое большой выброс СО2 происходит при доставке программеров на работу.

Империя Бездарей писал(а):

Можно написать миллион работ об опасности и вреде ИИ, но ИИ будет разработан, развит и запущен.
«Всё — яд, всё — лекарство; то и другое определяет доза»

Человечество будет развиваться и изобретать иначе настанет угасание и конец истории.

Конец истории наступит быстрее если будет развиваться и изобретать, а ИИ поможет ему в этом.

"...решения финансовых задач (игра на бирже)..."?! Очень странное понимание. Статья -поверхностная, на мой взгляд и модная

, в свете экологический баталий. ИИ вытеснит человека из большинства производственных цепочек, конечно, но... Кто будет снимать сливки? Маржу? Куда пойдут миллиарды лишних (людей)? Как они будут создавать и продавать прибавочную стоимость? Кому? :задумался:

Цитата:

Реальные опасности искусственного интеллекта

...это управляющие им интеллекты человеческие. :стрельба:

Accuphase писал(а):

Verchovcev писал(а):

Самая большая опасность ИИ в том что он выдаётся как нечто самостоятельное, в то время, как является лишь ПО с заданным алгоритмом и целью.

Абсолютно с вами согласен. Примитивное исполнение кода, написанного программистами. Все остальное - лапша на уши обывателей и домохозяек. Прекрасно это осознаю, как чел закончивший матмех ЛГУ.

Не имеет значение, является ли ИИ чем то самостоятельным или нет. Свою роль в развитии человечества он выполнит. :да:

Для чего он нужен, своего не хватает?

Задача ИИ, если такое создадут это
1. Усовершенствования себя для решения любых задач.
2. Создание бесплатной или очень дешевой энергии.
3. Создание много еды практически из нечего.
3. Лечение всех человеческих болезней вплоть до бессмертия.
4. Ну и остальная мелочевка.
И тут если ИИ обретет самосознание (что подразумевается), а не подумает ли оно, что человечество ему, такому красивому и могучему, не нужно.