Реальные опасности искусственного интеллекта

Когда речь заходит об искусственном интеллекте, в голове мгновенно всплывает знакомым рефреном фраза про роботов, которые нас всех скоро заменят. Этот первобытный страх не очень обоснован, но в силу растиражированности в поп-культуре умело скрывает за собой реальные проблемы, которые может создать бурное развитие ИИ уже завтра. Дело в том, что до захвата нас роботами мы можем просто не дожить — задохнемся или перегреемся, если развитие искусственного интеллекта будет происходить в направлении, которым идет сейчас.

В первую очередь, не стоит пугаться. Бурное развитие ИИ и сопутствующие проблемы — это решаемый вопрос, и ученые всего мира уже начали его решать (мы расскажем, что и как). Но для начала необходимо обрисовать текущую ситуацию.

Искусственный интеллект сейчас стал модным выражением, на которое сбегаются инвесторы и просто любопытные. Как и большинство популярных научных историй, которые внедряет бизнес, тема перегрета и переиспользуется. Что это означает на практике? Так как основная задача бизнеса — это получение прибыли, то любые разработки и любые достижения науки, которые решали прикладные задачи, при вовлечении бизнеса стараются масштабировать; при этом бизнес не особо думал о вреде наносимым окружающей среде и социуму при масштабировании. Например, это последствия второй промышленной революции: когда автомобилей на дорогах было мало, то наносимый ими вред окружающей среде тоже был невелик. Сейчас, когда владельцем авто стал каждый пятый человек в мире, то и количество выбросов СО2 в окружающую среду несопоставимо способности природы самоочищаться.

Почему встал вопрос об экологичности ИИ? Представим себе нейросети, которые ученые используют для решения важных научных задач. В этом случае, хотя обучение нейросетей и тратит определенное количество ресурсов, человечество по итогам получает возможность решения финансовых задач (игра на бирже), улучшение безопасности (видеоаналитика и распознавание документов), распознавание редких видов рака и прочее. Эти безусловно полезные и надежно внедренные в повседневность разработки не вызывали вопросов, так как разрабатывались в условиях сознательных ограничений и не выходили в массы. Однако когда нейросети стали использовать большинство компаний, в том числе для создания развлекательного контента (к примеру рисование), это привело к негативному воздействию на окружающую среду; Strubell et al. (2019) показали, что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет. Это перепотребление и привело к тому, что самым насущным вопросом стал вопрос экологичности ИИ. Таким образом, ИИ ученые разделили на два лагеря — Зеленый и Красный.

Почему большая часть ИИ все же Красная? Активное внедрение технологий искусственного интеллекта приводит к постоянному увеличению мощности процессоров, работа которых требует значительных затрат энергии. Так, прогресс в данной области имеет и отрицательную сторону, заставляя человечество сжигать большее количество углеводородного топлива, с помощью которого в мире вырабатывается львиная доля электричества. В конечном итоге это ведет к загрязнению атмосферы вредными выбросами. Красным становится тот искусственный интеллект, обучение и исполнение которого ничем не ограничено. Когда мы пользуемся мобильным телефоном или ноутбуком, то всегда видим заряд батарейки. Поэтому, когда запускаем на них игры или смотрим кино, то прекрасно знаем, что заряда хватит не навсегда. Мы можем оценить ущерб, предусмотреть его и заплатить за него. В случае с Красным ИИ, каждый раз, когда нейросети используются для написания посредственных текстов или рисования посредственных рисунков, где-то жужжат дата-центры, тратятся киловатты, но никто и никогда не скажет, сколько именно. Мы просто не видим наносимый вред, и, следовательно, только приумножаем его.

Термин «Зеленый ИИ» относится к исследованиям в области искусственного интеллекта, которые дают новые результаты, принимая во внимание вычислительные затраты, способствующие сокращению затрачиваемых ресурсов.Когда в Smart Engines задумались об экологичности нашего ИИ, то в первую очередь руководствовались как раз сокращением ресурсов, требуемых для обучения искусственного интеллекта: мы посчитали, что нужно не увеличивать размеры нейросетей, а улучшать их качество, то есть добиваться высокоточных результатов меньшим количеством вычислительных операций. Как сделать эффективность основным критерием оценки? Тут современные ученые столкнулись с несколькими проблемами, так как существует множество потенциальных мер эффективности, каждая из которых ограничена по-разному:

количество углерода, выбрасываемого при разработке ИИ, является важным показателем, но его трудно точно измерить, и он во многом зависит от местной инфраструктуры электроснабжения.
количество электроэнергии, потребляемой системой искусственного интеллекта, легче измерить, но оно также во многом зависит от локальной машины, на которой проводятся эксперименты, и, следовательно, не сопоставимо между разными исследователями в разных местах.
измерение суммы затрат на эксперимент может помочь вдохновить на разработку более дешевых моделей искусственного интеллекта, но и здесь измерение является проблемой, поскольку неясно, как оценивать эксперименты на местном оборудовании.

Так вышло, что самым зеленым ИИ, независимо от того, какой из способов выше использовать для определения его эффективности, стал местный ИИ. Российская алгоритмическая школа всегда бережно относилась к вычислительным ресурсам. Советская школа изначально жила в ограничениях (мы отставали в микроэлектронике), поэтому, когда это стало проблемой мирового масштаба, у нас оказался научный задел. Здесь всегда так делали, а это вдруг стало модным. Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.

Можем ли мы, как ученые, формировать эко-повестку в вопросах ИИ? Нет, но как ученые, мы не можем не предсказывать — это нормальная функция любого представителя науки. Уже сейчас, во время международной климатической конференции Cop26, инвесторы ищут исключительно «зеленые» проекты, в которые можно вкладывать, а фонды отказываются от спонсирования компаний, не задумывающихся об окружающей среде.

В области искусственного интеллекта мы в первую очередь должны задаваться вопросом: «а как это качественно улучшит жизнь человека?». Ведь цена за ответ на этот вопрос может быть очень высокой. Как бы текущий ИИ не оказался пластиковым пакетом на свалке истории.

Автор: Владимир Арлазаров, к.т.н., генеральный директор Smart Engines
Источник

У некоторых особ в натуре,такой ужасно-опасный интеллект, что ИИ ему и в подметки не годится.🙉😱🖕

Может ли машина мыслить ? Вот в чём вопрос! И что значит "мыслить" ?

ИИ и умный робот, это две больших разницы! ИИ, если его создать, будет существовать не в единичном самосущем механизме, каким бы материальным он ни был, а в сети, в Ноосфере или, как у Кубрика, в минеральном монолите (шутка). ИИ не может иметь личности по определению, он сама осознанность! И люди для него, как представители осознающих существ, представляют смысл существования... Как-то так. А все эти ужасные страсти придуманы чувством собственной важности личного "Я" примата homo sapiens.

А я бы посмотрел на первую машинную войну!
То что она будет - сомнения нет. Это логически верно: создать мы его создадим, но в силу всей гадости человеческой натуры, он, ИИ, нас не примет - как равных.

Жаль не доживу. Как-то невнятно это всё развивается. Пока нет даже намёков, хотя работы, и это хорошо, идут полным ходом, на технологическую сингулярность.

Это будет поистине интересное время!

Просмотр доступен только для зарегистрированных пользователей

Капец...Терминатора что никто уже не помнит...

Foxsik8 писал(а):

Задача ИИ, если такое создадут это
1. Усовершенствования себя для решения любых задач.
2. Создание бесплатной или очень дешевой энергии.
3. Создание много еды практически из нечего.
3. Лечение всех человеческих болезней вплоть до бессмертия.
4. Ну и остальная мелочевка.
И тут если ИИ обретет самосознание (что подразумевается), а не подумает ли оно, что человечество ему, такому красивому и могучему, не нужно.

Это невозможно, т.к. человечество деградирует интеллектуально, причем ударными темпами, а модели поведения и алгоритмы "мышления" ИИ копируются с живых кожаных прототипов. Если человек-прототип не будет обладать опытом и знаниями в определенной области, то ИИ там ничего не светит. Чтобы получить очень дешевую энергию, надо чтобы сначала ее получение до конца доизобрёл человек, тот-же термоядерный синтез довести до стадии самоподдерживающейся реакции. Но и тут не всё так просто, нужно будет еще иметь штат программистов-практикующих физиков ядерщиков, которые разбираются в тематике, знающий и учитывающий все тонкости. Ну и т.д. и т.п.

Так что, ближайшие пару-тройку сотен лет, ИИ действительно будет инструментом биржевых спекулянтов, не более того...

Цитата:

Когда речь заходит об искусственном интеллекте, в голове мгновенно всплывает фраза -

- Фантазёры самодуры :смех:

боевые роботы под управлением набора скриптов, называемых по недоразумению ИИ, уже поступают на вооружение армий несколько лет. они охраняют самые секретные объекты типа пусковых шахт ракет или АЭС.

Зеленые террористы и в "ИИ" забрались )))

Хотя какой ИИ? где они его видели?

Ни кто не может даже описать принцип построения Интелекта,
но это не преграда для нынешних "спецов" -- они уже во многие нынешние программы встроили ИИ :кругом голова:

Даже лопата, бодро отвечающая на предложение пойти вскопать грядочку:
-- "Иди ты нах.. со своей грядочкой", больше будет восприниматься как ИИ, чем то, что выдают сегодня за ИИ

Отличная статья, спасибо.

Цитата:

Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.

Зеленый - это цвет банкнот?

NerdMan писал(а):

Для чего он нужен, своего не хватает?

угу, шутка была в Академии Наук годах в 80-х, искусственным интеллектом занимается только тот, кому естественного не хватает.

А никто не считал что стоит для природы 50 миллионов буханок хлеба ежедневно только для одной страны? Или это менее важно?