Классический форум-трекер
canvas not supported
Нас вместе: 4 231 970

Реальные опасности искусственного интеллекта


Страницы:   Пред.  1, 2, 3 
 
RSS
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Дискуссионный клуб
Автор Сообщение
Михаил ®
 
Стаж: 13 лет 2 мес.
Сообщений: 21356
Ratio: 22.972
100%
Когда речь заходит об искусственном интеллекте, в голове мгновенно всплывает знакомым рефреном фраза про роботов, которые нас всех скоро заменят. Этот первобытный страх не очень обоснован, но в силу растиражированности в поп-культуре умело скрывает за собой реальные проблемы, которые может создать бурное развитие ИИ уже завтра. Дело в том, что до захвата нас роботами мы можем просто не дожить — задохнемся или перегреемся, если развитие искусственного интеллекта будет происходить в направлении, которым идет сейчас.

В первую очередь, не стоит пугаться. Бурное развитие ИИ и сопутствующие проблемы — это решаемый вопрос, и ученые всего мира уже начали его решать (мы расскажем, что и как). Но для начала необходимо обрисовать текущую ситуацию.

Искусственный интеллект сейчас стал модным выражением, на которое сбегаются инвесторы и просто любопытные. Как и большинство популярных научных историй, которые внедряет бизнес, тема перегрета и переиспользуется. Что это означает на практике? Так как основная задача бизнеса — это получение прибыли, то любые разработки и любые достижения науки, которые решали прикладные задачи, при вовлечении бизнеса стараются масштабировать; при этом бизнес не особо думал о вреде наносимым окружающей среде и социуму при масштабировании. Например, это последствия второй промышленной революции: когда автомобилей на дорогах было мало, то наносимый ими вред окружающей среде тоже был невелик. Сейчас, когда владельцем авто стал каждый пятый человек в мире, то и количество выбросов СО2 в окружающую среду несопоставимо способности природы самоочищаться.

Почему встал вопрос об экологичности ИИ? Представим себе нейросети, которые ученые используют для решения важных научных задач. В этом случае, хотя обучение нейросетей и тратит определенное количество ресурсов, человечество по итогам получает возможность решения финансовых задач (игра на бирже), улучшение безопасности (видеоаналитика и распознавание документов), распознавание редких видов рака и прочее. Эти безусловно полезные и надежно внедренные в повседневность разработки не вызывали вопросов, так как разрабатывались в условиях сознательных ограничений и не выходили в массы. Однако когда нейросети стали использовать большинство компаний, в том числе для создания развлекательного контента (к примеру рисование), это привело к негативному воздействию на окружающую среду; Strubell et al. (2019) показали, что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет. Это перепотребление и привело к тому, что самым насущным вопросом стал вопрос экологичности ИИ. Таким образом, ИИ ученые разделили на два лагеря — Зеленый и Красный.
    Почему большая часть ИИ все же Красная? Активное внедрение технологий искусственного интеллекта приводит к постоянному увеличению мощности процессоров, работа которых требует значительных затрат энергии. Так, прогресс в данной области имеет и отрицательную сторону, заставляя человечество сжигать большее количество углеводородного топлива, с помощью которого в мире вырабатывается львиная доля электричества. В конечном итоге это ведет к загрязнению атмосферы вредными выбросами.
Красным становится тот искусственный интеллект, обучение и исполнение которого ничем не ограничено. Когда мы пользуемся мобильным телефоном или ноутбуком, то всегда видим заряд батарейки. Поэтому, когда запускаем на них игры или смотрим кино, то прекрасно знаем, что заряда хватит не навсегда. Мы можем оценить ущерб, предусмотреть его и заплатить за него. В случае с Красным ИИ, каждый раз, когда нейросети используются для написания посредственных текстов или рисования посредственных рисунков, где-то жужжат дата-центры, тратятся киловатты, но никто и никогда не скажет, сколько именно. Мы просто не видим наносимый вред, и, следовательно, только приумножаем его.
    Термин «Зеленый ИИ» относится к исследованиям в области искусственного интеллекта, которые дают новые результаты, принимая во внимание вычислительные затраты, способствующие сокращению затрачиваемых ресурсов.
Когда в Smart Engines задумались об экологичности нашего ИИ, то в первую очередь руководствовались как раз сокращением ресурсов, требуемых для обучения искусственного интеллекта: мы посчитали, что нужно не увеличивать размеры нейросетей, а улучшать их качество, то есть добиваться высокоточных результатов меньшим количеством вычислительных операций. Как сделать эффективность основным критерием оценки? Тут современные ученые столкнулись с несколькими проблемами, так как существует множество потенциальных мер эффективности, каждая из которых ограничена по-разному:
  1. количество углерода, выбрасываемого при разработке ИИ, является важным показателем, но его трудно точно измерить, и он во многом зависит от местной инфраструктуры электроснабжения.
  2. количество электроэнергии, потребляемой системой искусственного интеллекта, легче измерить, но оно также во многом зависит от локальной машины, на которой проводятся эксперименты, и, следовательно, не сопоставимо между разными исследователями в разных местах.
  3. измерение суммы затрат на эксперимент может помочь вдохновить на разработку более дешевых моделей искусственного интеллекта, но и здесь измерение является проблемой, поскольку неясно, как оценивать эксперименты на местном оборудовании.

Так вышло, что самым зеленым ИИ, независимо от того, какой из способов выше использовать для определения его эффективности, стал местный ИИ. Российская алгоритмическая школа всегда бережно относилась к вычислительным ресурсам. Советская школа изначально жила в ограничениях (мы отставали в микроэлектронике), поэтому, когда это стало проблемой мирового масштаба, у нас оказался научный задел. Здесь всегда так делали, а это вдруг стало модным. Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.

Можем ли мы, как ученые, формировать эко-повестку в вопросах ИИ? Нет, но как ученые, мы не можем не предсказывать — это нормальная функция любого представителя науки. Уже сейчас, во время международной климатической конференции Cop26, инвесторы ищут исключительно «зеленые» проекты, в которые можно вкладывать, а фонды отказываются от спонсирования компаний, не задумывающихся об окружающей среде.

В области искусственного интеллекта мы в первую очередь должны задаваться вопросом: «а как это качественно улучшит жизнь человека?». Ведь цена за ответ на этот вопрос может быть очень высокой. Как бы текущий ИИ не оказался пластиковым пакетом на свалке истории.

Автор: Владимир Арлазаров, к.т.н., генеральный директор Smart Engines
Источник
aiwalev
Стаж: 12 лет 2 мес.
Сообщений: 9370
Ratio: 3781.195
36.26%
ukraine.gif
Отец Карл писал(а): Перейти к сообщению
А никто не считал что стоит для природы 50 миллионов буханок хлеба ежедневно только для одной страны? Или это менее важно?

Это Вы к чему? По 125 грамм на рыло, или заменить часть буханок хлеба другими буханками?
hobar
Стаж: 14 лет 1 мес.
Сообщений: 25
Ratio: 6.005
18.69%
Когда читаю подобные тексты, хочется чтобы он ii заменил собой автора этого , и больше не появлялся подобный бред
aiwalev
Стаж: 12 лет 2 мес.
Сообщений: 9370
Ratio: 3781.195
36.26%
ukraine.gif
hobar писал(а): Перейти к сообщению
Когда читаю подобные тексты, хочется чтобы он ii заменил собой автора этого , и больше не появлялся подобный бред

Это не бред, это ближайщее будущее. У кого-то в розетке что-то исчезнет.
AdlSh
Стаж: 13 лет 5 мес.
Сообщений: 121
Ratio: 18.536
100%
pirates.png
Рекламная статья некой "зелёной" компании, которая якобы беспокоится за будущее человечества. Что она здесь - на ННМ делает?
aiwalev писал(а): Перейти к сообщению
hobar писал(а): Перейти к сообщению
Когда читаю подобные тексты, хочется чтобы он ii заменил собой автора этого , и больше не появлялся подобный бред

Это не бред, это ближайщее будущее. У кого-то в розетке что-то исчезнет.

Статья полнейший бред. Загрязнение окружающей среды будет увеличиваться, что с красным ИИ, что с зелёным, и даже без ИИ будет только расти. Какой-то реальной опасности (о которой эта статья) я так и не увидел. Просто очередная шарашкина контора хочет заработать на псевдоэкологичности своего продукта.
milakasha
Стаж: 11 лет 5 мес.
Сообщений: 168
Ratio: 1.163
76.98%
быстрее бы ИИ переписал код вин11, существенно лишив багов и т.п., уменьшив его и облегчив установку на любые компы, хоть и 20 летней давности...
aiwalev
Стаж: 12 лет 2 мес.
Сообщений: 9370
Ratio: 3781.195
36.26%
ukraine.gif
AdlSh писал(а): Перейти к сообщению

Статья полнейший бред. Загрязнение окружающей среды будет увеличиваться, что с красным ИИ, что с зелёным, и даже без ИИ будет только расти.

ИИ соврешенно не при чем, как и загрязнение окружающей среды.
Не знаю, будет ли расти загрязнение, но точно знаю, что будут расти счета за электричество.
И статься именно об этом.

AdlSh писал(а): Перейти к сообщению

Какой-то реальной опасности (о которой эта статья) я так и не увидел. Просто очередная шарашкина контора хочет заработать на псевдоэкологичности своего продукта.

Это обычная статья для наполнения площади журнала. Ее ни полезной, ни рекламной трудно назвать.
Snusmumrik+
Стаж: 13 лет 3 мес.
Сообщений: 156
Ratio: 8.191
49.91%
russia.gif
О каком ИИ, вообще, речь? Все про него новости постят/читают/обсуждают. Возможно, где-то в лабораториях он существует. В реальной жизни его нет, а есть только набор алгоритмов различных по сложности. Конечно, для большинства людей сложный алгоритм представляется чем-то невероятным, "интеллектуальным", но это не делает его ИИ, это всего лишь программа, возможно, использующая статистику каких-либо данных, больших (BigData) и не очень.

P.S.
Читал фантастическое произведение, где "умный гель", тот самый ИИ, управлял всякими механизмами и т.п. и никто не знал, как он принимает те или иные решения, ибо - натуральный ИИ! И вот однажды на одной из подземных станций метро вырубилась вентиляция, "умный гель" её отключил, и много людей погибли от удушья. Когда начались разборки, почему такое решение было принято - выключить вентиляцию - выяснилось, что решения "умный гель" принимал на основании времени которое показывали настенные часы, висевшие на станции, которые однажды просто сломались
ms-medit
Стаж: 2 года 8 мес.
Сообщений: 261
Ratio: 1.863
100%
Откуда: Параллельная Реальность
Статья неочём, уводит внимание от реальной опасности ИИ, которая не за горами. Типичные уловки.

_________________
Не ищите истины, её просто нет! (c)
savsoft
Стаж: 12 лет 10 мес.
Сообщений: 3046
Ratio: 1.17
37.62%
Вот странно, почему ИИ, чем больше потребляет электроэнергии, тем краснее?
А транспорт, чем больше потребляет электроэнергии, тем зеленее?
И это без учета утилизации вредных батарей?

Или перефразируем, почему потребление электроэнергии ИИ - плохо, а транспортом - хорошо?
Prodif2
Стаж: 2 года 4 мес.
Сообщений: 88
Ratio: 95.02
100%
У нас стали вкладывать в пиар ИИ. Задача тотального контроля решается, но верны ли алгоритмы ..
Rez13
Стаж: 9 лет 6 мес.
Сообщений: 102
Ratio: 1.368
99.14%
Цитата:
Советская школа изначально жила в ограничениях (мы отставали в микроэлектронике), поэтому, когда это стало проблемой мирового масштаба, у нас оказался научный задел. Здесь всегда так делали, а это вдруг стало модным. Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.


Так же отстаем, но делаем из этого моду и пиар)))
нарцис
Стаж: 10 лет 9 мес.
Сообщений: 205
Ratio: 1.119
9.26%
belarus.gif
ИИ - это всего лишь программа. Отличие ИИ от работы мозга подробно рассмотрено у С.Савельева. Сам лично писал для программистов ТЗ на разработку автоматизированных систем и алгоритмов действий, а затем выполнял прогон рабочей версии программы. От качества написания программы зависит ее работоспособность, в том числе и некое типа саморазвитие. Но как тока система выйдет за предел алгоритма - будет труп. И Тесла со своим ИИ имеет уже солидное кладбище, а российские системы безопасности на дорогах штрафуют автовладельцев, за то, что тень от авто наезжает на двойную сплошную. :смех:
maximcom
Стаж: 12 лет 6 мес.
Сообщений: 7
Ratio: 12.74
0%
Искуственного интеллекта не существует (с) Савельев С.В.
Смотрите раздачи здесь на трекере.
Raptor303
Стаж: 12 лет 7 мес.
Сообщений: 8778
Ratio: 44.152
100%
estonia.gif
Цитата:
Красным становится тот искусственный интеллект, обучение и исполнение которого ничем не ограничено. Когда мы пользуемся мобильным телефоном или ноутбуком, то всегда видим заряд батарейки.

А если от провода, что ведет в розетку? Неограниченная энергия. Предел не в электричестве, а в мощностях, которые способен выдать комп, грубо говоря. Все компьютеры имеют эти пределы, а так как компов в мире ограниченное количество, не говоря уже о доступности вычислительных мощностей для потребности ИИ, вот вам и предел.
Тот или иной ИИ, суперкомпьютер, так или иначе ограничен по мощностям. Вот квантовые суперкомпы это нечто новое...

Verchovcev писал(а): Перейти к сообщению
Самая большая опасность ИИ в том что он выдаётся как нечто самостоятельное, в то время, как является лишь ПО с заданным алгоритмом и целью.

Постойте, а где здесь опасность, в чем она? Здесь вы привели пример ложного постулата, ошибки, грубо говоря. То есть, что люди неправильно понимают суть "искусственного интеллекта". Это не имеет отношения к опасностям.

Империя Бездарей писал(а):
Человечество будет развиваться и изобретать иначе настанет угасание и конец истории.

Хотел бы я придерживаться этой точки зрения, но не могу ) Мой вывод основан на том, что мы имеем в мире на данный момент, при чем, это можно было бы сказать и в прошлом веке. Допустим, прогресс науки и техники остановлен, ничего нового не создают, ну просто ничего нового. Все, точка. Новейшее это только то, что есть на данный момент. Ну и? Мы все загибаемся и вымираем? Что-то я не уверен.
Большинство людей в мире ничего нового не создают, они просто пользуются тем, что создает мизерный процент населения. Изобретатели, разработчики, исследователи... Большинству человечества будет в целом нормально жить в следующие тысячу лет на уровне науки и техники нашего времени, времени 1923 года, времени 1823 года и тд. Просто потому, что в целом быт налажен, привычный уклад жизни есть. Лишь малый процент населения это новые таланты, кто хочет создавать новое. Те же братья Райт, например. А сколько в мире было людей, кто хотел изобрести самолет? Наверно не очень много ) Кто хотел бы летать, это отдельный вопрос, хотеть могут все. Но делать и делать новое будут единицы.
Так вот, если остановить прогресс, останется только наладить систему так, чтобы экономика и прочее не загнулось. То есть, чтобы подвести экономику и промышленность под "остановленный прогресс", чтобы все это не зависело от прогресса, от ожидания новых изобретений. Думается мне, не так уж это и сложно было бы сделать. Так что развиваться или нет, это не вопрос выживания, даже не близко. На нашем уровне развития науки и техники мы уже достигли очень больших высот, чтобы можно было комфортно жить практически вечно без надобности изобретать новое (а вот так уже сказать сто лет назад было бы трудно).
Вам то из Империи Бездарей это должно быть очевидно :D
Nickalay
Стаж: 3 года 9 мес.
Сообщений: 769
Ratio: 0.012
26.09%
Считаю, что на сегодня главная опасность ИИ в его бездумном использовании.
Нет в законах никаких ограничений пока.
Вот к примеру, почему не дать ИИ задачу: 1) сочинить историю Земли, где бы человечество произошло от пары американцев; 2) придумать бога и написать другую библию; 3) сочинить поэму восхваляющую глистов. и т.п.
И ведь он ИИ - со всем бы справился... наверное.

_________________
То, что ты ищешь, тоже ищет тебя.
Показать сообщения:   
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Дискуссионный клуб Часовой пояс: GMT + 3
Страницы:   Пред.  1, 2, 3
Страница 3 из 3