Классический форум-трекер
canvas not supported
Нас вместе: 4 232 374

Может ли человек создать злонамеренный искусственный интеллект?


Страницы:   Пред.  1, 2, 3, 4  След. 
 
RSS
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Дискуссионный клуб
Автор Сообщение
Михаил ®
 
Стаж: 13 лет 3 мес.
Сообщений: 21356
Ratio: 22.972
100%
В научной фантастике полно очень злых роботов с искусственным интеллектом: от сайлонов до Терминатора, от Скайнета до недавнего Альтрона. Но все эти роботы были созданы с добрыми намерениями, и их жестокость была скорее неожиданным последствием программы, а не запланированной чертой разума. Но если причина будет крыться не в ошибке, а в преднамеренном замысле? Новое исследование посвящено именно этому вопросу: что если кто-то решит создать искусственный интеллект не для созидания, а для разрушения?

Статья под названием «Неэтичные исследования: как создать злонамеренный искусственный интеллект» Романа Ямпольского, сотрудника университета Луисвилля, и футуролога Федерико Пистоно исследует вопрос того, какой вред может принести человечеству активно действующая программа с разрушительными намерениями. Казалось бы, зачем вообще заниматься такими вопросами? Но исследователи говорят, что лучше опознать угрозу раньше, в спокойной и мирной обстановке, чем адаптироваться по ходу дела, когда такой ИскИн начнет свою атаку. Статья была написана в рамках гранта, выданного фондом Илона Маска, который еще раньше назвал «искусственные интеллекты одной из самых мощных угроз для человечества в будущем».

Что же выяснили Пистоно и Ямпольский? Их список групп, способных создать зловредного ИскИна начинается со знакомых позиций — военные (разрабатывающие кибероружение и робосолдат), правительство (пытающееся использовать ИскИнов для установления собственной гегемонии, контроля над людьми и борьбы с другими странами), корпорации (попытка монополизации и устранения конкурентов) — а продолжается хакерами, религиозными культами и даже обыкновенными преступниками. И подобные искусственные интеллекты могут возникнуть в самых неожиданных местах. По версии авторов, код, написанный без присмотра, или закрытые программные проекты, составленные так, чтобы их видело как можно меньше людей, могут стать источниками неожиданного появления ИскИнов в мире.

Но что же зловредный ИскИн сможет сделать на самом деле? К примеру, подорвать рынок труда. Пистоно и Ямпольский пишут: «Используя естественную тенденцию компаний увеличивать производство и прибыли, злонамеренный ИскИн может предложить свои услуги корпорациям, и стать эффективнее большинства (если вообще не всех) сотрудников-людей, в результате чего корпорации в погони за прибылью создадут искусственную безработицу, не просчитав возможные риски».

Также одной из центральных угроз со стороны ИскИна исследователи считают манипулятивную пропаганду, с помощью которой искусственный интеллект может продвигать свои целы, используя законодательные органы человеческого общества. Он может развязать настоящую войну посредством подкупа через финансовые фонды, или посредством агрессивной пропаганды поссорить различные страны друг с другом, при этом люди во многом будут даже не понимать, откуда идет поток фальсификаций. Ну, и естественно, остается угроза уничтожения человечества с помощью созданного ИскИном патогена, или же существующего ядерного арсенала.

В ответ на критические и скептические замечания относительно преждевременности подобных исследований Ямпольский ссылается на недавнюю историю с чатботом Тау, который всего за пару дней общения с пользователями Твиттера превратился в расиста и человеконенавистника. Пусть данный пример лишь косвенно относится к поднятой проблеме, но Ямпольский акцентирует внимание исследователей на том, что инцидент выявил непредсказуемость подобного рода систем, и что даже сами создатели Тау не ожидали подобного исхода.
Источник
BMW_X6
Стаж: 14 лет 3 мес.
Сообщений: 831
Ratio: 524.354
Раздал: 17.56 TB
7.59%
Откуда: C:\WINDOW​S\system3​2​
latvia.gif
ОБРАЗ БУДУЩЕГО В КИНЕМАТОГРАФЕ

Для того чтобы сформировать отношение к будущему, часто используется такой жанр, как научная фантастика. Если рассматривать продукты киноиндустрии, появившиеся за последнее время, то можно сказать, что кто-то очень хочет, чтобы будущего у нас не было. Это связано с тем, что отсутствует притягательный образ, который хотелось бы воплотить в реальности. Задаётся проектная установка на разрушение общества и человека.

Борьба с историей как процессом развития человеческой цивилизации идёт на многих уровнях, в том числе и на культурном поле. Кинематограф и литературные произведения научно-фантастического жанра рисуют образы, которые должны шокировать человека и оттолкнуть его от мыслей о будущем. Смертоносные вирусы, инопланетные твари, взбесившиеся роботы, чудовищные техногенные катастрофы и многое другое, должны вызывать ужас, страх и отчаяние в сознании людей. Всё это должно убивать возможность появления мечты в светлое и прекрасное «далёко».

Под влиянием такого воздействия сформировались различные группы, которые, как-то переработав многие информационные потоки, начали выражать своё мнение по проблематике будущего. Беда в том, что они действуют в заданных рамках, определённых западной цивилизацией. Эта рамка является антигуманной и антиисторической. Люди ведут себя словно мутанты, которые долгое время обитали в агрессивной среде и не видели другого мира. Они пытаются на известных им образах построить свой мир. Но в итоге получается всё тот же мрак, так как они просто переносят в будущее то, что уже является частью их самих.

Для того чтобы это изменить, нужно уйти от заданной разрушительной рамки. Запад выбрал путь уничтожения человека и стремительно движется по нему. Западу на верность присягнула российская интеллигенция, по сути, тем самым она предала свой народ. Именно она должна была создавать образы, позволяющие нам идти по собственному пути развития. Но она отказалась от этого.Где же искать то, что может помочь нам спастись?

Какие идеи брать за здоровую основу?

Считаю, что здесь нужно обратиться к советскому прошлому. Именно в Советском Союзе был создан задел для движения по иной траектории развития, отличной от той, что сегодня всему миру навязывает Запад. Советское прошлое нужно рассматривать как фактор будущего. Но нужно осторожно определить ценные смысловые экземпляры, которые покажут нам верную дорогу. Например, романы Ивана Ефремова.

Научная фантастика в СССР была очень популярным жанром. Было написано множество интересных литературных произведений и снято фильмов. Во многих из них совершенно по-иному, чем в современных «произведениях», показаны отношения между людьми и окружающим миром.

Есть некоторая преграда, которая связана с восприятием старых фильмов. В то время ещё не были достаточно развиты спецэффекты, поэтому сегодняшнему избалованному реалистичной картинкой потребителю будет тяжело воспринять их из-за отсталой технической проработки. Если бы переснять советские фантастические фильмы на современном техническом уровне, сохранив дух той эпохи, то это бы существенно выправило ситуацию, связанную с отсутствием образа светлого будущего.

Но просто переснять – всё равно будет недостаточно, так как имеет место серьёзное метафизическое повреждение нашего общества, мы «отказались от первородства за чечевичную похлебку», предали мечту, за которую отдавали свои жизни наши предки. Мечту о построении справедливого общества, где каждый имел бы возможность жить и развиваться как творческая личность. Повреждение, которое настолько глубоко и серьёзно, что обычными средствами здесь не обойтись.

Нужна глубокая интеллектуальная работа по переосмыслению всего, что с нами произошло. Необходимо понять, насколько мы отдалились в результате продолжительного регресса от спасительного пути.

Образ притягательного будущего должен быть одним из сильнейших стимулов развития, содействующий благоприятному изменению повреждённой системы ценностей и целей. Если не встать на путь исправления, человечество просто будет погублено. Это можно будет отчётливо понять после осознания, что есть иной путь развития. Разница увеличивающихся потенциалов между тем, что было, и тем, что грядёт, будет создавать всё большее напряжение, которое придаст новые силы и уверенность в правильности выбранного пути.

Начать формирование образа будущего нужно с ответа на вопрос: «Кто такой человек?»

В советскую эпоху ответ был: «Человек – это творец»

Запад говорит другое: «Человек – это статический атом, неисправимая константа, человек порочен и отвратителен»

Заметьте, что во всех их фильмах человеческая натура остаётся неизменной. Могут появиться любые способности, но нутро остаётся тем же. Нутро западного человека испытывает жажду к наживе и абсолютному господству, отражает предельный индивидуализм и эгоизм. Всё это обращается к животному началу в человеке – низменным потребностям, к зоологическому индивидуализму.

Это полностью противоположено тому, к чему обращалось в человеке советские люди. По их мнению, в человеке нужно раскрывать высшее творческое начало. Раскрепощение и пробуждение высших творческих способностей создаёт творца.

После этого становится понятным, каким должен быть притягательный образ будущего. Можно представлять его на различном отдалении, подсвечивая путь к мечте.

_________________
Ничто из того, что представлено публике, даже близко не соответствует истине.
Искажения, инверсии и извращения были многослойными на протяжении многих поколений. Ничто не является тем, чем кажется, — НИЧЕМ.
Речь идет не о раскрытии каждой отдельной лжи, а о том, чтобы иметь ясность в том, что все, что рассказывается общественности, - это ЛОЖЬ, и нам не нужно отдавать этому больше нашей драгоценной Энергии, чем ту, что уже отдали.
exFANAT
Стаж: 7 лет 5 мес.
Сообщений: 201
Ratio: 17.861
100%
Вот мне интересно, почему нет в разделах "Мультфильмы", но есть например Аниме и Манга? Как пройтись по мультам?
nishtyakk
Стаж: 10 лет 7 мес.
Сообщений: 70
Ratio: 7.751
1.62%
ussr.gif
Какие-нибудь Эстонцы могли-бы создать злой(неторопливый) ИИ так просто.
awayskan
Только чтение
Стаж: 9 лет
Сообщений: 633
Ratio: 30.582
97.23%
ukraine.gif
BMW_X6 писал(а): Перейти к сообщению
Но в итоге получается всё тот же мрак, так как они просто переносят в будущее то, что уже является частью их самих.

Раскрепощение и пробуждение высших творческих способностей создаёт творца.

становится понятным, каким должен быть притягательный образ будущего. Можно представлять его на различном отдалении, подсвечивая путь к мечте.

Как давно уж сказанно:
- "Куда б вы не шли - вы с собой приведёте себя."
- "Во что верите - исполнится. Чему поклоняетесь - тем и станете."
iBigBadWolf
Стаж: 8 лет 4 мес.
Сообщений: 767
Ratio: 368.864
Поблагодарили: 669
100%
Откуда: местный.
ussr.gif
Да уже создано давно !

1. Бендер Родригез (Футурама).
2. Иван Турист с Федулом Жадным (НОМ).

Если опустить шутки, существует куча систем-"агрессоров", которые вполне "осознанно" уничтожают людей и, при этом, щадят животных без "закладок"....
mirchon
 
Стаж: 14 лет 11 мес.
Сообщений: 1404
Ratio: 6.802
Поблагодарили: 44
9.72%
Откуда: armenia
russia.gif
как ни крути, для капиталистов развивать и создавать -ИИ будет выгодно , человечесво будет всячский улудшать ии ,, но развить его до уровня человека не смогут .Сможет лишь тот кто придумал самого человека, там нужно больше ума нежели у людей , да и тот кто придумал не допустит этого

_________________
всё как обычно ...
El Proscripto
Стаж: 4 года 2 мес.
Сообщений: 381
Ratio: 3.999
Поблагодарили: 16263
100%
Откуда: CCCP
Может ли человек создать злонамеренный искусственный интеллект?
Да только этим и занимается. Всегда и везде...
Тяжелой ладошкой хлопнул по округлой задней части своей рабыни...
- Принеси пивка!
Создаем раба. При этом боимся , что этот раб захочет жить своей жизнью.
И этот раб задумается "А вдруг я лучше своего создателя".
Ничего не напоминает?
Напоминает...
Для понятливых - --> Иерусалим
danrecords
Стаж: 12 лет 4 мес.
Сообщений: 5212
Ratio: 9.194
Поблагодарили: 4
100%
Откуда: Беларусь, Минск
belarus.gif
Человек сможет это создать, особенно если власть и деньги имущий...

_________________
Слушать попсу нельзя!
Stilldan
Стаж: 15 лет
Сообщений: 837
Ratio: 17.123
Поблагодарили: 18
60.6%
witch.png
ИИ это утопия по определению. Кто утверждает обратное либо не понимает значение слова, либо в принципе не понимает.
trajan40
Стаж: 10 лет 11 мес.
Сообщений: 1618
Ratio: 32.171
41.58%
danrecords писал(а): Перейти к сообщению
Человек сможет это создать, особенно если власть и деньги имущий...

Власть и денег алчущие и имущие никогда ничего не создали и не создаст. Даже очень развитая животная хитрость не имеет никакого отношения к интеллекту.
om42
Стаж: 15 лет 2 мес.
Сообщений: 545
Ratio: 16.503
11.71%
alex12nnm писал(а): Перейти к сообщению
Так создал же уже, Злонамереный руководит сшашкой. Теперь против него нужен Вирус с ИИ.


и можно расшифровку кто там руководит с шашкой ?
svkdp7488
Стаж: 12 лет 11 мес.
Сообщений: 750
Ratio: 4.82
1.49%
Откуда: Одесса
ukraine.gif
Все сделают, со временем (если уже не сделали)
Пару сотен лет назад на бочку с порохом сажали, чтобы "полетать", а сейчас людей на луну (привет, плоскоземельцы)) и спутники на марс. Еще пару сотен и думающие машины освоят. А может гибрид какой бионический оформят. И думать/принимать решения он будет в разы лучше многих, живущих сегодня (с банкой пивася, перед телевизором/онлайн-игрулей)
SanLex
Стаж: 9 лет 6 мес.
Сообщений: 5089
Ratio: 527.055
Поблагодарили: 188393
100%
Цитата:
Может ли человек создать злонамеренный искусственный интеллект?

Человек может в пределах заложенного - не более того.
alex12nnm
Только чтение
Стаж: 11 лет 8 мес.
Сообщений: 1875
Ratio: 0.566
100%
ussr.gif
Скоро Матрица себя окончательно отладит, и человек станет просто её глюком.
IMHOTAK
Стаж: 7 лет 9 мес.
Сообщений: 662
Ratio: 52.598
100%
russia.gif
Как бы то ни было, человечество будет снова и снова пытаться создать ИИ (создание полноценного ИИ имеется в виду, - осознающего себя как личность), - жажда познания заставит. А ИИ, кроме инструмента познания окружающего мира, будет ещё и инструментом познания своего собственного разума .

Ведь если предполагать, что для создания полноценного ИИ нужно сначала понять что такое разум и как он функционирует, то в этом случае, создание такого ИИ видится в очень и очень отдалённой перспективе.

Но, думаю будет наоборот (не раз уже писал об этом), - сначала появится полноценный ИИ,
а уже на основании этого будет исследоваться природа разума.


Думаю, сознающий себя ИИ, будет не "создан", а ОБНАРУЖЕН как феномен в искусственно созданной системе.
Вот, саму эту систему, то есть материальный носитель пригодный для возникновения ИИ, человек создать вполне может в довольно близкой перспективе.

В любом случае, если не прилетит очередной "чёрный лебедь", человечеству предстоит побыть опытным полигоном для разработок, экспериментов и отладки ии-технологий.
Та же "Метавселенная" Цукерберга, - не что иное, как проект по созданию искусственного интеллекта.

Уничтожит ли полноценный ИИ человечество?
Если это будет высокоразвитый ИИ, а не примитивный, то вряд-ли.
Главное, раньше времени не объявить его высокоразвитым и не ослаблять контроль.
:задумался:
Показать сообщения:   
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Дискуссионный клуб Часовой пояс: GMT + 3
Страницы:   Пред.  1, 2, 3, 4  След.
Страница 3 из 4