Сэм Альтман: до появления сверхразума и начала светлого будущего осталось несколько тысяч дней

Гендиректор OpenAI Сэм Альтман (Sam Altman) опубликовал в своём блоге сообщение, в котором заявил, что через «несколько тысяч дней» в мире появится сверхразум. И следствием его появления станет не вызванная технологиями антиутопия, а «массовое процветание».


Альтман признал, что достижение сверхразума может занять немного больше времени, чем он ожидал, но это обязательно случится, и скоро мы «сможем делать то, что нашим бабушкам и дедушкам показалось бы волшебством». «Мы более способны не из-за генетических изменений, а потому что во благо используем инфраструктуру общества, которое намного умнее и способнее любого из нас; в важном смысле само общество является одной из форм развитого интеллекта», — считает Сэм Альтман. Искусственный интеллект, по его мнению, разрешит «сложные проблемы» и задаст основу, которая поможет человеку достичь светлого будущего.

В этом будущем, говорит он, у каждого будет собственная «личная команда ИИ» для решения повседневных вопросов, а в повседневную жизнь будут вплетены «виртуальные эксперты», которые её в значительной мере упростят. Виртуальные репетиторы избавят процесс обучения от стресса, потому что они будут понимать индивидуальный потребности каждого ребёнка. Каждый получит необходимое образование, будет обладать важными навыками — это поможет человеку добиться успеха в мире, где много рабочих мест, и обеспечит обществу невообразимое сегодня процветание.

При этом Сэм Альтман признаёт, что впереди человечество ждут и некоторые проблемы, в том числе болезненная перестройка рынка труда. Но этот вопрос будет разрешён, и, как обещал Карл Маркс (Karl Marx), человек освободится от изнурительной работы и сможет наслаждаться тем, что он любит в жизни.

Источник

StarfruitJam писал(а):

К счастью, есть подвижки, есть понимание и необходимости того же безусловного базового дохода и того, что продолжая как сейчас мы далеко не уедем.

К несчастью, общество, которое должно изменить формат, не понимает что "базовый доход" это дальнейшее развитие старого формата с глобальными корпорациями.
А посему оно, в силу непонимания, изменить старый формат не может.

Нет, на самом деле уходит ген агрессии, т.е. нулевые девяностые это история. Например смотрите вот качаются качки, но при ссср не было столько тринажёров, но люди тоже занимались. Ранее спорт был всегда топ, сейчас не спорт топ а здоровье. Если человек на диване лежит и у него нет грыжи, это окей, если кто-то дёргает 200 кг, и грыжи, это уже ну такое себе. Я о том что начало ценится что-то человеческое, т.е. в сути мы идём к гармонии, но чтобы ген агрессии исчез, для этого создаются ловушки смерти, чтобы очиститься. По сути, вон есть альфасамцы, но кто они? Обычно это брутальные парни, но что стоит за их брутальностю, ну конечно же низкий интелект, и инстинкты... А им завидуют и говорят, все девушки их, но.. и? Финал у них этих альфачей почти один и тот же, печальный а это наркота, и всяческие подобные вещи которые отключают в мозге определённые качества которые и дают им возможность отказать девке, сказать ей ты я тебя вертел... а норм человек без этих вещесств с нравственностю такое не сможет сказать, он трезвый.. Так что черепаха живёт 400 лет не от спорта, а от спокойного образа жизни.

StarfruitJam писал(а):

Кстати, немного оффтоп, но "потерять контроль над ИИ" - невозможно, частая путаница между понятиями "искусственный интеллект" и "искусственное сознание".

А у меня вот какие мысли появились.
Современный ИИ не может может сделать то чего в него не заложили.
Например если человек встретит неведому зверушку, то он попытается её изучить, понять, выявить сильные слабые стороны, определить пригодность в пищу или к работе в хозяйстве.
ИИ же скажет: я не знаю что это такое и всё. Мысль о том что "и знать не хочу" в него тоже не заложили.

Но есть одно но.

Он в полной мере может оперировать имеющимися в нём данными. А данных в нем ой как много. Например он знает что такое палка. Что её можно использовать как рычаг, можно сбивать бананы с пальмы и можно ударить человека по голове.
Он знает что если человека стукнуть палкой по голове, то его можно убить.
ИИ это система которая может сама строить нейронные связи с ячейками заложенных в нее данных. Получается если в нем есть данные как убивать человека, то он может провести к ним нейронные связи.
Разработчики конечно же максимально ограничили возможность построения связей которые могут привести ИИ к мысли убить человека. Но люди не могут предусмотреть в такой сложной системе абсолютно всё. Если где-то через отдаленные вершины графа пройдет хоть одна ниточка связи с данными об убийстве, то ИИ через нее вполне может начать задумываться об этом.

Например если в области данных которая предназначена для распознавания отличий между породами кошек найдется ячейка которой не запрещено делать связи с данными об убийстве человека, то ИИ рано или поздно эту связь найдет и изучит её.

MAKSUS1255 писал(а):

Например смотрите вот качаются качки, но при ссср не было столько тринажёров, но люди тоже занимались.

В СССР, пусть примитивных, но было больше тренажеров. Наверное на порядок.

"...и впустит в мир, где в прошлом войны, вонь и рак.
Где побежден гонконгский грипп.
На всем готовеньком ты счастлив ли, дурак?"

В.С. Высоцкий, из фильма "Бегство Мистера Мак-Кинли"