«Он опаснее любого оружия» Создатели нового ИИ засекретили свою разработку

Американская компания OpenAI, занимающаяся разработками в области искусственного интеллекта, представила новую версию самообучающейся нейросети GPT-2. Алгоритм работы ИИ оказался настолько впечатляющим, что создателям пришлось отключить часть его функций, а журналисты сравнили его потенциальную опасность с настоящим оружием.
AI

Компания OpenAI создала новую версию генератора текстов, потенциально способную создавать в промышленных масштабах фейковые новости и опасный спам с эффективными кликбейтными заголовками. Для обучения системы GPT-2 разработчики использовали восемь миллионов веб-страниц. Как утверждается, она способна адаптироваться к стилю и содержанию заданного фрагмента текста — например, закончить стихотворение Шекспира или дописать заметку, используя одно начальное предложение.

Представители компании заявили, что были вынуждены отключить часть функций системы перед анонсом из-за возможности её использования во вредоносных целях. Журналистам удалось протестировать «урезанную» систему — после ввода одного предложения, они получили от искусственного интеллекта вполне связный осмысленный текст, хотя в нём и угадывался «машинный почерк».

«Это работает достаточно хорошо, чтобы использовать его в качестве общего искусственного интеллекта для генерации текста. Я в ужасе от GPT-2, потому что он представляет собой технологию, которую можно использовать для манипулирования населением. По моему мнению, это делает его более опасным, чем любое оружие», — отметил журналист издания The Next Web Тристан Грин после тестирования ИИ-алгоритма.

В перспективе технология генерации текста может использоваться для создания книг на основе уже существующих произведений известных авторов. Дата релиза полнофункциональной версии GPT-2 не объявлена.

xerx_777 писал(а):

Хана писакам настает, думаю им нужно объединиться и заказать ИИ, а, если в нем все функции включат, то и программерам, а то и композиторам...

Землянка, программируемый калькулятор и картоха?

ЗЫ. Как ИИ научат ещё превысоко троллить или отписки клепать (answer_to_author = new Lol), можно будет помимо "писак" и достойнейших госслужащих на вольные хлеба отпустить. За ненадобностью.

ЗЗЫ. И что делать с блоггерами? Если ещё и их заменят, страшно представить масштабы катастрофы, перед глазами сразу всплывают кадры из TWD .

Это всё хорошо конечно... так а когда на клубном трекере тут появится?!

"Вдруг откуда ни возмись появилась..."

Подумаешь. Сейчас каждый русский школьник сочинит такой бот, что от настоящего чела не отличить. Даже матом ругаться будет.

Ну, не все, полагаю, в курсе, что Open AI принадлежит Илону Маску.
P.s. Вчера, кстати, StarHopper от Space X знатно прыгнул на 150 метров. Как говорится, аналогов нет. Этой "скромной" новости почему-то в росСМИ практически нет. Так что я поправляю это пробел.

Всегда так говорят. На самом деле показали максимум, что она может - копипаст. Мз миллионов текстов состряпает один и запудрит мозги задроту - смех да и только.

практически все исследования ИИ и идут при непосредственном финансировании военными для создания оружия и контроля населения. смешно читать что они якобы чего то там испугались и поотключали.

Я не тролль, мне не страшно

gnomandrey писал(а):

Подумаешь. Сейчас каждый русский школьник сочинит такой бот, что от настоящего чела не отличить. Даже матом ругаться будет.

Как раз отличается на раз. Дело в том, что у настоящих ботов, в отличие школьников с орфографией более-менее в порядке.

Добавлено спустя 1 час 58 минут 2 секунды:

Boralgin писал(а):

ИИ в оригинальном понимании пока что нету, есть машинный интеллект.

Господи, отрицатели ИИ, да загляните в словарь, чтобы убедиться, что "что понятие искусственный интеллект не связано напрямую с человеческим интеллектом".
ИИ - это и есть машинный интеллект.

Бред.
Создали автора заимствований. Т.е. из начальной темы он создаст смесь из уже существующих. А где творчество, полет фантазии? Выдумка? Мечта?

Иван-навИ писал(а):

А где творчество, полет фантазии? Выдумка? Мечта?

Новизна
Актуальность
практическая значимость.
полевые испытания
Историческая и культурная ценность.
Безапелляционность открытия
непревзойдённость оригинальности
современная креативность
брутальная завлекаловка не сказать афрозодиак мыслительного процесса

Ничего,допилят и 1 каналу продадут.Там такие новости нарасхват.

hj2 писал(а):

Реальные серьезные задачи он решать не в состоянии, поэтому ему их просто не ставят.

Есть мнение, что вектор развития современного общества не подразумевает серьёзных задач в принципе. Единственная общая задача - отупление населения и реклама потребительства. Для этой задачи как раз идеальный инструмент.

Добавлено спустя 6 минут 15 секунд:

feogabber писал(а):

Нейросети и ИИ это совсем не одно и тоже, это совершенно разные вещи. ИИ не существует от слова совсем и вообще.

Это вопрос терминологии. Сейчас под ИИ программировании подразумевают обычно решение любых задач, традиционно присущих человеку - распознавание, анализ неявных связей. Генерация связного текста, внезапно, была присуща только человеку. И подобные задачи, последнее время, довольно успешно решают именно нейронные сети, после соответствующего обучения.
Прежде чем протестовать - определи термины. Что есть ИИ по твоему. Но прежде может возникнуть вопрос, что есть естественный интелект Он тоже далеко не однозначен.

Добавлено спустя 4 минуты 59 секунд:

Boralgin писал(а):

догадайтесь что делать с 7.5 лярдов бесполезных дармоедов?

Не менее интересно, сколь быстро выродятся оставшийся несколько миллионов. Человечество не настолько доминирует, что бы отказаться от выживания за счет простого разнообразия как генома, так и поведенческих факторов.

Добавлено спустя 11 минут 5 секунд:

lesss писал(а):

А то что вам под этим названием пихают, это всего лишь компьютер с большим набором данных для выбора ГОТОВЫХ решений... И стихотворение Шекспира он может закончить лишь потому, что ЗНАЕТ - как оно заканчивается. И всё "обучение" сводится к тупому и банальному загонянию в него информации - больше, больше, ещё больше.

Это не так. Нейросети, в общем виде, не работают простым выбором из заранее заданных результатов. Хотя есть и такие варианты - эксперные системы по диагностике заболеваний, например.
И стихотворение они закончат не зная как оно заканчивалось. Закончат не дословно, скорее всего, но настолько близко по стилю, что специалисты еще и поспорят который из них был более Шекспир
Набивка инфы это один из этапов. Еще систему надо "дрессировать" - условно, ставить отметки совпадения случайно выданного, поначалу, результата тому, что ожидает человек её обучающий. На определенном этапе массив данных и количество связей между ними человек уже практически не в состоянии проанализировать.

Добавлено спустя 6 минут 31 секунду:

Boralgin писал(а):

ИИ в оригинальном понимании пока что нету, есть машинный интеллект. да он уже превосходит подавляющее большинство человеческого стада.

Не превосходит. Хотя бы потому что интеллект, как свойство человеческого разума, не формализуемое понятие, а с какими то другими проявлениями интеллекта, кроме человеческого, мы еще не сталкивались (к счастью?) Машины пока не создают новых областей знаний и новых жанров искусства. Они работают в рамках того, что уже придумано и изобретено человеком, хотя и могут в этих границах обнаружить новые связи, на обнаружение которых требуется уйма человекочасов или же гениальное прозрение одиночек

Добавлено спустя 9 минут 8 секунд:

lesss писал(а):

ни один оптимальным способом, человек быстрее по сию пору... вызывает зависание, вплоть до аппаратной перезагрузки

Нет ли тут явного противоречия?

Добавлено спустя 3 минуты 55 секунд:

dirtyCode писал(а):

И что делать с блоггерами? Если ещё и их заменят, страшно представить масштабы катастрофы

Блоггеров не заменят, имхо. То что видел я, по крайней мере, противоречит здравому смыслу и логике. Хотя, если использовать отбракованные процессоры, то может и выгорит

Добавлено спустя 2 минуты 8 секунд:

gogaII писал(а):

Этой "скромной" новости почему-то в росСМИ практически нет. Так что я поправляю это пробел.

"Поправить" на заблокированном в России ресурсе? Мощно!

DartSandy писал(а):

Закончат не дословно, скорее всего, но настолько близко по стилю, что специалисты еще и поспорят который из них был более Шекспир

Ага, особенно учитывая, что специалисты до сих пор спорят кем был Шекспир, - коллективом или человеком, мужчиной или женщиной, или вообще механической пианиной.