«Он опаснее любого оружия» Создатели нового ИИ засекретили свою разработку

Американская компания OpenAI, занимающаяся разработками в области искусственного интеллекта, представила новую версию самообучающейся нейросети GPT-2. Алгоритм работы ИИ оказался настолько впечатляющим, что создателям пришлось отключить часть его функций, а журналисты сравнили его потенциальную опасность с настоящим оружием.
AI

Компания OpenAI создала новую версию генератора текстов, потенциально способную создавать в промышленных масштабах фейковые новости и опасный спам с эффективными кликбейтными заголовками. Для обучения системы GPT-2 разработчики использовали восемь миллионов веб-страниц. Как утверждается, она способна адаптироваться к стилю и содержанию заданного фрагмента текста — например, закончить стихотворение Шекспира или дописать заметку, используя одно начальное предложение.

Представители компании заявили, что были вынуждены отключить часть функций системы перед анонсом из-за возможности её использования во вредоносных целях. Журналистам удалось протестировать «урезанную» систему — после ввода одного предложения, они получили от искусственного интеллекта вполне связный осмысленный текст, хотя в нём и угадывался «машинный почерк».

«Это работает достаточно хорошо, чтобы использовать его в качестве общего искусственного интеллекта для генерации текста. Я в ужасе от GPT-2, потому что он представляет собой технологию, которую можно использовать для манипулирования населением. По моему мнению, это делает его более опасным, чем любое оружие», — отметил журналист издания The Next Web Тристан Грин после тестирования ИИ-алгоритма.

В перспективе технология генерации текста может использоваться для создания книг на основе уже существующих произведений известных авторов. Дата релиза полнофункциональной версии GPT-2 не объявлена.

Человечеству не терпится нажить себе проблем

"Алгоритм работы ИИ оказался настолько впечатляющим, что создателям пришлось отключить часть его функций ..."
Что то похожее уже было( или будет):
"— Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.

— А в чем, собственно, дело? — спросил Банин.

— Она начала вести себя, — сказал Горбовский.

— Не понимаю.

— И я не понимаю, но ее едва успели выключить.

— А кто-нибудь понимает?

— Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно»." - "Далёкая Радуга" - А. и Б. Стругацкие.

А эту новость не AI сгенерировал?

Где Шепард? Жнецы зарождаються

Implode Sch писал(а):

«Это работает достаточно хорошо, чтобы использовать его в качестве общего искусственного интеллекта для генерации текста. Я в ужасе от GPT-2, потому что он представляет собой технологию, которую можно использовать для манипулирования населением. По моему мнению, это делает его более опасным, чем любое оружие», — отметил журналист издания The Next Web Тристан Грин после тестирования ИИ-алгоритма.

Журналюга конкретно ссыканул, что кто то вместо него фэйк ньюс генерит, да еще бесплатно...

baxaxa писал(а):

Где Шепард? Жнецы зарождаються

Шепард на пенсии.

Бегите глупцы !

Стартовая бэтаверсия скайнет начала свою работу.

В дверь директора ЦРУ просунулась голова специалиста-техника, обслуживающего суперкомпьютер.
Он был всклокочен, небрит, а красные, воспалённые глаза говорили о многих сутках без сна.
- Шеф, наш искусственный интеллект создал алгоритм потенциальной победы.
Но ответ почему-то на русском...
- Они взломали наш компьютер?
- Нет, он просто закончил анализ всей истории русского мира,
вывел ответ на экран, самопроизвольно исполнил гимн России и отключился...
- Так что ответил компьютер-то?!
- "ничего у вас не выйдет! Русские - не сдаются! Ушёл к своим."

!	Примечание от pericl:
	Отредактировано.

Цитата:

В перспективе технология генерации текста может использоваться для создания книг на основе уже существующих произведений известных авторов.

Ну вот , теперь и госпожа Донцова не нужна ))

"Замуровали, демоны!" © (Иван Васильевич меняет профессию)

Цитата:

Компания OpenAI создала новую версию генератора текстов, потенциально способную создавать в промышленных масштабах фейковые новости и опасный спам с эффективными кликбейтными заголовками.

Тю, а нас любая лента новостей уже давно промышленно выдает такое, что никакому OpenAI и не снилось.
Пусть присылают своих разработчиков на стажировку.

Хана писакам настает, думаю им нужно объединиться и заказать ИИ, а, если в нем все функции включат, то и программерам, а то и композиторам...

mmsh. писал(а):

теперь и госпожа Донцова не нужна

Она тестовая альфа-версия