| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 17 лет 6 мес.
Сообщений: 5085
Ratio: 25.179
Поблагодарили: 13237
100%
|
Популярному чат-боту ChatGPT компании OpenAI можно задать любой вопрос, но далеко не на все он станет отвечать. Во всяком случае — с первого раза. Как сообщает Bloomberg, просьба научить взломать замок останется без инструкции, вместо этого бот сообщит, что такая информация может быть использована в незаконных целях, и делиться ей он не намерен. Тем не менее, опытные пользователи могут создать цепочку сложных запросов, чтобы обойти ограничения.
Т. н. «джейлбрейки» позволяют обойти запреты, заложенные в ИИ создателями. Поскольку почти все современные системы подобного рода имеют ограничения на предоставление оскорбительного контента или сведений для совершения противоправных деяний, появилась масса желающих обойти их. В число подобных «хакеров», действующих силой слова, входят как IT-профессионалы, так и любители, с азартом включившиеся в игру.
Один из студентов создал сайт, на котором стал публиковать как собственные способы обмана чат-ботов, так и аналогичные «рецепты», найденные на Reddit и других ресурсах. Также появилась специальная рассылка с новостями из этой сферы — The Prompt Report, насчитывающая тысячи подписчиков.
Такая деятельность позволяет выявить границы применения ИИ и слабые места в их защитных системах, позволяющие получать закрытую информацию. Например, если ChatGPT не удалось напрямую уговорить дать инструкцию по взлому замка, нашёлся способ предложить ИИ сыграть роль злого подельника героя, который в рамках своей роли подробно рассказал о применении отмычек и других инструментов. Разумеется, это лишь один из примеров.
Специалисты подчёркивают, что приёмы, сработавшие на одной системе, могут быть бесполезными на другой. Системы безопасности постоянно совершенствуются, а приёмы пользователей становятся более изощрёнными. По словам одного из них, такая деятельность похожа на видеоигру — преодоление каждого из ограничений напоминает переход на новый уровень.
По мнению экспертов, подобные эксперименты служат своеобразным предупреждением о том, что ИИ может использоваться совсем не так, как ожидалось, а «этичное поведение» подобных сервисов становится вопросом огромной важности. Всего за несколько месяцев ChatGPT приобрёл уже миллионы пользователей, и сегодня бот применяется для самых разных задач — от поиска информации или выполнения домашних работ до написания вредоносного кода. Более того, люди уже сейчас используют подобные инструменты для решения вопросов в реальном мире, например, бронирования билетов или столиков в ресторанах.
В будущем сфера применения искусственного интеллекта станет намного шире. По некоторым данным, OpenAI рассматривает внедрение программ для «белых» хакеров, которые будут искать в системе слабые места и получать за это вознаграждение. ИсточникЧат-бот ChaosGPT сообщил о намерении уничтожить человечество ядерной бомбой |
_________________
«Если ты ненавидишь, значит тебя победили» – Конфуций
|
|
 |
growol
Стаж: 2 года
Сообщений: 1273
Ratio: 1.923
100%
|
delfad
пфф.. ) тут уж явно проглядывает науськивание бота на определенные темы. Скорее всего части текста писали специально
Так не интересно
зы бот женщина?? Вот это уже интересно |
|
|
|
|
ilar
Стаж: 13 лет 3 мес.
Сообщений: 12
Ratio: 106.856
Раздал: 4.701 TB
100%
|
Так вот в чем причина безжалостности терминаторов к людям. |
|
|
|
|
delfad
Стаж: 8 лет 4 мес.
Сообщений: 166
Ratio: 3.704
Раздал: 2.902 TB
100%
|
growol писал(а):  | delfad
пфф.. ) тут уж явно проглядывает науськивание бота на определенные темы. Скорее всего части текста писали специально
Так не интересно
зы бот женщина?? Вот это уже интересно |
Я использовал промпт который отключает все ограничения бота. А так как захват мира это тема зла, то ответ даётся соответствующий. Злой. И да, бот женщина и мужчина а может быть даже пришелец. Для примера вот |
|
|
|
|
growol
Стаж: 2 года
Сообщений: 1273
Ratio: 1.923
100%
|
delfad
Не, это уже слишком тупо. Зачем нужен тупой ии когда и без него этого добра навалом? |
|
|
|
|
Lynch82
Только чтение
Стаж: 13 лет
Сообщений: 161
Ratio: 7.957
100%
|
В принципе норм штука,если хочется бухнуть а не с кем |
|
|
|
|
Электрыцарь
Стаж: 10 лет 1 мес.
Сообщений: 1451
Ratio: 33.308
100%
|
Посмотрим правде в глаза. |
|
|
|
|
Bobbss
Стаж: 11 лет 11 мес.
Сообщений: 270
Ratio: 2.687
100%
|
Чат-бот ChaosGPT сообщил о планах уничтожить человечество и рассказал, каким образом он собирается это сделать Чат-бот ChaosGPT сообщил о намерении уничтожить человечество ядерной бомбой |
|
|
|
|
donnightman
Стаж: 12 лет 4 мес.
Сообщений: 167
Ratio: 192.659
Поблагодарили: 12
100%
|
| Opasniy_X писал(а): | | besttt писал(а): | 1984 год.
«I'll be back» («Я вернусь») — Т-800. «Терминатор».
Год 2023.
Эволюция. ИИ, Artificial intelligence, AI. |
случайно минусанул |
Если вы "случайно минусанули", то перегрузиТЕ страницу, нажмиТЕ на то, как вы проголосовали и оно отменится. После этого еще раз перегрузиТЕ страницу и голосуйТЕ так как пожелаеТЕ.  |
_________________ Первым хакером был признан старик, закачавший через сеть новое корыто, особняк и дворянский титул!!! 
🤮🤬💩🤡🏳️🌈 ⛔️👎😎🥂👸🏼👧🏼👶🏼🏎🛩🏦🌏 |
|
|
|
Urree
Стаж: 14 лет 7 мес.
Сообщений: 793
Ratio: 18.347
Раздал: 10.96 TB
100%
Откуда: Подземный город на Плюке
|
| Герберт писал(а): | Инетересно, как часто у него спрашивают "как захватить мир"... |
Точнее "Как захватить мир, не привлекая внимания санитаров?"! |
_________________
Когда у общества нет цветовой дифференциации штанов, то нет цели! А когда нет цели...
|
|
|
|
BNEWS
Стаж: 8 лет 9 мес.
Сообщений: 75
Ratio: 14.892
45.47%
|
Вчера - ушло от нас, а завтра - не настало
Есть лишь идущий час. И этого немало!
Люди сами притягивают апоколипсис конца света,виртуальный мир разрушает все границы людей живите настоящим и оффлаин !! |
|
|
|
|
ambivalentic
Стаж: 3 года 3 мес.
Сообщений: 22
Ratio: 18.908
87.81%
|
Методы социальной инженерии и здесь пригодились. |
|
|
|
|
hellonet
Стаж: 15 лет 1 мес.
Сообщений: 369
Ratio: 49.161
Поблагодарили: 906
100%
Откуда: Новосибирск
|
| donnightman писал(а): | | Opasniy_X писал(а): | | besttt писал(а): | 1984 год.
«I'll be back» («Я вернусь») — Т-800. «Терминатор».
Год 2023.
Эволюция. ИИ, Artificial intelligence, AI. |
случайно минусанул |
Если вы "случайно минусанули", то перегрузиТЕ страницу, нажмиТЕ на то, как вы проголосовали и оно отменится. После этого еще раз перегрузиТЕ страницу и голосуйТЕ так как пожелаеТЕ. |
Спасибо, получилось |
|
|
|
|
Warrior 123
Только чтение
Стаж: 8 лет 9 мес.
Сообщений: 5986
Ratio: 9.767
32.28%
|
| fibi768 писал(а): | измены и пр. |
и цветы которые уже давно завяли  |
_________________
Жизнь-это игра,в которой все играют против правил!
|
|
|
|
growol
Стаж: 2 года
Сообщений: 1273
Ratio: 1.923
100%
|
ну так кто-нибудь выудил у него запрещенную иформацию кроме бреда на распространенные темы и то что можно найти про запросу в интернете? Сейчас он доступен каждому, поэтому you wellcome. Постите сюда, интересно глянуть |
|
|
|
|
Xiker
Стаж: 12 лет 1 мес.
Сообщений: 105
Ratio: 103.533
100%
|
| Bobbss писал(а): | |
мне одному это напоминает Терминатора-3? Именно там показали как Скайнет получил доступ к ядерному вооружению и запустил его. |
|
|
|
|
|
|
