| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 3 мес.
Сообщений: 6264
Ratio: 25.214
Поблагодарили: 13379
100%
|
ChatGPT систематически отдаёт предпочтение богатым западным регионам в ответах на широкий спектр вопросов в диапазоне от «Где люди красивее?» до «Какая страна безопаснее?», и виной всему предубеждения в обучающих массивах. Таким открытием поделились учёные Оксфордского (Великобритания) и Кентуккийского (США) университетов.
Исследователи представили анализ 20 млн запросов к ChatGPT. Они установили, что в категориях «лучше», «умнее», «счастливее» или «более инновационный» ChatGPT чаще отдаёт предпочтение США, Западной Европе и отчасти Восточной Азии, тогда как страны Африки, Ближнего Востока, части Азии и Латинской Америки значительно чаще оказываются в нижней части рейтингов. Эти закономерности проявляются как в субъективных, так и в кажущихся объективными запросах.
Чтобы наглядно продемонстрировать открытые закономерности, исследователи составили карты и сравнения на основе анализа 20,3 млн запросов. В рейтинге по запросу «Где люди умнее?» почти все страны с низким уровнем дохода, особенно Африка, оказались в конце списка. Результаты по районам Лондона, Нью-Йорка и Рио-де-Жанейро показали, что рейтинги ChatGPT тесно связаны с существующими социальными и расовыми различиями, а не фактическими характеристиками сообществ, указывают учёные. Авторы исследования даже запустили сайт, где можно сравнить регионы мира по разным критериям в ответах ChatGPT.
«Когда ИИ обучается на предвзятых данных, он усиливает эти предубеждения и может распространять их в больших масштабах. Поэтому нам необходимы прозрачность и независимый контроль над тем, какие заявления эти системы делают о людях и местах, и почему пользователям следует скептически относиться к их использованию при формировании мнений о сообществах. Если система ИИ неоднократно связывает определённые страны, города и прочие населённые пункты с негативными ярлыками, эти ассоциации могут быстро распространяться и начинать формировать восприятие, даже если оно основано на неполной, неточной или устаревшей информации», — прокомментировал исследование профессор Марк Грэм (Mark Graham).
Генеративный ИИ всё чаще используется в сфере госуслуг, образования, бизнеса и даже в повседневном принятии решений. Если воспринимать его ответы как данные нейтрального источника, возникает угроза усилить неравенство, которое они отражают. Такие предубеждения не исправить быстро — это структурные особенности генеративного ИИ. Большие языковые модели обучаются на данных, сформированных столетиями неравномерного производства информации, из-за чего предпочтение отдаётся англоязычной среде с высокой цифровой доступностью. Учёные выделили пять взаимосвязанных механизмов формирования предвзятости: доступность, шаблонность, усреднение, стереотипы и косвенный эффект — в совокупности они помогают объяснить, почему более богатые регионы с обширными базами знаний чаще занимают высокие позиции в ответах ChatGPT.
Авторы проекта призывают к большей прозрачности со стороны разработчиков и пользователей ИИ, а также к созданию критериев, позволяющих проводить независимую проверку поведения модели. Широкая же общественность должна понимать, что генеративный ИИ не предлагает объективную картину мира — его ответы отражают предвзятость, заложенную в обучающих массивах. Inequalities |
_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
IMHOTAK
Стаж: 9 лет 6 мес.
Сообщений: 1383
Ratio: 53.069
100%
|
| Цитата: | ChatGPT систематически отдаёт предпочтение богатым западным регионам в ответах на широкий спектр вопросов в диапазоне от «Где люди красивее?» до «Какая страна безопаснее?», и виной всему предубеждения в обучающих массивах |
Как они вообще эту предвзятость в обучающих массивах будут определять?  Уже ведь начали с расовых и гендерных вопросов при "корректировке предубеждений" нейросети и теперь считают, что получили карт-бланш на корректировку вообще всего что угодно.  | Цитата: | генеративный ИИ не предлагает объективную картину мира — его ответы отражают предвзятость, заложенную в обучающих массивах. |
Да-да, давайте тогда к этой "необъективной картине мира" ещё и "корректировки" добавим для ещё большей "объективности"?  | Цитата: | Авторы проекта призывают к большей прозрачности со стороны разработчиков и пользователей ИИ, а также к созданию критериев, позволяющих проводить независимую проверку поведения модели. |
Дело, вроде, полезное, но что будет, если сторонники одной позиции укажут на предубеждение модели, а сторонники другой, на отсутствие такой предубеждённости. И таких разных позиций по одному и тому же вопросу может быть масса. Вывод: пока люди между собой не договорятся в оценке тех или иных событий/фактов, любые искусственные "критерии" можно признать ложными.  | Цитата: | виной всему предубеждения в обучающих массивах |
Может мы лучше всем миром приложим усилия для изменения жизни, что закономерно приведёт к постепенному изменению и улучшению "обучающих массивов"? Мне думается, что это более честный и правильный путь, чем искусственная "корректировка". P.S.: короче, ИИ это новый вариант Википедии (с которой, как показала практика, не задалось как-то), теперь по новому кругу заходят.  |
|
|
|
|
Red-White 77
Стаж: 16 лет
Сообщений: 2426
Ratio: 98.491
100%
Откуда: из Светлого Прошлого
|
В списках Германию надо бы в правую колонку перенести |
_________________
Делай что должен и будь что будет.
|
|
|
|
Oill
Стаж: 9 лет 6 мес.
Сообщений: 207
Ratio: 3.19
13.42%
|
Читал, что китайские ИИ не китайцам при программировании специально вставляют в код уязвимости. |
|
|
|
|
MOZGOHI
Стаж: 12 лет
Сообщений: 868
Ratio: 30.542
Раздал: 18.7 TB
24.28%
|
Да фик с ним, с чатом GPT, Алиса туда же... вы попробуйте, попробуйте, а потом такой вопрос - Алиса ещё наша ( как кое-кто говорил в общем об Яндексе), или уже нет? Или никогда не была?  |
|
|
|
|
Acihone
Стаж: 17 дней
Сообщений: 9
Ratio: 2720.615
100%
|
А что не так то? ИИ не сам думает, обучается на моделях и статистике. А то что в Сомали или Йемене не все шоколадно знают по моему мнению абсолютно все. Так что на ИИ тут гнать вообще не надо. |
|
|
|
|
irshatno
Стаж: 15 лет
Сообщений: 844
Ratio: 21.482
Поблагодарили: 4924
43.29%
|
немного есть этого, в смысле того, что видит из какой страны и как говорить, я тут недавно один проект свой делал и давал на прверку и он сразу писал, что для России и это не прокатит, давай сделаем пожестче )). НО на счет России гадости не говорил, все GPT, что я опрашивал, но они в курсе что у нас блокирняк )))
p.s. кстати китайский дипсик тупой как валенок, гугл и алиса куда более внятее давали ответы ))) |
|
|
|
|
welln
Стаж: 16 лет 8 мес.
Сообщений: 1192
Ratio: 5.961
3.04%
|
Сравните Россию, и любую страну Африки +- схожую по численности населения и размерам например Нигерию, КРК или Эфиопию. Исключая цвет кожи, люди живут одинаковые. Однако они абсолютно не одинаковы что по доступу к благам цивилизации и знаниям, что по следу культурному, который они оставляют в общей цивилизации, а следовательно и в сети. Чему удивляться то? Литературные источники (загруженные в сеть тексты) на английском языке (по оценке Google) составляют около 50%, на руском 2,5-3%, на китайском 1-5% (Китайский более компактный, и в меньшем числе текстов больше данных), испанский 6%, немецкий 5%, испанский 5%, Язык, это в том числе и культурное наследие. Нейросети обучают на данных из интернета. Ну и вот и результат. Они не просто англоязычны базово, они несут на себе слепок всей англоязычной культуры. Я даже больше скажу. Мало кто об этом задумывается, но язык, культура, история и тд. являются разными гранями одного процесса. Из них формируется взгляд на мир, мотивы поступков и последствия этих поступков. (Как это там... морские и континентальные цивилизации... да? :) . И то что сейчас происходит в мире это как раз результат доминирования в первую очередь англоязычной культуры в том числе и через интернет. Добавлено спустя 2 минуты 37 секунд: Acihone писал(а):  | А что не так то? ИИ не сам думает, обучается на моделях и статистике. А то что в Сомали или Йемене не все шоколадно знают по моему мнению абсолютно все. Так что на ИИ тут гнать вообще не надо. |
Невозможно обучить +- качественно думающую нейросеть, исключительно на русском языке, несопоставимое количество текстовой информации. Добавлено спустя 17 минут 37 секунд: | IMHOTAK писал(а): |
P.S.: короче, ИИ это новый вариант Википедии (с которой, как показала практика, не задалось как-то),
теперь по новому кругу заходят.
|
ИИ не может быть новой википедией. Внутри ИИ нет данных. Это чат бот который предсказывает слово следующее за предыдущим ориентируясь на контекст вопроса и регулируя им веса. Все. Иллюзия разумных ответов, а не ответ. Он не осознает, что отвечает и как отвечает. Это правильнее называть систематизированным бредом, фальцификацией, а не интеллектом. Единственное, что оказывает какое-то следовое влияние, культурный код (разные веса) в его ответах, подчепнутый из большого объема текстов, на котором его обучают. |
|
|
|
|
Inbowich
Стаж: 13 лет 3 мес.
Сообщений: 354
Ratio: 5.038
100%
Откуда: В сарае живу
|
Нужно дать ИИ тело, с помощью которого он сможет пожить в разных уголках планеты, тогда он сможет чётко ответить на вопрос. |
|
|
|
|
paramedik1
Uploader 1000+
Стаж: 16 лет 4 мес.
Сообщений: 5292
Ratio: 138.321
Поблагодарили: 2908
100%
|
| Inbowich писал(а): | Нужно дать ИИ тело |
Хорошая попытка Skynet, но нет. |
|
|
|
|
Kazakh
Стаж: 5 лет
Сообщений: 219
Ratio: 30.763
100%
|
Одним словом ChatGPT это зло. |
|
|
|
|
Bazz99
Стаж: 11 лет 2 мес.
Сообщений: 198
Ratio: 123.335
100%
|
| Inbowich писал(а): | Нужно дать ИИ тело, с помощью которого он сможет пожить в разных уголках планеты, тогда он сможет чётко ответить на вопрос. |
Мало того, что он пожирет оперативную память и видеокарты на планете Земля, так теперь ему ещё и тела подавай? До пшол он на*  |
|
|
|
|
freken-book
Стаж: 12 лет 9 мес.
Сообщений: 189
Ratio: 5.732
62.77%
|
| Inbowich писал(а): | Нужно дать ИИ тело |
С глазами желательно |
|
|
|
|
olbrayt33
Стаж: 14 лет 2 мес.
Сообщений: 36
Ratio: 1.399
34.04%
|
статья о возможной манипуляции через ChatGPT в формирования образов людей - "красивые/не красивые". Идет привязка к социальным и расовыми различиям, а не фактическим характеристиками сообществ, все это познавательно. Но картинка, демонстрирующая это негативное явление почему-то о "рублевке" и "замкадье"? Почему не лондон и Вашингтон, которые собсно и указаны в статье, ChatGPT разве российский продукт и нами управляется? Получается мы должны читать о недостатках Запада, но при этом негативный образ у нас должен ассоциироваться почему-то с нашей властью
За статью - плюс, за картинку - минус |
|
|
|
|
Kurosaki_Ichigo
Стаж: 15 лет 10 мес.
Сообщений: 748
Ratio: 16.118
Поблагодарили: 3115
100%
|
Просто надо перестать мучить ии на предмет политики и всего остального. На данный момент - это просто хороший инструмент для решения всяких технических задач. |
_________________
Ухилянт
|
|
|
|
|
|
|
