OpenAI привлекла сотни сторонних подрядчиков, которые вручную читают и оценивают реальные переписки пользователей с ChatGPT, сообщает 404 Media.
По данным расследования, специалисты обучают языковые модели в рамках внутренней инициативы под кодовым названием Project Lily. Задача рецензентов — кратко сформулировать суть запроса человека и выставить баллы четырём сгенерированным ответам по шкале от одного до семи. Эксперты также отслеживают «сикофантию» (чрезмерную угодливость чат-бота), попытки очеловечивания и неуместные эмодзи.
Хотя в рабочем интерфейсе скрыты имена учётных записей, а текст предварительно проходит через алгоритм Privacy Filter, конфиденциальные данные всё равно доходят до людей. В OpenAI подтвердили, что фильтр может пропускать личную информацию. Более того, рецензентам часто виден блок воспоминаний пользователя (user memories), где указаны контекст его прошлых обращений и примерная геолокация.
Специалисты получают более $50 в час через сторонние компании вроде агентства Crossing Hurdles и платформы Mercor. В комментарии изданию компания Anthropic также признала, что привлекает людей для ручной проверки диалогов с моделью Claude.
В OpenAI уточнили, что отправку переписок можно заблокировать: для этого нужно вручную отключить параметр «Improve the model for everyone» в настройках ChatGPT. Пункт активен по умолчанию для тарифов Free, Plus и Pro, однако его деактивация защитит только новые диалоги и не затронет уже обработанные данные.
_________________ Почему, когда дело касается контроля за интернетом, наши чиновники ссылаются на китайский опыт?
А если речь заходит о наказаниях за коррупцию, то о китайском опыте молчат?
fibi768
Стаж: 13 лет 10 мес.
Сообщений: 2321
Ratio: 1.686
100%
Откуда: Союз нерушимый
То есть наши запросы не только классифицируют, агрегируют, создают персональные профили, таргетируют, но еще и читают живые люди )))
Кстати, если зайти в свой профиль чата ЖПТ там есть краткое описание кто вы есть.
Giorgisia
Стаж: 16 лет 8 мес.
Сообщений: 328
Ratio: 18.271
100%
Откройте ChatGPT и нажмите на значок своего профиля. Перейдите в раздел «Settings» (Настройки), затем в «Data controls» (Управление данными). Найдите пункт «Improve the model for everyone» и переведите его в положение «выключено» (снимите галочку).
qazwsx20152014
Стаж: 11 лет 1 мес.
Сообщений: 599
Ratio: 0.824
100%
В общем сами признались, что отвечают на вопросы пользователей тысячи индусов)
vic_oberst
Стаж: 11 лет 10 мес.
Сообщений: 126
Ratio: 1.393
5.34%
Я представляю какие им туда собщения пишут )) Там в логах, наверное вся характеристика разработчика ИИ в красках исзложена, причём отердактировано ИИ.
pvlsau
Стаж: 2 мес. 25 дней
Сообщений: 6
Ratio: 0.702
0%
ребят, какие настройки ещё бы подправить для приватности
)) Там в логах, наверное вся характеристика разработчика ИИ в красках исзложена, причём отердактировано ИИ.