| Автор |
Сообщение |
Maximus ®
Вольный стрелок Uploader 100+
Стаж: 19 лет 3 мес.
Сообщений: 6257
Ratio: 25.214
Поблагодарили: 13379
100%
|
В американских школьных библиотеках появился новый игрок — искусственный интеллект, который автоматически сортирует книги на «безопасные» и «опасные». Программа Class-Shelf Plus от компании CLCD сама маркирует литературу по цветовой шкале: зелёный — допустимо, красный — под вопросом. Однако, кто учил алгоритм и на каких данных — информация закрытая.
Производители позиционируют систему как спасение для загруженных библиотекарей, которым станет проще соблюдать ужесточившиеся законы о «чувствительном контенте». Школьные администрации в восторге: можно отчитаться перед властями и снять с себя ответственность за спорные книги.
Но проблема кроется в деталях. Под автоматическую фильтрацию попадают в том числе книги о расовой истории, ЛГБТ-темах и социальной критике. При этом библиотекари физически не успевают проверять тысячи машинных вердиктов — людей мало, времени нет, бюджеты урезают. Получается, что профессионал с образованием отодвинут в сторону, а судьбу книг решает непрозрачный алгоритм.
Ситуацию усугубляет политическое давление. В некоторых штатах педагогам грозят уголовной ответственностью за «распространение вредных идей». Школы атакуют законодатели, финансирование падает, а тут ещё новая головная боль — библиотеки завалены книгами, написанными нейросетями, которые приходится выискивать и удалять вручную.
Профессиональное сообщество бьёт тревогу: вместо помощи читателям библиотекари тонут в бюрократии, защищаясь от обвинений и проверяя работу алгоритмов. Обещанная «оптимизация» обернулась ростом нагрузки — ведь за ошибки ИИ всё равно отвечают люди.
Итог: под видом технологичного решения постепенно выстраивается система централизованной цензуры, где машина определяет границы допустимого, а живые специалисты превращаются в заложников автоматизации. 404media |
_________________ Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
Нижегородецъ
Стаж: 3 года 6 мес.
Сообщений: 331
Ratio: 46.639
100%
|
Есть предположение на алгоритмах какого ...дзора будет проводиться обучение американского ИИ, чтобы получилось именно "...запрет вместо выбора, цензура вместо образования" ))) |
|
|
 |
Raptor303
Стаж: 14 лет 5 мес.
Сообщений: 10088
Ratio: 46.419
100%
|
Как и в случае с назначением судей в городах и штатах США, так и с назначением машин для управления книгами и образованием будет то же самое: какая из двух главных партий Америки назначает, в определенном направлении и будет результат.
Пример: фраза «распространение вредных идей» ) С точки зрения республиканцев, вредной идеей является нормализация лгбт и однополых браков. С тз демократов, вредным будет идея традиционных семейных ценностей и религии. |
|
|
 |
Vitoman
Стаж: 15 лет 2 мес.
Сообщений: 47
Ratio: 7.854
0.15%
|
Не переживайте, скоро машины сами болванчиков рожать будут..)) |
|
|
 |
unreal666
Стаж: 14 лет 11 мес.
Сообщений: 206
Ratio: 66.528
100%
Откуда: Владивосток
|
| Цитата: | Школьные администрации в восторге: можно отчитаться перед властями и снять с себя ответственность за спорные книги. |
| Цитата: | ведь за ошибки ИИ всё равно отвечают люди. |
Не понял. Ответственность все-таки на людях или ИИ? |
|
|
 |
maldoror666
Стаж: 15 лет 7 мес.
Сообщений: 5470
Ratio: 18.966
100%
|
Опять наверное "Над пропастью во ржи", "Лолиту" и "Поваренную книгу террориста" забанят... "Все на свете ерунда, потому что жизнь - борьба!" |
|
|
 |
bubastis
Стаж: 14 лет 6 мес.
Сообщений: 97
Ratio: 23.653
0.11%
|
Нижегородецъ писал(а):  | Есть предположение на алгоритмах какого ...дзора будет проводиться обучение американского ИИ, чтобы получилось именно "...запрет вместо выбора, цензура вместо образования" ))) |
Да ни один американский искусственный интеллект не сравнится с российским ...дзором. Просто потому что ...дзор и рядом не валялся с понятием "интеллект", что естественным, что искусственным. Это другое, вы не понимаете. |
|
|
 |
vitorserenity
Стаж: 15 лет 10 мес.
Сообщений: 652
Ratio: 12.791
57.66%
|
"Ребята" всё делают правильно. Для смены бытия в неокрепших умах малолетних дебилов нужно поселить веру в то, что добрый "псевдо ИИ" всё сделает правильно и главное - за вас, вам не о чём не нужно думать, а только стройно маршировать в новый бухенвальд, а кто не согласен - тот марширует на "тот свет". |
|
|
 |
Warhamer
Стаж: 16 лет 8 мес.
Сообщений: 475
Ratio: 1.546
2.75%
|
Во первых: У машины нет самосознания и воли, она ничего не определяет, работает по алгоритмам, использует параметры и данные заложенные в нее человеком.
Во вторых: Цензура обязательна, как граница дозволенного, иначе анархия и деградация общества. Цензуру определяют политика и традиции социума, т.е. государство.
В третьих: Не сформированная или несовершенная система правовой ответственности в области ИИ в США и в мире в целом.
Ответственность логически должна распределяться следующим образом:
1. Инициатор намерений (государство) - отвечает за правильность требований; 2. Поставщик агента (разработчик ИИ) - отвечает за правильность алгоритма; 3. Владелец данных (оператор данных) - отвечает за правильность баз данных; 4. Оператор среды (пользователь) - отвечает за правильность использования.
Библиотекари, как конечные операторы ИИ, не должны защищаться от обвинений в неправильности установленных не ими требованиях, а также проверять работу алгоритмов - это задача разработчика ИИ и владельца данных. Единственная их ответственность только за неисполнение требований регулятора и некорректное использование системы, что может привести к ошибкам. |
|
|
 |
rex4537
Стаж: 12 лет 8 мес.
Сообщений: 167
Ratio: 0.99
0.18%
|
А нужную литературу промаркирует голубым или радужным цветом ..... |
|
|
 |
Warhamer
Стаж: 16 лет 8 мес.
Сообщений: 475
Ratio: 1.546
2.75%
|
rex4537 писал(а):  | А нужную литературу промаркирует голубым или радужным цветом ..... |
смотря кто будет у власти демократы или республиканцы, просто в критериях заменят плюс на минус) |
|
|
 |
Usr75
Стаж: 14 лет 7 мес.
Сообщений: 490
Ratio: 1.099
0%
|
Warhamer писал(а):  | у власти демократы или республиканцы |
Это точно демократия, а не диктатура, где другие партии? Ещё США и их страны сателлиты никогда не поддерживают резолюцию против героизации нацизма. США и их сателлиты живут как написано в книге 1984 Оруэлла. |
|
|
 |
glborisov
Стаж: 13 лет 3 мес.
Сообщений: 55
Ratio: 6.524
100%
|
Опасность ИИ не в сценарии постапокалиптического фильма где толпа терминаторов затаптывает кучку повстанцев. Опасность ИИ в том что данную технологию использует власть повышая уровень контроля над народом. Написал статью по этой теме. Вот ссыль. Предупреждаю, статья очень длинная - 12 тыс. слов. Не всем зайдет такое чтиво. Но идею статьи я сформулировал в 2-х предложениях выше. https://docs.google.com/document/d/19HWlMwot9NKz7fuwm-MwS9j56OLh4c8GRaZHcEkMJ3M/edit?usp=drive_link |
|
|
 |
alex12nnm
Стаж: 13 лет 5 мес.
Сообщений: 2034
Ratio: 0.354
100%
|
|
 |
drkobrin
Стаж: 10 лет 4 мес.
Сообщений: 467
Ratio: 4.688
100%
|
И все-таки они научили нас отличать ЛГБТ от LTSC. Если научили не всех, напомню, что второе это продажная девка империялизьма и Винера читать запрещено. |
|
|
 |
|
|