| Автор |
Сообщение |
Новости ®
Вольный ветер
Стаж: 20 лет
Сообщений: 6735
Ratio: 25.216
Поблагодарили: 13443
100%
|
В американских школьных библиотеках появился новый игрок — искусственный интеллект, который автоматически сортирует книги на «безопасные» и «опасные». Программа Class-Shelf Plus от компании CLCD сама маркирует литературу по цветовой шкале: зелёный — допустимо, красный — под вопросом. Однако, кто учил алгоритм и на каких данных — информация закрытая.
Производители позиционируют систему как спасение для загруженных библиотекарей, которым станет проще соблюдать ужесточившиеся законы о «чувствительном контенте». Школьные администрации в восторге: можно отчитаться перед властями и снять с себя ответственность за спорные книги.
Но проблема кроется в деталях. Под автоматическую фильтрацию попадают в том числе книги о расовой истории, ЛГБТ-темах и социальной критике. При этом библиотекари физически не успевают проверять тысячи машинных вердиктов — людей мало, времени нет, бюджеты урезают. Получается, что профессионал с образованием отодвинут в сторону, а судьбу книг решает непрозрачный алгоритм.
Ситуацию усугубляет политическое давление. В некоторых штатах педагогам грозят уголовной ответственностью за «распространение вредных идей». Школы атакуют законодатели, финансирование падает, а тут ещё новая головная боль — библиотеки завалены книгами, написанными нейросетями, которые приходится выискивать и удалять вручную.
Профессиональное сообщество бьёт тревогу: вместо помощи читателям библиотекари тонут в бюрократии, защищаясь от обвинений и проверяя работу алгоритмов. Обещанная «оптимизация» обернулась ростом нагрузки — ведь за ошибки ИИ всё равно отвечают люди.
Итог: под видом технологичного решения постепенно выстраивается система централизованной цензуры, где машина определяет границы допустимого, а живые специалисты превращаются в заложников автоматизации. 404media |
_________________ Если оба собеседника считают друг друга дураками, то разговаривают мягко и снисходительно, что явно идёт на пользу общению.
|
|
 |
Нижегородецъ
Стаж: 4 года 2 мес.
Сообщений: 331
Ratio: 46.639
100%
|
Есть предположение на алгоритмах какого ...дзора будет проводиться обучение американского ИИ, чтобы получилось именно "...запрет вместо выбора, цензура вместо образования" ))) |
|
|
 |
Raptor303
Стаж: 15 лет 1 мес.
Сообщений: 10341
Ratio: 46.347
100%
|
Как и в случае с назначением судей в городах и штатах США, так и с назначением машин для управления книгами и образованием будет то же самое: какая из двух главных партий Америки назначает, в определенном направлении и будет результат.
Пример: фраза «распространение вредных идей» ) С точки зрения республиканцев, вредной идеей является нормализация лгбт и однополых браков. С тз демократов, вредным будет идея традиционных семейных ценностей и религии. |
|
|
 |
Vitoman
Стаж: 15 лет 10 мес.
Сообщений: 47
Ratio: 8.222
0.14%
|
Не переживайте, скоро машины сами болванчиков рожать будут..)) |
|
|
 |
unreal666
Стаж: 15 лет 8 мес.
Сообщений: 214
Ratio: 64.353
100%
Откуда: Владивосток
|
| Цитата: | Школьные администрации в восторге: можно отчитаться перед властями и снять с себя ответственность за спорные книги. |
| Цитата: | ведь за ошибки ИИ всё равно отвечают люди. |
Не понял. Ответственность все-таки на людях или ИИ? |
|
|
 |
maldoror666
Стаж: 16 лет 4 мес.
Сообщений: 5957
Ratio: 18.445
100%
|
Опять наверное "Над пропастью во ржи", "Лолиту" и "Поваренную книгу террориста" забанят... "Все на свете ерунда, потому что жизнь - борьба!" |
|
|
 |
bubastis
Стаж: 15 лет 3 мес.
Сообщений: 141
Ratio: 21.101
0.11%
|
Нижегородецъ писал(а):  | Есть предположение на алгоритмах какого ...дзора будет проводиться обучение американского ИИ, чтобы получилось именно "...запрет вместо выбора, цензура вместо образования" ))) |
Да ни один американский искусственный интеллект не сравнится с российским ...дзором. Просто потому что ...дзор и рядом не валялся с понятием "интеллект", что естественным, что искусственным. Это другое, вы не понимаете. |
|
|
 |
vitorserenity
Стаж: 16 лет 7 мес.
Сообщений: 787
Ratio: 13.906
87.55%
|
"Ребята" всё делают правильно. Для смены бытия в неокрепших умах малолетних дебилов нужно поселить веру в то, что добрый "псевдо ИИ" всё сделает правильно и главное - за вас, вам не о чём не нужно думать, а только стройно маршировать в новый бухенвальд, а кто не согласен - тот марширует на "тот свет". |
|
|
 |
Warhamer
Стаж: 17 лет 4 мес.
Сообщений: 585
Ratio: 1.465
2.64%
|
Во первых: У машины нет самосознания и воли, она ничего не определяет, работает по алгоритмам, использует параметры и данные заложенные в нее человеком.
Во вторых: Цензура обязательна, как граница дозволенного, иначе анархия и деградация общества. Цензуру определяют политика и традиции социума, т.е. государство.
В третьих: Не сформированная или несовершенная система правовой ответственности в области ИИ в США и в мире в целом.
Ответственность логически должна распределяться следующим образом:
1. Инициатор намерений (государство) - отвечает за правильность требований; 2. Поставщик агента (разработчик ИИ) - отвечает за правильность алгоритма; 3. Владелец данных (оператор данных) - отвечает за правильность баз данных; 4. Оператор среды (пользователь) - отвечает за правильность использования.
Библиотекари, как конечные операторы ИИ, не должны защищаться от обвинений в неправильности установленных не ими требованиях, а также проверять работу алгоритмов - это задача разработчика ИИ и владельца данных. Единственная их ответственность только за неисполнение требований регулятора и некорректное использование системы, что может привести к ошибкам. |
|
|
 |
rex4537
Стаж: 13 лет 5 мес.
Сообщений: 237
Ratio: 0.98
0.17%
|
А нужную литературу промаркирует голубым или радужным цветом ..... |
|
|
 |
Warhamer
Стаж: 17 лет 4 мес.
Сообщений: 585
Ratio: 1.465
2.64%
|
rex4537 писал(а):  | А нужную литературу промаркирует голубым или радужным цветом ..... |
смотря кто будет у власти демократы или республиканцы, просто в критериях заменят плюс на минус) |
|
|
 |
Usr75
Стаж: 15 лет 4 мес.
Сообщений: 564
Ratio: 1.304
0%
|
Warhamer писал(а):  | у власти демократы или республиканцы |
Это точно демократия, а не диктатура, где другие партии? Ещё США и их страны сателлиты никогда не поддерживают резолюцию против героизации нацизма. США и их сателлиты живут как написано в книге 1984 Оруэлла. |
|
|
 |
glborisov
Стаж: 14 лет
Сообщений: 75
Ratio: 6.521
100%
|
Опасность ИИ не в сценарии постапокалиптического фильма где толпа терминаторов затаптывает кучку повстанцев. Опасность ИИ в том что данную технологию использует власть повышая уровень контроля над народом. Написал статью по этой теме. Вот ссыль. Предупреждаю, статья очень длинная - 12 тыс. слов. Не всем зайдет такое чтиво. Но идею статьи я сформулировал в 2-х предложениях выше. https://docs.google.com/document/d/19HWlMwot9NKz7fuwm-MwS9j56OLh4c8GRaZHcEkMJ3M/edit?usp=drive_link |
|
|
 |
alex12nnm
Стаж: 14 лет 2 мес.
Сообщений: 2077
Ratio: 0.284
100%
|
|
 |
drkobrin
Только чтение
Стаж: 11 лет 1 мес.
Сообщений: 517
Ratio: 4.947
100%
|
И все-таки они научили нас отличать ЛГБТ от LTSC. Если научили не всех, напомню, что второе это продажная девка империялизьма и Винера читать запрещено. |
|
|
 |
|
|