Классический форум-трекер
canvas not supported
Нас вместе: 4 262 162


Устойчивый к блокировкам VPN с высоким уровнем приватности

Microsoft признала уязвимость в Copilot из-за которой ИИ читал секретные письма


Страницы:   Пред.  1, 2 
 
RSS
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости
Автор Сообщение
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 5 мес.
Сообщений: 6359
Ratio: 25.214
Поблагодарили: 13423
100%
nnm-club.gif
    Microsoft подтвердила наличие ошибки в ИИ помощнике Microsoft 365 Copilot, которая приводила к обработке и краткому пересказу секретных электронных писем. Проблема наблюдалась с конца января и позволяла алгоритмам обходить политики предотвращения потери данных, используемые организациями для защиты чувствительной информации.


    Согласно уведомлению службы поддержки, уязвимость (отслеживаемая под номером CW1226324 и впервые обнаруженная 21 января) затрагивает функцию чата на вкладке Работа. ИИ некорректно анализировал черновики и отправленные сообщения пользователей, даже если они были отмечены специальными ярлыками конфиденциальности. Данные метки как раз предназначены для ограничения доступа автоматизированных инструментов к содержимому переписки. Представители компании заявили, что причиной стало неуточненное отклонение в программном коде.

    В своем заявлении для прессы разработчики уточнили, что сбой не предоставлял посторонним лицам доступ к информации, которую они не имели права видеть. Помощник обрабатывал только те письма, автором которых являлся сам пользователь. Тем не менее такое поведение алгоритма противоречит задуманной концепции безопасного использования искусственного интеллекта.

    На данный момент компания уже начала процесс внедрения обновления конфигурации для корпоративных клиентов по всему миру. Новые электронные письма в исправленных версиях продукта больше не будут подвергаться ошибочному анализу со стороны нейросети.
Источник

_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
Steex2
Стаж: 14 лет 4 мес.
Сообщений: 47
Ratio: 146.391
100%
Они ж хвастались, что им 30% кода Windows теперь пишет ИИ. Вот этот самый ИИ и готовит для себя лазейки под будущий захват мира. :D
kex4
Стаж: 7 лет 5 мес.
Сообщений: 629
Ratio: 12.358
100%
ussr.gif
Kazakh писал(а): Перейти к сообщению
Искусственный интеллект — фундаментальная угроза для всего человечества.
Искусственный интеллект — это всегда безответственный интеллект.
Искусственный - Да.
Интеллект - нет.
dvv06
Сканировщик Детского
Стаж: 17 лет
Сообщений: 528
Ratio: 2.992
78.73%
ussr.gif
новость следует читать так: "Майкрософт раздосадована тем, что активные независимые энтузиасты нашли и раскрыли общественности заложеный майкрософтом в целях сбора личных данных бэкдор. И она эту "уязвимость" признала и сделает латочку, которая закроет этот бэкдор и откроет другой резервный с тем же функционалом для майкрософт "
GREYCH
Стаж: 7 лет 3 мес.
Сообщений: 101
Ratio: 1.19
0.3%
андрей1800 писал(а): Перейти к сообщению
Фильм терминатор не чему не учит. ИИ в лице скайнет, его как бы и нет негде и одновременно он везде.

Да в принципе много фантастов описало опасность сего дела , один Азимов придумал 3 закона робототехники))) , многие ведутся на это не зная что к реальности это не имеет отношения.
Герберт
Стаж: 13 лет 6 мес.
Сообщений: 307
Ratio: 28.296
0.8%
Т.е., "конфидициальность" обеспечивалась флажком "посторонним вэ", прочитав значение которого посторонний вэ добровольно отказывается от чтения?
asury
 
Стаж: 12 лет 5 мес.
Сообщений: 345
Ratio: 1.49
8.25%
russia.gif
так и было задуманно
Palantir82
Стаж: 16 лет 10 мес.
Сообщений: 1250
Ratio: 5.954
3.5%
barbados.gif
Если включить логику - иначе быть не может. Продукцией - операционкой и офисным пакетом пользуется весь мир, государство в лице спецслужб не может туда не влезть. Было бы странно держать все это в руках и не получить доступ к информации имеющей коммерческую тайну и переписке.
Если вы хотите сохранить свои тайны (уж не знаю какие) не пользуйте продукцией микрософт и гугла:)) , а лучше вообще не пользуйтесь компьютерами. Делайте по старинке, документ печатайте на печатной машинке советского образца (без всяких там кешей...) в папочку и в сейф.

Добавлено спустя 7 минут 54 секунды:

Steex2 писал(а): Перейти к сообщению
Вот этот самый ИИ и готовит для себя лазейки под будущий захват мира

По отношению к людям использовать любой вид оружия не рационально и не имеет смысла. Все что надо сделать это захватить под управления инфрастуктуру необходимую самому ИИ для его функционирования - атомные станции и вычислительные мощности (думаю при дальнейшем развитии технологии люди это все отдадут сами). А дальше все просто - небольшой вирус, который очень быстро распространиться и уберет конкурента. От вируса не спасется никто, если правильно расчитать инкубационый период, несколько дней и все ресусры мира в руках машины.
Показать сообщения:   
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости Часовой пояс: GMT + 3
Страницы:   Пред.  1, 2
Страница 2 из 2