| Автор |
Сообщение |
Новости ®
Вольный ветер
Стаж: 19 лет 7 мес.
Сообщений: 6428
Ratio: 25.216
Поблагодарили: 13430
100%
|
Microsoft подтвердила наличие ошибки в ИИ помощнике Microsoft 365 Copilot, которая приводила к обработке и краткому пересказу секретных электронных писем. Проблема наблюдалась с конца января и позволяла алгоритмам обходить политики предотвращения потери данных, используемые организациями для защиты чувствительной информации.
Согласно уведомлению службы поддержки, уязвимость (отслеживаемая под номером CW1226324 и впервые обнаруженная 21 января) затрагивает функцию чата на вкладке Работа. ИИ некорректно анализировал черновики и отправленные сообщения пользователей, даже если они были отмечены специальными ярлыками конфиденциальности. Данные метки как раз предназначены для ограничения доступа автоматизированных инструментов к содержимому переписки. Представители компании заявили, что причиной стало неуточненное отклонение в программном коде.
В своем заявлении для прессы разработчики уточнили, что сбой не предоставлял посторонним лицам доступ к информации, которую они не имели права видеть. Помощник обрабатывал только те письма, автором которых являлся сам пользователь. Тем не менее такое поведение алгоритма противоречит задуманной концепции безопасного использования искусственного интеллекта.
На данный момент компания уже начала процесс внедрения обновления конфигурации для корпоративных клиентов по всему миру. Новые электронные письма в исправленных версиях продукта больше не будут подвергаться ошибочному анализу со стороны нейросети. Источник |
_________________
Включение указателя поворота заранее, действительно помогает другим водителям понять,
в каком направлении вы собираетесь двигаться, и делает вождение безопаснее для всех.
|
|
 |
Red-White 77
Стаж: 16 лет 3 мес.
Сообщений: 2542
Ratio: 98.497
100%
Откуда: из Светлого Прошлого
|
| Цитата: | Представители компании заявили, что причиной стало неуточненное отклонение в программном коде. |
Или уточненное пока никто не обратит внимания  В общем, для кого баг, а для кого фича  |
_________________
Делай что должен и будь что будет.
|
|
|
|
Raptor303
Стаж: 14 лет 8 мес.
Сообщений: 10218
Ratio: 46.463
100%
|
Red-White 77
Как и в некоторых играх ) Когда баг используется как фича для облегчения, например, сэкономив время прохождения... |
|
|
|
|
Minor748
Стаж: 10 лет 3 мес.
Сообщений: 425
Ratio: 1296.831
Раздал: 305.2 TB
96.43%
Откуда: Из роддома по талонам
|
| Цитата: | Проблема наблюдалась с конца января и позволяла алгоритмам обходить политики предотвращения потери данных, используемые организациями для защиты чувствительной информации. |
Не баг,а фича  |
|
|
|
|
Raptor303
Стаж: 14 лет 8 мес.
Сообщений: 10218
Ratio: 46.463
100%
|
Minor748
Ну так зависит же от точки зрения )
Например, для мошенника или хакера уязвимости всегда фича...
В том числе уязвимости сознания конкретных индивидов, которых мошенники "разводят на бабки".
А что там у Мелкомягких... ну, можно конечно верить им на слово, но не стоит ≠) |
|
|
|
|
Qawer20
Стаж: 15 лет 10 мес.
Сообщений: 1620
Ratio: 5.268
Поблагодарили: 1724
100%
|
Да врут они, это первоапрельская шутка. У микросовтов ни когда не было дыр, багов и ошибок, а вы поверили наивные |
_________________
|
|
|
|
Kazakh
Стаж: 5 лет 4 мес.
Сообщений: 246
Ratio: 30.812
100%
|
Искусственный интеллект — фундаментальная угроза для всего человечества.
Искусственный интеллект — это всегда безответственный интеллект. |
|
|
|
|
stix22
Стаж: 4 мес. 14 дней
Сообщений: 21
Ratio: 9.416
2.86%
|
Да по моему это не новость в принципе что винда все данные сливает! |
|
|
|
|
StarRay
Стаж: 15 лет
Сообщений: 181
Ratio: 3.853
6.05%
|
Хорошо что еще остались ОС без предустановленного ИИ |
|
|
|
|
te5670
Стаж: 7 лет 2 мес.
Сообщений: 1605
Ratio: 2.719
Поблагодарили: 262220
100%
|
|
_________________
Ну, вот, поели... Теперь можно и поспать...
Ну, вот, поспали... Теперь можно и поесть...
|
|
|
|
lve55
Олигарх+
Стаж: 16 лет 7 мес.
Сообщений: 1674
Ratio: 15.609
Раздал: 10.43 TB
Поблагодарили: 5271
100%
Откуда: Петроград - Ленинград
|
te5670 писал(а):  |
|
Какая это фича , это полная ерунда - "Что знают двое, то знает и свинья"
|
_________________
Сначала революция, потом - мир... С врагами нужно биться, а не соглашаться!
Иосиф Виссарионович Сталин
|
|
|
|
митька501
Стаж: 15 лет
Сообщений: 375
Ratio: 1.182
100%
|
| Kazakh писал(а): | Искусственный интеллект — фундаментальная угроза для всего человечества.
Искусственный интеллект — это всегда безответственный интеллект. |
Блогеры,коучи,мошенники,рекламщики-по-вашему ответственный интеллект? |
|
|
|
|
ElSwanko
Куратор Аниме
Модератор Музыки
Стаж: 19 лет 7 мес.
Сообщений: 22288
Ratio: 1511.143
Поблагодарили: 96076
100%
Откуда: ур-пространство преконтинуума
|
| StarRay писал(а): | Хорошо что еще остались ОС без предустановленного ИИ |
А тем временем ыы встраивается во все программы, какие только можно. Вот и хрум тоже оболванился https://3dnews.ru/1135999/ |
|
|
|
|
андрей1800
Стаж: 15 лет 10 мес.
Сообщений: 380
Ratio: 3.598
Поблагодарили: 20
100%
Откуда: Саратов
|
Фильм терминатор не чему не учит. ИИ в лице скайнет, его как бы и нет негде и одновременно он везде. |
|
|
|
|
Antonik595
Стаж: 2 мес. 28 дней
Сообщений: 2
Раздал: 3.76 GB
100%
|
Они еще тогда, потерпели поражения из-за идеи когда Capilot делал скриншоты экрана и отправлял их на свои сервера, а после использовал эти данные для нахождения файлов на компьютере, это убивало напрочь всю конфендециальность и в конечном итоге это вызвало большое недовольство и идею заморозили но не отклонили https://www.anti-malware.ru/news/2025-07-25-111332/46788 |
|
|
|
|
|
|
