Классический форум-трекер
canvas not supported
Нас вместе: 4 232 205

Пичаи предупредил об угрозах ИИ и заявил о необходимости контроля технологии


Страницы:   Пред.  1, 2, 3 ... 8, 9, 10, 11  След. 
 
RSS
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости
Автор Сообщение
Михаил ®
 
Стаж: 13 лет 2 мес.
Сообщений: 21356
Ratio: 22.972
100%
Гендиректор Alphabet Сундар Пичаи в своей колонки для Financial Times рассказал об угрозах, которые таит в себе искусственный интеллект и заявил о необходимости контролировать развитие технологии как со стороны компаний, так и государств.

Пичаи считает ИИ одной из самых многообещающих технологий. Однако он отмечает, что она может использоваться и для подделки видео, и для распространения ложной информации.

«Есть реальные опасения негативных последствий искусственного интеллекта: от deepfake до гнусного использования распознавания лиц. Хотя работа, чтобы решить эти вопросы, ведется, впереди неизбежно будут новые трудности, которые ни одна компания или индустрия не может решить одна», — написал Пичаи.

Одновременно, по его словам, ИИ может применяться для выявления рака, предсказания погоды и сокращения задержек полетов. Во всех этих проектах принимал участие Google.

Гендиректор Alphabet заявил о необходимости международных стандартов работы с искусственным интеллектом: «Компании как наша не могут просто создавать перспективную технологию и позволить рыночным силам решать, как она будет использоваться. В равной степени мы обязаны следить за тем, чтобы технологии использовались для добра и были доступны каждому. Теперь у меня даже не возникает вопрос, что искусственный интеллект должен регулироваться. Он слишком важен, чтобы этого не делать».

Пичаи напомнил о принципах работы Google с ИИ. Он сообщил также, что компания разработала процедуры, в том числе проверку на соответствие новых продуктов правам человека.

По мнению Пичаи, европейский закон о защите данных пользователей (GDPR) может послужить основой для выработки соответствующего кодекса: «Для некоторых сценариев, как использование алгоритмов в законных медицинских инструментах, в том числе кардиомониторах, существующие нормы — хорошая стартовая точка».

Однако, по его словам, для более новых сфер, например самоуправляемых автомобилей, нужны отдельные правила со стороны правительств.
savsoft
Стаж: 12 лет 10 мес.
Сообщений: 3046
Ratio: 1.17
37.62%
DartSandy писал(а): Перейти к сообщению
savsoft писал(а): Перейти к сообщению
И как определить, ПО работает неправильно потому что сложное и не уследили, или просто забили на юзеров и просто практически не тестировали? Или ради сверхприбылей наняли, например малоквалифицированных индусов? Все равно юзер виноват?
Понятия не имею как - подскажи. Вот имеем винегрет - железо, прикладное ПО, драйверы, кучка библиотек.


Вроде все верно пишите, но представьте. Выпускает производитель дерьмовые авто, но он не виноват, так как в дерьмовой резине виноваты производители резины, в дерьмовом метали производители метала и т.д. Но и они тоже не тупые, они тоже не виноватые, так как виноваты поставщики сырья, но и они не тупые, виноваты добывающие компании, но и они в виноватых быть не хотят, виноваты геологи/технологи и т.д.

А насчет железа/драйверов/ПО и т.д. Когда-то работал в крупном холдинге, в нем было много компаний, и в них разные отделы ИТ. Так вот, отделы которые покупали качественную технику, стандартное ПО не имели проблем по сравнению с отделами, которые работали больше на свой карман, химичили с железом, у всяких дядь Вась заказывали ПО и т.д. Вот у них было куча проблем и они типа пашут как пчелки.
Рявкин
Стаж: 13 лет 5 мес.
Сообщений: 24887
Ratio: 10M
Поблагодарили: 2574
100%
Откуда: из-за горизонта
вы все, в своих рассуждениях, игнорируете такое понятие - человеческий фактор

софт может быть "хорошим" - результат плохим
софт может быть "плохим" - результат хорошим

тут кто-то говорил, что мол если делать всё не по понятиям, а по закону -
- то инерция этого - тупо затаскают по судам ))

_________________
DartSandy
Стаж: 9 лет 6 мес.
Сообщений: 3845
Ratio: 1196.291
Раздал: 371.3 TB
100%
ussr.gif
savsoft писал(а): Перейти к сообщению
Вроде все верно пишите, но представьте. Выпускает производитель дерьмовые авто, но он не виноват, так как в дерьмовой резине виноваты производители резины, в дерьмовом метали производители метала и т.д. Но и они тоже не тупые, они тоже не виноватые, так как виноваты поставщики сырья, но и они не тупые, виноваты добывающие компании, но и они в виноватых быть не хотят, виноваты геологи/технологи и т.д.
Ты всё время пытаешься подменить монобрэндом автопроизводителя солянку сборную общедоступных систем. Хотя я тебе уже приводил аналогию с аптекой. Могу и с авто привести аналогичное - вот тебе колеса от одного, двигло от другого, коробку от третьего. Соберет дядя Вася за углом. Никто не предъявляет автопроизводителю претензий за проблемы с магнитолой, что ты сам установил. Или за не подошедшие чехлы на сиденья. Интересно почему?
savsoft писал(а): Перейти к сообщению
А насчет железа/драйверов/ПО и т.д. Когда-то работал в крупном холдинге, в нем было много компаний, и в них разные отделы ИТ. Так вот, отделы которые покупали качественную технику, стандартное ПО не имели проблем по сравнению с отделами, которые работали больше на свой карман, химичили с железом, у всяких дядь Вась заказывали ПО и т.д. Вот у них было куча проблем и они типа пашут как пчелки.
Всё тобой описанное никак не подойдет к существующему рынку виндовс систем. Они традиционно открытые, хотя последнее время МС делает явные шаги к замыканию экосистемы на себя. И шаги эти многих бесят. Но я не вижу пока вариантов, что бы та же МС разрабатывала весь спектр ПО или несла полную ответственность за ПО чужое. Это потребует практически заморозки разработок ПО для их всесторонней апробации и тестирования. Все больше похоже, что они и со своим то ПО справляются уже с трудом. Рынок ПО развивается слишком быстро - это просто невозможно.
Рявкин
Стаж: 13 лет 5 мес.
Сообщений: 24887
Ratio: 10M
Поблагодарили: 2574
100%
Откуда: из-за горизонта
DartSandy писал(а): Перейти к сообщению
Рынок ПО развивается слишком быстро

и я удивлён бывшей политикой майкрософта, в том смысле что они были мягкотелы ))
ща, своей десяткой и "ушлыми" обновлениями на предыдущие оси, они показали зубки ))
но зубки ещё мелкие... меня бы туда.. я бы вам всем показал - что такое халява)))

_________________
aiwalev
Стаж: 12 лет 2 мес.
Сообщений: 9370
Ratio: 3781.153
36.18%
ukraine.gif
savsoft писал(а): Перейти к сообщению

А давай сравним с табачкой? Или фармацевтикой? Все знают, что курить вредно, но тем не менее есть решения судов о возмещении многомиллионного ущерба.

Сначала про суды, точнее про то лицемерие никакого отношения к правосудию не имеющее.
Не уверен, кажется там и до суда не доходило - там есть процедура прекращения по договоренности сторон.
Но даже если так, то примеры дебилизации общества лежат немножко за гранью и все эти примеры с ожогами от горячего кофе, постиранными машинками кошечками и котиками и никотиновым вредом - это всего лишь случаи вымогательства денег из компаний и добровольная выплата компаниями денег вымогателям во избежании потерь еще больших прибылей.
Но давайте вернемся к табачке: Вы уверены, что в табачных изделиях присутствует табак, а не пропитанный никотином эквивалент? Чтобы курить табак нужно покупать его у торговца, специализирующего на продаже именно табака.

savsoft писал(а): Перейти к сообщению

И как определить, ПО работает неправильно потому что сложное и не уследили, или просто забили на юзеров и просто практически не тестировали? Или ради сверхприбылей наняли, например малоквалифицированных индусов? Все равно юзер виноват?


Да никак Вы не определите. Как Вы определите, хороший режиссер или плохой? Только по собственным ощущениям.
Точно так же и с ПО - нравится /не нравится.

Добавлено спустя 4 минуты 25 секунд:

savsoft писал(а): Перейти к сообщению

А так имеем обратное, чтобы стать инженером-ядерщиком/электриком/механиком нужно получить образование, а инженеры-программисты в основном выродились, теперь программируют все кому не лень. Курс прошел и все - юниор в софтверной компании.


Даже больше: Тойота в 2012 (или около) вообще обошлась без программистов. Они прогнали режимы работы через Матлаб и воспользовались сгенерированной Матлабом программой.
DartSandy
Стаж: 9 лет 6 мес.
Сообщений: 3845
Ratio: 1196.291
Раздал: 371.3 TB
100%
ussr.gif
Рявкин писал(а): Перейти к сообщению
но зубки ещё мелкие...
*вспоминается наркоман Павлик*
-Мягкие зубы... Зубы мягкие...
Рявкин
Стаж: 13 лет 5 мес.
Сообщений: 24887
Ratio: 10M
Поблагодарили: 2574
100%
Откуда: из-за горизонта
DartSandy писал(а): Перейти к сообщению
Мягкие зубы... Зубы мягкие..

а чё? пока халява - инет безлимитный за символический тариф ))
а вот помню.. инет у нас был по карточкам.. так там часами сидеть было накладно...
но счета за телефон тогда не я оплачивал - и потому )) :смущение:

_________________
trajan40
Стаж: 10 лет 10 мес.
Сообщений: 1609
Ratio: 32.683
41.8%
aiwalev писал(а): Перейти к сообщению
Да никак Вы не определите. Как Вы определите, хороший режиссер или плохой? Только по собственным ощущениям.
Точно так же и с ПО - нравится /не нравится.

Классика демагогии.
Какое отношение ПО имеет к искуству? Это научно-техническая область. Здесь типичная отмазка художника "я так вижу" не пройдет.
Для любого ПО есть описание, что он ДОЛЖЕН делать и за это и платит потребитель. И все.
Если этого не происходит - это брак и производитель должен страдать. Если, например, обнова винды такая плохая, что даже мелкие бракоделы не может выкрутится и вынуждены отозвать, то надо штрафовать так, чтоб другой раз землю грызли, но сделали, как надо.

И не надо сказок про сложность ПО, плохих смежников и.т.д. Даже при производстве хлеба или пива задействовано на порядки больше наук и технологий, чем самого сложного в мире ПО.
DartSandy
Стаж: 9 лет 6 мес.
Сообщений: 3845
Ratio: 1196.291
Раздал: 371.3 TB
100%
ussr.gif
trajan40 писал(а): Перейти к сообщению
Для любого ПО есть описание, что он ДОЛЖЕН делать и за это и платит потребитель.
Если, например, обнова винды такая плохая, что даже мелкие бракоделы не может выкрутится и вынуждены отозвать
Ну расскажи, которое "описание" нарушил МС, что бы начинать страдать.

trajan40 писал(а): Перейти к сообщению
И не надо сказок про сложность ПО, плохих смежников и.т.д. Даже при производстве хлеба или пива задействовано на порядки больше наук и технологий, чем самого сложного в мире ПО.
Судя по твоим высказываниям, от разработки ПО ты крайне далек.
Рявкин
Стаж: 13 лет 5 мес.
Сообщений: 24887
Ratio: 10M
Поблагодарили: 2574
100%
Откуда: из-за горизонта
trajan40 писал(а): Перейти к сообщению
Для любого ПО есть описание, что он ДОЛЖЕН делать и за это и платит потребитель. И все.

:задумался: О нет :лол:
trajan40 писал(а): Перейти к сообщению
Классика демагогии.

Рявкин писал(а): Перейти к сообщению

вы все, в своих рассуждениях, игнорируете такое понятие - человеческий фактор

софт может быть "хорошим" - результат плохим
софт может быть "плохим" - результат хорошим

тут кто-то говорил, что мол если делать всё не по понятиям, а по закону -
- то инерция этого - тупо затаскают по судам ))

_________________
trajan40
Стаж: 10 лет 10 мес.
Сообщений: 1609
Ratio: 32.683
41.8%
DartSandy писал(а): Перейти к сообщению
Судя по твоим высказываниям, от разработки ПО ты крайне далек.

А ты, прежде чем сказать, что пиво кислое и потребовать деньги назад получил диплом пивовара?

Рявкин писал(а): Перейти к сообщению
вы все, в своих рассуждениях, игнорируете такое понятие - человеческий фактор

Ага, долой криминальный кодекс и суды - так и преступления тоже человеческий фактор. Ну непонравилась мне его морда - вот и убил.
Как раз, чтоб этот фактор свести к минимуму и существует система противовесов - попросту кнут и пряник. Хотя правильная дозировка их сродни искуству.
А у производителей ПО никакого кнута, а одни пряники, вернее даже торты.

Мне вот интересно - Вы, конкретно Вы, если, например, из за купленного бракованного обогревателя сгорит дом сказав "человеческий фактор" пойдете зарабатывать на новый или будете судится на возмещение ущерба?
aiwalev
Стаж: 12 лет 2 мес.
Сообщений: 9370
Ratio: 3781.153
36.18%
ukraine.gif
trajan40 писал(а): Перейти к сообщению

Классика демагогии.
Какое отношение ПО имеет к искуству? Это научно-техническая область. Здесь типичная отмазка художника "я так вижу" не пройдет.

ПО с искусством роднит, то что как первое, так и второе строго не регламентируется. Это процесс производства хлеба или постройку дома можете расписать пошагово с точностью до человека-часа. А для разработки ПО такого вообще не существует. Есть куча всяких и разных рекомендаций, всевозможные "стреч-технологии" и прочее написанное в стиле "вольного" сочинения. Да и качество ПО как Вы проверите? Ну на этапе альфы и беты выявляются и устраняются ошибки, а все остальное идет в серию.

trajan40 писал(а): Перейти к сообщению

И не надо сказок про сложность ПО, плохих смежников и.т.д. Даже при производстве хлеба или пива задействовано на порядки больше наук и технологий, чем самого сложного в мире ПО.

Никаких сложностей ПО, только одна аксиома: любая программа содержит ошибку.
Производство хлеба - это чепуха. Есть строго определенная технология - задача лишь следовать ей.
Да и качество хлеба можно оценить проведением хим. анализа.

Идиотизм торговых менеджеров, желающих внедрить штрафы за некачественное ПО, состоит в том, что если предположить, что им удастся задуманное, то они останутся без работы. Потому что разработчики ПО в крайнем случае уйдут печь хлеб.
DartSandy
Стаж: 9 лет 6 мес.
Сообщений: 3845
Ratio: 1196.291
Раздал: 371.3 TB
100%
ussr.gif
trajan40 писал(а): Перейти к сообщению
А ты, прежде чем сказать, что пиво кислое и потребовать деньги назад получил диплом пивовара?
Я же не спрашиваю тебя, лижешь ли ты коробки с ПО или на основании каких критериев выдвигаешь претензии к конкретному производителю, хотя используется оно в составе обширного программно-аппаратного комплекса. И не интересуюсь, готов ли ты пользоваться полностью закрытой системой, к которой у тебя будет доступ только как пользователя, а настройкой всего и вся будет заниматься чужой дядя.
А как ты умудряешься одно и то же пиво месяцами и годами пить? У меня не выходит - может тара хреновая.

Добавлено спустя 4 минуты 26 секунд:

trajan40 писал(а): Перейти к сообщению
Мне вот интересно - Вы, конкретно Вы, если, например, из за купленного бракованного обогревателя сгорит дом сказав "человеческий фактор" пойдете зарабатывать на новый или будете судится на возмещение ущерба?
А если у этого обогревателя ты менял провод питания или спиральки перематывал? А если ничего не менять в компьютерной системе, то она, внезапно, не меняет своего поведения, пока не сломается железо. Ну или вирус не подхватишь - но это же твой вирус!

Добавлено спустя 4 минуты 16 секунд:

aiwalev писал(а): Перейти к сообщению
Да и качество хлеба можно оценить проведением хим. анализа.
Так в данном случае, дело не только в качестве, но и во вкусовых нюансах :) Из коробки поставленный офис справляется с составлением документов - по аналогии качественный. А потом что то в системе меняется и он заглючил. Он что - испортился с того времени?
Рявкин
Стаж: 13 лет 5 мес.
Сообщений: 24887
Ratio: 10M
Поблагодарили: 2574
100%
Откуда: из-за горизонта
trajan40 писал(а): Перейти к сообщению
Ага, долой криминальный кодекс и суды - так и преступления тоже человеческий фактор

о крайностях, я не говорил - это вы так подумали))
и потому - разговариваете сами с собой - то бишь ваш вопрос -
а потом ваша фантазия, как ответ самому себе )))

trajan40 писал(а): Перейти к сообщению
Мне вот интересно - Вы, конкретно Вы, если, например, из за купленного бракованного обогревателя сгорит дом сказав "человеческий фактор" пойдете зарабатывать на новый или будете судится на возмещение ущерба?

вы и тут, задав вопрос - отвечаете за собеседника своими фантазиями ))
а я буду действовать по обстоятельствам, что не один ИИ - в принципе не может ))

_________________
trajan40
Стаж: 10 лет 10 мес.
Сообщений: 1609
Ratio: 32.683
41.8%
aiwalev писал(а): Перейти к сообщению
Да и качество ПО как Вы проверите? Ну на этапе альфы и беты выявляются и устраняются ошибки, а все остальное идет в серию.

Так чего после выпуска большой части ПО его допиливает, допиливает...

aiwalev писал(а): Перейти к сообщению
Потому что разработчики ПО в крайнем случае уйдут печь хлеб.

Вот этого не надо - получим что-то хлебоподобное с лицухой "если что, мы нипричем".
Да и уйдут как раз те разработчики, которые и всучивает свои альфы и беты как готовый продукт. Если из за штрафов таких выбросит на улицу, отрасль станет только чище.

Истинные профессионалы ПО есть, и как раз им нормально развернутся мешает халтурщики и их жадные хозяева.

DartSandy писал(а): Перейти к сообщению
А если у этого обогревателя ты менял провод питания или спиральки перематывал?

Опять демагогия. Речь о вещи с магазина.
Или когда начинается проблемы после официального обновления ПО? Впрочем "стандарт" индустрии ПО.
Показать сообщения:   
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости Часовой пояс: GMT + 3
Страницы:   Пред.  1, 2, 3 ... 8, 9, 10, 11  След.
Страница 9 из 11