Пичаи предупредил об угрозах ИИ и заявил о необходимости контроля технологии

DartSandy писал(а):

Единственые сдерживающие факторы - другие капиталисты и борьба рабочего класса. И худо бедно они еще сдерживают тот же гугл.

А если монополист? Наример, как гугля de facto в браузерах.

DartSandy писал(а):

По другому и быть не может в системах допускающих пользовательскую настройку. Иначе индустрия разработки ПО просто утонет в судебных исках и экспертных оценках по каждому чиху.

Неужели?
Продукты, купленные в магазине, мы готовим как вздумается, но это не освобождает от ответственности производителя/магазин за продажу тухлятины.
Да и автопроизводители не делают из клиентов бетатестеров.
И менно "благодаря" этому "если что, мы нипричем" нам ПРОДАЕТ полуфабрикаты или откровенный брак ПО под видом готового продукта. Естественно, речь только о платных продуктах.

Искусственный интеллект где-то далеко.
Управляемый интеллект где-то рядом.
Как вспомнишь "божеправый" или "славакпсс" или "хайльгитлер" или "вовамыстобой", то задумываешься - кто же будет делать искусственный?
И чем это обернется против меня, с моим собственным, любимым, хотя и маленьким интеллектом?
А ведь оно обернется, к бабке не ходи...

trajan40 писал(а):

Продукты, купленные в магазине, мы готовим как вздумается, но это не освобождает от ответственности производителя/магазин за продажу тухлятины.

Если Вас не устраивает мясо в магазине, Вы можете его не покупать. Найдите то, что Вам подходит или вырастите своего поросеночка.
Если Вас не устраивает качество ПО, Вы можете его не покупать. Найдите более другое или доделайте сами.

aiwalev писал(а):

Если Вас не устраивает мясо в магазине, Вы можете его не покупать. Найдите то, что Вам подходит или вырастите своего поросеночка. Если Вас не устраивает качество ПО, Вы можете его не покупать. Найдите более другое или доделайте сами.

Подмена понятий.
Производитель/продавец тухлого мяся получит штраф/суд независимо от того, есть другие продавцы мяся или нет.
Производитель/продавец авто с неисправными тормозами так-же, хоть других авто завались.

Если производитель, хоть ложек, будет сопровождать свою продукцию с лицухой "если что, мы нипричем" его вообще не допустит на рынок.
Нет на ПО своей "СЭС" как в остальных сферах бизнеса - вот и весь сказ.

trajan40 писал(а):

Подмена понятий. Производитель/продавец тухлого мяся получит штраф/суд независимо от того, есть другие продавцы мяся или нет. Производитель/продавец авто с неисправными тормозами так-же, хоть других авто завались. Если производитель, хоть ложек, будет сопровождать свою продукцию с лицухой "если что, мы нипричем" его вообще не допустит на рынок. Нет на ПО своей "СЭС" как в остальных сферах бизнеса - вот и весь сказ.

Ну давайте про остальные сферы, к примеру медицинскую.
У кардиохирурга есть определенный процент неудачных операций, Вы к нему претензии за неудачи когда собираетесь предъявлять? Вас не возмущает, когда он, а бы берем в пример высококвалифицированного добросовестного хирурга, заявляет что вероятность успешного исхода 5%, 10%, или 60%? Почему Вы не ставите на одни весы продавца медицинской операции и продавца мяса?

Update.

trajan40 писал(а):

Нет на ПО своей "СЭС" как в остальных сферах бизнеса - вот и весь сказ.

Да, это так. И глупо придумывать на ПО "СЭС".

aiwalev писал(а):

Ну давайте про остальные сферы, к примеру медицинскую. У кардиохирурга есть определенный процент неудачных операций, Вы к нему претензии за неудачи когда собираетесь предъявлять? Вас не возмущает, когда он, а бы берем в пример высококвалифицированного добросовестного хирурга, заявляет что вероятность успешного исхода 5%, 10%, или 60%?

Ну давайте про медицину - пустит на рынок лекарства с лицухой "если что, мы нипричем"?
А про кардиохирурга - нашли с чем сравнивать.
Если кривое ПО - это как криво наложенный гипс или не зашитый аппендицит. Брак и халатность.

Вы почему-то упорно защищаете бракоделов, случайно сам не из них)))
Притом почему-то уверен, что покупая авто, диван или холодильник варианта "вы покупайте, а потом наши мастера придет и допилят (за одно накосячив в другом) и придут как будет удобно им, а не вам" даже в мыслях не допустите.

aiwalev писал(а):

Update. trajan40 писал(а): Нет на ПО своей "СЭС" как в остальных сферах бизнеса - вот и весь сказ. Да, это так. И глупо придумывать на ПО "СЭС".

Колбасой то много людей может отравиться, а пара упавших боингов из-за брака ПО то так.

Сарказм

savsoft писал(а):

Колбасой то много людей может отравиться, а пара упавших боингов из-за брака ПО то так. Сарказм

Только вот из-за брака ПО боинги падают? Практика показывает, что из-за человеческого фактора.
Причем тайного и высокопоставленного фактора.

Если AI возьмёт управление землёй в свои руки, настанет порядок во всём)))

aiwalev писал(а):

savsoft писал(а): Колбасой то много людей может отравиться, а пара упавших боингов из-за брака ПО то так. Сарказм Только вот из-за брака ПО боинги падают? Практика показывает, что из-за человеческого фактора. Причем тайного и высокопоставленного фактора.

Именно два Boeing 737 MAX потерпели аварию из-за брака ПО. Но если вы имеете ввиду, что первоочередным был фактор исходящий от высшего руководства компании, то тогда ВСЕ этим фактором можно оправдать. И ошибку хирурга и пробки на дорогах и гнилые овощи на прилавках и плохое образование и т.д.

savsoft писал(а):

Именно два Boeing 737 MAX потерпели аварию из-за брака ПО. Но если вы имеете ввиду, что первоочередным был фактор исходящий от высшего руководства компании, то тогда ВСЕ этим фактором можно оправдать.

Я имел ввиду другие Боинги. Но если брать МАХ в Индонезии и Эфиопии, то брак ПО там отсутствовал напрочь.
Даже наоборот, ПО отработало согласно техническому заданию - устранение слишком большого угла атаки, который пилоты допускали при взлете вручную. Аварии можно было бы легко избежать нажатием единственной кнопки, но информация не была своевременно доведена до пилотов. Поэтому фактор, исходящий от высшего руководства компании Боинг, это и есть причина аварий. К чему Вы про оправдавние?
Но, если бы аварии были бы исключительно по вине ПО, ситуацию это никоим образом не поменяло бы.

savsoft писал(а):

И ошибку хирурга и пробки на дорогах и гнилые овощи на прилавках и плохое образование и т.д.

Ошибка в том, что в один ряд ставится и гнилые овощи на прилавках, и отвратительное мясо в магазине и работа хирурга и разработчика ПО.
Работа овощевода или мясника строго регламентирована и общеизвестна, как и оценка этой работы. И, в принципе, работать может любой и каждый.
Если к разработке ПО подходить с такими же требованиями, т.е. разработчик компенсирует затраты или платит соразмерные ущербу штрафы, то какой идиот решится писать ПО для боинга? Он уйдет выращивать мясо или продавать овощи.

aiwalev писал(а):

savsoft писал(а): Именно два Boeing 737 MAX потерпели аварию из-за брака ПО. Но если вы имеете ввиду, что первоочередным был фактор исходящий от высшего руководства компании, то тогда ВСЕ этим фактором можно оправдать. Я имел ввиду другие Боинги. Но если брать МАХ в Индонезии и Эфиопии, то брак ПО там отсутствовал напрочь. Даже наоборот, ПО отработало согласно техническому заданию - устранение слишком большого угла атаки, который пилоты допускали при взлете вручную. Аварии можно было бы легко избежать нажатием единственной кнопки, но информация не была своевременно доведена до пилотов. Поэтому фактор, исходящий от высшего руководства компании Боинг, это и есть причина аварий. К чему Вы про оправдавние? Но, если бы аварии были бы исключительно по вине ПО, ситуацию это никоим образом не поменяло бы. savsoft писал(а): И ошибку хирурга и пробки на дорогах и гнилые овощи на прилавках и плохое образование и т.д. Ошибка в том, что в один ряд ставится и гнилые овощи на прилавках, и отвратительное мясо в магазине и работа хирурга и разработчика ПО. Работа овощевода или мясника строго регламентирована и общеизвестна, как и оценка этой работы. И, в принципе, работать может любой и каждый. Если к разработке ПО подходить с такими же требованиями, т.е. разработчик компенсирует затраты или платит соразмерные ущербу штрафы, то какой идиот решится писать ПО для боинга? Он уйдет выращивать мясо или продавать овощи.

А так имеем обратное, чтобы стать инженером-ядерщиком/электриком/механиком нужно получить образование, а инженеры-программисты в основном выродились, теперь программируют все кому не лень. Курс прошел и все - юниор в софтверной компании.

trajan40 писал(а):

Продукты, купленные в магазине, мы готовим как вздумается, но это не освобождает от ответственности производителя/магазин за продажу тухлятины.

Ну так сравнивай сравнимое. Кто то примет претензии, что кости в мясе не той формы или разрезано мясо на не надлежащие формы? Или уж предъявляй претензии что байты программы неправильные. А то берешь сложный продукт, состоящий из множества элементов, зачастую созданных разными разработчиками, и сравниваешь с вещью простой.

Добавлено спустя 6 минут 47 секунд:

trajan40 писал(а):

Да и автопроизводители не делают из клиентов бетатестеров.

Прекрасно автопроизводители это делают. Регулярно сообщения об отзыве партий авто. Примерный аналог патчей. И попробуй предъявить претензии автопроизводителю, если ты самолично начнешь менять элементы автомобиля и использовать ГСМ какие тебе вздумается. А на компьютере это делается регулярно - кто разгонит чуток, кто то патчики какие под пираточку накатит, да и в целом виндовые системы пока что винигрет от разных разработчиков. Кого винить в несовместимости частей - прикладное ПО или библиотеки на которых оно основано? Или производителей железа и драйверов? Слишком много переменных. Возможно у эппла иначе, не знаю.

DartSandy писал(а):

trajan40 писал(а): Продукты, купленные в магазине, мы готовим как вздумается, но это не освобождает от ответственности производителя/магазин за продажу тухлятины. Ну так сравнивай сравнимое. Кто то примет претензии, что кости в мясе не той формы или разрезано мясо на не надлежащие формы? Или уж предъявляй претензии что байты программы неправильные. А то берешь сложный продукт, состоящий из множества элементов, зачастую созданных разными разработчиками, и сравниваешь с вещью простой. Добавлено спустя 6 минут 47 секунд: trajan40 писал(а): Да и автопроизводители не делают из клиентов бетатестеров. Прекрасно автопроизводители это делают. Регулярно сообщения об отзыве партий авто. Примерный аналог патчей. И попробуй предъявить претензии автопроизводителю, если ты самолично начнешь менять элементы автомобиля и использовать ГСМ какие тебе вздумается. А на компьютере это делается регулярно - кто разгонит чуток, кто то патчики какие под пираточку накатит, да и в целом виндовые системы пока что винигрет от разных разработчиков. Кого винить в несовместимости частей - прикладное ПО или библиотеки на которых оно основано? Или производителей железа и драйверов? Слишком много переменных. Возможно у эппла иначе, не знаю.

А давай сравним с табачкой? Или фармацевтикой? Все знают, что курить вредно, но тем не менее есть решения судов о возмещении многомиллионного ущерба.

И здесь переменных не меньше.

И как определить, ПО работает неправильно потому что сложное и не уследили, или просто забили на юзеров и просто практически не тестировали? Или ради сверхприбылей наняли, например малоквалифицированных индусов? Все равно юзер виноват?

savsoft писал(а):

И как определить, ПО работает неправильно потому что сложное и не уследили, или просто забили на юзеров и просто практически не тестировали? Или ради сверхприбылей наняли, например малоквалифицированных индусов? Все равно юзер виноват?

Понятия не имею как - подскажи. Вот имеем винегрет - железо, прикладное ПО, драйверы, кучка библиотек. Еще всё это завязано на стандарты и протоколы - открытые, проприетарные, принятые де факто. И вот в некоторых случаях какие то элементы между собой не стыкуются. Кто же виноват? Разработки которого из элементов? Или может люди которые не все варианты использования протоколов предусмотрели и в некоторых случаях имеются разночтения? Сколько надо времени что бы даже не столько найти, а хотя бы назначить виновного?

Добавлено спустя 6 минут 20 секунд:

savsoft писал(а):

А давай сравним с табачкой? Или фармацевтикой? Все знают, что курить вредно, но тем не менее есть решения судов о возмещении многомиллионного ущерба.

Я не знаю о которых именно решениях ты говоришь. Мне как то сомнительно, что та же табачная промышленность еще существовала бы, коли иски предъявлялись просто по факту вреда здоровью. Если они какую то химию в табак мешают, для привыкания, негласно, то другой разговор. Здесь хотя бы конкретный производитель выдает конкретный продукт. Всё решить в разы проще. Если бы тебе в аптеке выдали 100 пузырьков от разных поставщиков и рецепт, как из этого получить таблетки, то это было бы похоже на индустрию ПО.