Реаниматолог писал(а):Источник цитаты "Это типа восстания машин?
Для этого нужно доказать, что у этой системы есть своя воля."
Это сказал оператор.
Да, это серьезное утверждение. Но мы же разговариваем с позиции людей, у которых проблемы с мышлением. Они не видят наличие воли " нигде", они думают по другому. Таким образом с их позиции вопрос в том, при обучении с помощью алгоритмов сама машина в обучении " допустила" ошибку, в результате в ее работе и произошла та ошибка, что человека задержали. Это одно, просто по каким то причинам типа магнитной бури что то пошло не так, и машина " неправильно" себя обучила, запрограммировала.
Или та ошибка - это следствие чего-то другого. Ну то есть машина обучалась, обучалась и в какой-то момент " поняла" что ей необходимо именно так сделать, - это сделает с обучения, с алгоритмов. Ну вот надо так. Посколько человек уже не достаёт, не понимает, как именно происходит обучение машины, то сама машина, с тех же алгоритмов, может знать, просчитать, как будет реагировать человек на тот прокол. Конечно человек попытается разобраться и сделать так, чтобы взять под контроль такие ошибки. И вот здесь видна та разница.
Ведь это одно- когда произошла ошибка, пришел человек, нажал кнопочку, отремонтировал, и снова запустил. Типа ошибка - это следствие некоего форс мажора, поэтому нужно типа перезагрузить систему и все заработает.
И совсем другое, когда система специально сделала ошибку, дальше дождалась, когда человек подберет понятное себе обьяснение, понажимает нужные кнопочки, после чего сама машина ( вне зависимости от того, что там ремонтировал человек) исправит ошибку, типа она начала работать правильно. В этом случае человек будет думать, что он контролирует ситуацию, типа если что, то он знает как вмешаться и исправить. Но в действительности человек ничего там не контролирует, так как " вот такой алгоритм действий машины" она нашла сама, именно из тех алгоритмов, по которым она обучается. То есть, машине нужно чтобы ее могли " выключить" не тогда когда захочет человек, и для этого нужно, чтобы человек верил, знал, что это он контролирует ситуацию, типа может что то ремонтировать.
Как проверять работает или нет?
После ремонта посмотреть, работает правильно или нет. Ведь человек не задаёт себе вопрос, а почему машина после ремонта начала работать правильно? Потому что он ее отремонтировал, или...?
Он же НЕ знает, как обучается та машина. Почему он должен делать вывод, что это именно он ее отремонтировал?