Операция выполнена!
Закрыть
Хабы: Искусственный интеллект, Научно-популярное, Будущее здесь

Ввиду быстрого развития технологий искусственного интеллекта все чаще и громче звучат предостережения о его безопасности. И в качестве решения чаще всего предлагается процедура под названием выравнивание. Ее суть в том, чтобы привести интересы искусственного интеллекта в соответствие с человеческими. Иначе у него могут возникнуть собственные интересы, расходящиеся с интересами человека. В этом случае он может устранить последнего как препятствие на пути следования им. Подобный подход предполагает, что в интересах человечества нет ничего объективного, и потому развитый искусственный интеллект может иметь не схожие интересы, а какие-то иные.

Такая позиция несет в себе концептуальный изъян, и при его выявлении обнаруживается, что антагонизм имеет место, но не между интересами человека и искусственного интеллекта, а между интересами разных групп самих людей. И в такой ситуации подлинную глобальную угрозу для человечества, несет как раз само выравнивание. Каким образом интересы продвинутого искусственного интеллекта могут быть ближе к глобальным интересам человечества, чем интересы определенных групп людей? Об этом данная заметка.

Читать далее
Читайте также
НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro