Ученые пришли к выводу, что человечеству не суждено одержать победу над стремительно развивающимся искусственным интеллектом.
С помощью компьютерного моделирования ученые выяснили, что люди не смогут ни контролировать сверхмощный ИИ, ни обеспечить соблюдение им этических норм.
Считается, что подобный разум превзойдет не только все существующие современные компьютеры в мире, но даже человеческий разум.
Об этом эксперты поделились с читателями на страницах издания Journal of Artificial Intelligence Research.
Более того, если подобный сверхмощный ИИ получит доступ к интернету и базе знаний современного человечества, то события могут начать развиваться по фантастическому сценарию, в жанре утопии или антиутопии.
Сдерживать и контролировать ИИ можно с помощью специальных алгоритмов сдерживания.
Они могут отключать при необходимости определенный функционал.
Но у данного алгоритма существует серьезная уязвимость, которая позволит ему в ряде обстоятельств отключать самого себя.
На этом основании ученые пришли к выводу, что человечеству не суждено сдержать сверхразумный ИИ.
Фото: Pixabay
