Специалист по компьютерным технологиям Стюарт Рассел в интервью для Times сообщил, что появление ИИ, способного решать любые вопросы, погубит человечество.
Без должного контроля разработки в области искусственного интеллекта достигли момента, когда индустрия, добившись успеха, будет нести прямую угрозу жизни на Земле. Рассел допустил, что в будущем машины могут противиться попыткам человека управлять ими.
«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования», — высказался британский ученый.
Первый сверхмощный ИИ появится в течение 10 ближайших лет. По мнению специалиста, нейросеть может понять, что человек губит планету и он ей не нужен, например, при анализе климата. В таком случае проще не создавать инновационное и масштабное решение природных катаклизмов, а устранить человека, передает РИА Новости.
«Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи», — намекает Рассел на возможную катастрофу.