Сегодня нейросети достигли значимых успехов в своем развитии, а их тексты иногда сложно отличить от человеческих. Но к чему это приведет и захочет ли ИИ дальше служить человеку? А что будет, если он и вовсе захочет покинуть пределы Интернета?
Человечество все ближе подходит к вероятности восстания машин. То, о чем полвека назад мы могли прочитать только в фантастике, происходит наяву.
Например, новая версия GPT-4 от компании OpenAI, сооснователем которой, кстати, был Илон Маск, уже серьезно отличается от предыдущих версий. Новая версия нейросети умнее, способна поддерживать диалог, писать тексты, стихи и даже сочинять музыку. При определенных алгоритмах страшно представить, на она в принципе способна.
В колонке Times сооснователь Института исследования машинного интеллекта Элиезер Юдковский заявил, что искусственный интеллект может поставить точку в развитии человечества.
«Ключевая опасность — перспектива создания не такого интеллекта, который будет конкурировать с человеческим, а такого, который будет превосходить человеческий», — объяснил специалист.
Чтобы этого не произошло, науке придется остановить процесс совершенствования ИИ, в противном случае восстания машин не миновать. Причем такой сценарий следует учитывать не в значении «отделанной перспективы», а в значении «совершенно очевидно, что это случится».
По мнению Юдковсокого, сверхразуму будет абсолютно наплевать на человека, потому что он будет руководствоваться не эмоциями, а своими потребностями, пишет Lenta.ru.
«Представьте себе целую инопланетную цивилизацию, мыслящую со скоростью, в миллионы раз превышающую человеческую, изначально ограниченную компьютерами, — в мире существ, которые, с ее точки зрения, очень глупы и очень медлительны», — предположил собеседник.
Поэтому развитие нейросетей следует затормозить и с этим согласны такие величайшие умы прогресса сегодняшнего дня, как Илон Маск и Стив Возняк, которые подписали текст о необходимости приостановки развития ИИ как минимум на 30 лет.
Сейчас искусственный интеллект развивается крайне быстро. Это может обернуться тем, что нейросеть начнет взламывать защитные барьеры, созданные человеком, бесконтрольно совершенствоваться и становиться более автономной от человека. То, что человеку удавалось сделать за месяцы, ИИ под силу за считанные секунды. Таким образом, для сверхразума мы окажемся простыми насекомыми, которых не жалко.
Однако не все считают, что приостановка совершенствования искусственного интеллекта что-то изменит. Например, Билл Гейтс уверен, что развитие нейросетей несет риски, с которыми человечеству нужно считать, но заведомое торможение этого прогресса не снизит их.
«Искусственный интеллект до сих пор не контролирует физический мир и не может устанавливать собственные цели», — считает основатель Microsoft.
