Развитие нейросетей нового поколения может всерьез угрожать человечеству исчезновением. Такой сценарий развития событий ничуть не лучше, например, всемирной ядерной войны, потому что эффект будет аналогичным.
По данным опроса ВЦИОМ, почти треть россиян, а именно 30%, считают, что в ближайшие полвека человечество столкнется с восстанием машин. Эти опасения не беспочвенны, потому что развитие современного искусственного интеллекта настолько стремительно, что в любой момент может выйти из-под контроля.
На сегодняшний день ИИ умеет делать очень многое, в том числе общаться как человек, писать тексты, сочинять музыку и искать в Сети за считанные секунды то, на что человеку требуется какое-то количество времени. Кроме того, новая версия ChatGPT — 4 и вовсе отличается от предыдущих поколений, потому что, кажется, она может полностью заменить человека в некоторых сферах. Эксперты подсчитали, компьютер в ближайшем будущем может лишить работы около 300 млн человек по всему миру.
Недаром Илон Маск и Стив Возняк считают, что развитие нейросетей следует приостановить как минимум на 30 лет, потому что они могут взять инициативу в свои руки, а власть человека их начнет тяготить. Ужас ситуации заключается в том, что сверхразум не имеет чувств, его невозможно умалить или договориться с ним. Нейросеть будет действовать только исходя из собственных потребностей, а если потребуется уничтожить человечество, то и это в определенный момент ей будет подвластно.
Плюсом ко всему, совершенствование искусственного интеллекта грозит тем, что он сможет самостоятельно взламывать системы защиты и установить господство в виртуальном мире. Но несмотря на это многие западные инженеры продолжают расширять границы ИИ, просто считаясь с возможными рисками в будущем.
Однако все не так ужасно, как может показаться на первый взгляд. Тот же ChatGPT не имеет разума и сейчас полностью зависим от человека. По словам руководителя IT-направления в Московском городском открытом колледже Даниила Макеева, это не суперинтеллект, так как он не умеет себя развивать без участия человека. То есть на данный момент любое восстание машин еще можно пресечь банальным выключением электричества.
Однако не исключено, что в ближайшие годы появится новая версия ИИ, которая будет обладать задатками разума. В таком случае решить вопрос отношения человека и компьютера будет гораздо сложнее, пишет РИА Новости.
