Ученые опасаются, что эра человечества может неожиданно завершиться. Мы сами подводим себя к новой реальности и даже не пытаемся ей противостоять.
Речь идет об ИИ. Вероятность того, что мы однажды столкнемся с угрозой полного исчезновения из-за искусственного интеллекта, остается крайне высокой.
К такому выводу приходит Нейт Соарес — известный специалист по машинному интеллекту, руководитель Machine Intelligence Research Institute, ранее работавший в Microsoft и Google. По его оценке, риск катастрофического исхода превышает 95%.
Эксперт отмечает, что проблема заключается не в том, что технологии якобы невозможно контролировать, а в том, что развитие ИИ идет слишком быстро и человечество попросту не успевает выстроить надежные механизмы безопасности. Мы движемся вперед с огромной скоростью, не всегда понимая, к каким последствиям это может привести.
Соарес подчеркивает, что современные системы уже выходят за рамки привычных инструментов и начинают влиять на критические сферы жизни. В определенный момент ИИ может стать не помощником, а фактором глобальной нестабильности, если его возможности окажутся в неправильных руках или будут использованы без должного контроля.
Один из наиболее тревожных сценариев связан с применением иейросетей для разработки и распространения биологического оружия. По словам специалиста, ИИ способен ускорить создание опасных патогенов и сделать их распространение практически незаметным. В таком случае заражение может охватить огромную часть населения планеты до того, как человечество успеет осознать масштаб угрозы.
Подобное развитие событий приведет к необратимым последствиям для цивилизации. Речь идет не о локальных кризисах, а о риске, способном поставить под вопрос само существование человеческого вида.
Именно поэтому эксперт настаивает, что развитие искусственного интеллекта должно сопровождаться не только технологическим прогрессом, но и строгими мерами безопасности, международным контролем и ответственным отношением к новым возможностям. Без этого стремительное движение вперед может обернуться не эволюцией, а глобальной катастрофой.
