С каждым годом нейросети становятся более совершенными, а некоторые из них начинают подавать первые признаки того, что в дальнейшем могут обзавестись сознанием. Как в таком случае относиться к уничтожению такой системы и можно ли этот процесс сравнить с убийством живого существа?
Многие ученые спорят на этот счет, но есть и те, кто считает, что в будущем человечеству придется разработать принципы, включающие в себя пресечение «жестокого обращения и страданий» ИИ.
Такой подход обязывает ученых поэтапно подходить к созданию более совершенных нейросетей, которые попытаются себя идентифицировать как личность или хотя бы будут делать вид, что таковыми являются. По мнению Патрика Батлина из Оксфордского университета и Теодороса Лаппаса из Афинского университета экономики и бизнеса, подобные рекомендации будут важны в том числе и для тех, кто не намерен разрабатывать подобные ИИ, но случайно получил именно такой результат, пишет «МК».
По данным The Guardian, к 2035 году человечество вполне сможет изобрести такую нейросеть, которая станет более сознательной и «морально значимой». Как тогда поступать с ней, если она начнет жить обособленно от мнения человека?
Точного ответа на этот вопрос нет. Человечество не сталкивалось ни с чем подобным никогда, поэтому единого решения тем более в короткие сроки найти нашей цивилизации не удастся.
Однако ученые все чаще сходятся во мнении, что в будущем человечество создаст такой ИИ, который будет мыслить в какой-то степени как человек. Вполне возможно, что он будет обладать неким подобием сознания, но оно явно будет отличаться от человеческого, и, вероятно, будет более управляемым.
Ранее МедиаПоток писал, что эксперты рассказали, как распознать слежку через камеру любого смартфона без специального ПО.