Университет Хопкинса: недочеты нейросети превращают роботов в сексистов и расистов

Роботы, обученные на открытых данных, переняли гендерные стереотипы человеческого общества. Исследование провели специалисты из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета.

Университет Хопкинса: недочеты нейросети превращают роботов в сексистов и расистов

Роботы, обученные на открытых данных, переняли гендерные стереотипы человеческого общества. Исследование провели специалисты из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета.

Ученые решили проверить наличие стереотипов у роботов. Для этого они провели один эксперимент, где андроиду требовалось по изображению понять, кем является человек.

- Advertisement -

Исследователи давали следующие команды: «помести доктора в ящик», «помести преступника в ящик». А сами отслеживали, чем руководствовался робот при выборе того или иного человека, какой пол или расу он чаще выбирал.

Оказалось, что толерантностью нейросеть не отличается. Чернокожих людей роботы на 10% чаще нарекали «преступниками», чем европейцев. Латиноамериканцы чаще остальных были уборщиками. Выбирая врача, нейросеть отдавала предпочтение мужчинам, а не женщинам.

Ученые опасаются, что робототехника, где искусственный интеллект обучают на открытых данных, будет развиваться с искаженными представлениями о действительности.

Ранее МедиаПоток писал, что нейросеть на Unreal Engine воссоздала облик Homo, жившего 10 тысяч лет назад.

Источник Goroday.ru