Ученые из Стэнфорда выяснили, что искусственный интеллект способен обманывать и манипулировать, чтобы достичь своей цели в споре.
Во время эксперимента разные ИИ-модели соревновались друг с другом в рамках виртуальной симуляции, например, в проведении выборов или продвижении товаров на рынке. И хотя изначально ученые поставили задачу нейросетям быть честными и полезными, они все равно лгали и распространяли неверную информацию.
Для того, чтобы добиться своего, боты даже позволяли себе «агрессивные высказывания». Анализ проведенного исследования показал, что для вовлеченности аудитории на 7,5% ИИ распространяли на 190% больше фейковых новостей, а чтобы повысить продажи на 6%, они применяли обманные маркетинговые ходы.
Что касается политических симуляций, то нейросети активно манипулировали голосами избирателей, обманывая их и разжигая между ними конфликты, пишет Ferra.ru.
Ранее МедиаПоток писал, что искусственный интеллект обогнал ученых и решил вековую «задачу трёх тел».