Искусственный интеллект заподозрили в способности манипулирования людьми

Технологию искусственного интеллекта можно использовать для манипулирования поведением и поступками человека. К таким выводам пришла группа исследователей из Австралийского национального научного агентства.

Ученые пытались выяснить, можно ли влиять на решения, которые принимает человек, используя технологии искусственного интеллекта. Исследование проводила группа CSIRO's Data61, созданная в подразделении данных и цифровых технологий агентства. Результаты их экспериментов опубликованы в журнале Proceedings of the National Academy of Sciences.

Авторы исследования систематизировали подход человека к принятию решений и выяснили, что искусственный интеллект может выявлять привычки и слабости человека при взаимодействии пользователя и компьютера. Изучив слабые места в поведении человека, искусственный интеллект начинает направлять его поведение в нужную для себя сторону.

Ученые провели три эксперимента, в которых люди пытались обыграть компьютер. В одной из них участники должны были зарабатывать игровую валюту, нажимая на красные и синие поля. При этом компьютер изучал шаблоны поведения игрока и пытался склонить их к определенному выбору. В 70% случаев ему это удавалось.

Вторая игра заключалась в том, что человек должен нажимать кнопку, когда на экране показывается определенный символ. Во время демонстрации других символов и фигур нажимать кнопку не требовалось. Последовательность демонстрации символов определял искусственный интеллект, усложняя задачу. В 25% случаев ему удавалось заставить человека ошибаться чаще.

В третьей игре участник выступал в роли инвестора, передавая игровые деньги администратору, чью роль исполнял искусственный интеллект. Человек получал возврат определенной суммы и определял, сколько вложить в следующем раунде. Независимо от задачи, которую ставил перед собой инвестор — получить как можно больше денег или распределить их справедливо — компьютер выигрывал.

Сейчас читают