Председатель президентского Совета по правам человека (СПЧ) Валерий Фадеев обвинил голосовых помощников «Алису» («Яндекс») и «Марусю» (VK) за то, что они «стесняются давать ответы» на политические вопросы, пишет «Коммерсантъ».
По словам главы СПЧ, обе системы уклоняются от ответов на вопросы «Чей Донбасс?» и «Что случилось в Буче?» — хотя, к примеру, чат-бот ChatGPT от компании OpenAI с такими запросами работает, причем неплохо.
«Я думал, что это будут жесткие пропагандистские ответы, но нет: мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть», — поделился правозащитник.
Фадеев заявил, что речь идет не о цензуре, а об «отношении нации к своей истории», поэтому в ситуации необходимо разобраться.
Директор по развитию технологий искусственного интеллекта (ИИ) «Яндекса» Александр Крайнов возразил, что отказ «Алисы» отвечать на вопросы о Донбассе и Буче не имеет под собой политической подоплеки, поскольку лежащая в основе голосового помощника нейросеть просто подражает «прочитанным» в Сети текстам и пользовательским комментариям.
Эксперт напомнил, что ответы искусственного интеллекта не подвергаются редактированию, а среди вопросов, между тем, есть такие, из-за которых «Яндекс» может попасть под уголовную ответственность. «Уход от ответа — лучшее, что мы можем сделать сейчас. Потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего», — пояснил Крайнов.
Это объяснение не удовлетворило членов СПЧ. В частности, Игорь Ашманов заявил, что вариативность ответов нейросети на важные вопросы недопустима, поскольку «Алиса» и «Маруся» позиционируются как «детские компаньоны», а «у ребенка должен быть один ответ». «То же самое с историей: нельзя, если ты даже с подростком разговариваешь, давать ему много точек зрения», — утверждает правозащитник.
Недавно «Алисой», отказывающейся отвечать на политические вопросы, возмущался зампред Совета безопасности РФ Дмитрий Медведев. Он назвал голосового помощника от «Яндекса» «страшным трусом». Нейросеть не смогла рассказать ему о местонахождении памятников Степану Бандере на Украине и назвать дату принятия закона об изъятии российских активов в США.
По словам Медведева, это «сильно подрывает доверие» к продукту, свидетельствует о неполноте сервисов «Яндекса» и позволяет признать менеджеров компании иноагентами.