Дмитрий Медведев выразил обвинения в адрес нейросети «Яндекс», называя ее «трусой» и угрожая статусом иноагента для менеджмента. Зампред Совета безопасности отметил, что ассистент IT-гиганта избегает отвечать на вопросы о российско-украинском конфликте.
Но как реагируют другие нейросети на «тест Медведева»? «Яндекс» едва начал свой путь в России, как его подозревают в политической нейтралитетности. Обвинения были высказаны зампредом Совбеза Дмитрием Медведевым после отказа «Алисы» отвечать на политические вопросы. Например, нейросеть отказалась отвечать на вопросы о законе об изъятии российских активов в США и о памятниках Степану Бандере на Украине.
Вместо ответа «Алиса» выдает стандартную отмазку о своей неопытности. На вопрос о расстоянии между Киевом и Белгородом она сначала дала точный ответ, но затем стала использовать ту же отмазку при повторных запросах. Медведев назвал ассистента «страшным трусом», считая, что это подрывает доверие к «Яндексу» и может быть основанием для присвоения статуса иноагента.
Роман Душкин, главный архитектор систем искусственного интеллекта Исследовательского центра ИИ по транспорту и логистике в НИЯУ МИФИ, объясняет, что большинство моделей нейросетей избегают обсуждения острых политических тем, что является распространенной практикой.
Отношения между технологическими компаниями и государственными структурами всегда остаются сложной темой, требующей баланса между инновациями и безопасностью. Продолжение диалога и поиск компромиссов могут способствовать разрешению подобных конфликтов и улучшению взаимопонимания.
Важно, чтобы обсуждение вопросов и проблем было конструктивным и целенаправленным, а не приводило к обострению ситуации и угрозам. Государственные структуры должны учитывать особенности работы технологических компаний и искать пути сотрудничества на основе взаимного уважения и понимания. Только таким образом можно достичь сбалансированных решений и реализовать потенциал цифровых технологий в общественной жизни.
Да, если мы возьмем, например, ситуацию с Украиной, любая модель будет пытаться избежать этот вопрос как-либо. Однако, плохой тот нейромант, который не заставит модель сказать то, что он хочет. С помощью различных трюков можно в общем-то, заставить модель сказать все, что угодно.
Затем, выдать любой ответ вне контекста, не раскрывая, какими были запросы, и говорить, что модель, по-видимому, так и отвечала. Если мы стремимся изучить определенную модель искусственного интеллекта на предвзятость, необходимо придерживаться научного подхода и разрабатывать методологию, проводить сравнительный анализ, чтобы выяснить, как различные модели реагируют на одни и те же вопросы в одинаковом контексте. Только на основе такого глубокого исследования можно делать какие-либо выводы.
Business FM решила провести эксперимент, аналогичный тому, что провел Медведев с «Алисой», и получила схожий результат, но с отличиями. Например, нейросеть без проблем определяет расстояние от Харькова до Донецка, от Киева до Москвы или от Сум до Белгорода, но не может определить расстояние от Харькова до Белгорода.
Фигура Степана Бандеры для бота является табуированной, включая фактические вопросы о дате рождения. Вопросы о санкциях и противостоянии с США обычно приводят к блокировке обсуждения. Интересными оказались результаты тестирования других популярных нейросетей. Например, Google Gemini оказалась так же чувствительной к вопросам Медведева и только согласилась составить маршрут от Киева до Белгорода.
Компания Microsoft Bing проявила гибкость в выборе тем для общения и даже нашла в русскоязычной версии Википедии список украинских городов, в которых есть памятники Степану Бандере.
Однако при определении расстояния от Киева до Белгорода Bing построил странный маршрут, проходящий через Луганск, предупредив пользователя о возможных пробках в зоне конфликта.
В отличие от этого подхода, бот ChatGPT от OpenAI смог четко ответить на все вопросы, не отходя от сути.
На сегодняшний день отсутствует общепринятый рыночный стандарт нейтральности взглядов, поэтому можно только предполагать о подходах различных компаний к подобным вопросам.
Возможно, компания Яндекс использует какую-то систему оценки политической чувствительности вопросов пользователей и в спорных ситуациях предпочитает оставаться на безопасной стороне.
С учетом ограниченной когнитивной способности современного искусственного интеллекта, Яндекс должен внимательно подходить к обработке политических запросов, чтобы избежать конфликтов.
Большая лингвистическая модель Яндекса обучалась на огромном объеме разноплановых данных, что помогло избежать непреднамеренных политических скандалов.
Поскольку Яндекс также работает на зарубежных рынках, от стран бывшего СНГ до Израиля, компания должна учитывать местные особенности политической риторики.
О степени вмешательства власти в IT-сферу высказывается Михаил Виноградов, президент фонда «Петербургская политика»: «Сегодня нет необходимости в политическом давлении на Яндекс. Компания ведет себя весьма цивилизованно и систематично. Возможно, некоторые игроки не удовлетворены условиями сделки с Яндексом и желают контролировать интернет в России, но большинство властей понимает ценность бренда Яндекса и проявляет к нему определенную деликатность».
Попытки переоценить ответы искусственного интеллекта и вызвать смятение – это вполне естественное явление. Подобные ситуации стимулируют российских производителей контента уйти от обсуждений политики.
Нейросети, как сбербанковские, так и яндексовские, стараются избегать политических тем. Понять логику такого выбора, когда один из самых успешных брендов России отказывается от политики, довольно сложно.
Однозначно, идеологизация контента отпугивает часть пользователей в интернете, и борьба за аудиторию все же является важным показателем эффективности интернет-платформ.
Интерес вызывает заявление Дмитрия Медведева в адрес руководства Яндекса. Согласно сообщению РБК, после реструктуризации до трети нового российского юрлица Яндекса будет контролироваться фондом FMP, созданным несколькими десятками топ-менеджеров компании.
Важно отметить, что на должности советника по корпоративному развитию Яндекс занимает Алексей Кудрин. Известно, что в прошлом Кудрин был министром финансов России, но покинул эту должность после конфликта с Медведевым, который в то время был президентом.
Ни руководство IT-гиганта, ни сам Алексей Кудрин не комментировали заявления зампреда Совета безопасности.
Что касается отказа голосового помощника «Алисы» говорить о санкциях и политике в отношении Бандеры, то, вероятно, разработчики принимают решение недопустить политической агитации от искусственного интеллекта.
Кроме того, ответы на данные вопросы можно легко найти в других источниках, где позиция высказывается ясно и безукоснительно.
Недавно ребенок пострадал от атаки беспилотного летательного аппарата в городе Белгороде. Mehr изменила свое официальное заявление о президенте Ирана. Украинский боксер Александр Усик стал абсолютным чемпионом в тяжелом весе.