«Пользователь может не узнать об альтернативах» — эксперты о рисках доминирования Алисы AI

Обновленная версия голосового ассистента «Алиса AI» от Яндекса вызвала оживленное обсуждение среди участников IT-рынка. Сервис теперь умеет не только отвечать на запросы, но и самостоятельно выполнять поручения: бронировать столики, искать товары, оформлять заказы и взаимодействовать с другими продуктами экосистемы. Однако часть экспертов предупреждает о рисках — особенно связанных с тем, что ассистент может быть предвзятым к сервисам Яндекса.

Руководитель по внедрению ИИ в компании «Слетать.ру» Александр Быстров считает, что для пользователей появление «Алисы AI» выглядит логичным шагом — ведь многие действия они уже совершают внутри экосистемы. «Теперь им достаточно сказать голосом или написать в чат, чтобы выполнить ту же операцию, — отмечает он. — Это снижает трение и делает взаимодействие естественным».

Но за удобством, по словам эксперта, может скрываться ограничение выбора. «Главный риск в том, что „Алиса“ будет предлагать только партнеров Яндекса, — говорит Быстров. — Внутрь системы могут быть вшиты коммерческие приоритеты, и довольный пользователь просто не узнает о более выгодных альтернативах. Это может укрепить рыночное доминирование платформы, заставляя бизнесы подстраиваться под правила экосистемы или платить комиссии».

Схожие опасения высказывает и основатель компании «Юнисофт» Алексей Оносов. По его словам, переход от ассистентов к агентам — шаг технологически сложный и социально рискованный. «Когда алгоритмы начинают самостоятельно принимать решения, вопрос доверия становится центральным. Ошибка ассистента может стоить дорого, а пользователи пока не готовы полностью делегировать свои действия нейросетям», — говорит эксперт.

По оценке Оносовa, пройдет не меньше пяти лет, прежде чем пользователи смогут спокойно доверять ИИ-агентам даже в простых задачах. «Сегодня мы находимся в начале пути: восторг от возможностей соседствует с осторожностью. И пока в таких системах нет прозрачности и контроля, риски предвзятости будут только усиливаться», — добавляет он.