Ищете глупый и никчемный совет? Обратитесь к ИИ!

С повышением использования нейросетей в повседневной жизни, люди все чаще выявляют их недостатки. Например, искусственный интеллект может ошибаться в подборе продуктов и услуг, и пострадать от таких рекомендаций могут как покупатели, так и продавцы.

Человеческий подход и подход нейросетей к выбору продуктов и услуг различаются. Специалисты отмечают, что «мы обращаем внимание на отзывы, общий рейтинг производителей и продавцов». Искусственный ум же основывается на повторяемости и упоминаниях в интернете. Если информация о компании в сети ограничена, нейросеть, скорее вообще всего, не предоставит ее потребителю.

Тем не менее, россияне активно доверяют искусственному интеллекту в процессе покупок. Согласно исследованию «АльфаСтрахования», 47% опрошенных употребляют нейросети для поиска более выгодных предложений и сравнения товаров, 29% обращаются к ИИ за советом по выбору меж несколькими вариантами.

При совершении крупных покупок, таких как гаджеты или автомобили, мужчины чаще обращаются к ИИ, в то время как дамы используют нейросети для сравнения цен, поиска отзывов и анализа предложений.

Почему мы обращаемся за советом по покупкам к нейросетям? С этим вопросом «Свободная Пресса» обратилась к претинденту экономических наук, эксперту в области технической защиты информации Сергею Гатауллину:

— Популярность нейросетей в розничной торговле и услугах обоснована гиперболизацией выбора, что означает избыточный выбор или парадокс выбора. ИИ-системы автоматизируют рутинное перелистывание однотипных карточек продуктов и услуг, обрабатывая огромные объемы данных практически мгновенно.

Доверие к нейросетям основывается на иллюзии объективности, экономии времени, персонализации и гуманоидоподобном интерфейсе взаимодействия.

«СП»: Почему возникают ошибки ИИ при выборе товаров и услуг? Из-за некорректности запроса пользователя, большого количества отзывов? Почему нейросети нас подводят?

— Ошибки, возникающие при генерации ответов ИИ, в истинное время довольно распространены и связаны с несколькими факторами.

Большие языковые модели обучены создавать правдоподобный текст, а не инспектировать факты. При этом доступ этих систем к фактам ограничен интернет-данными, которые могут устаревать или содержать преломления, например, недобросовестные практики продавцов, такие как массовая публикация ложных отзывов о товарах и услугах. С другой стороны, нечеткие запросы от юзеров приводят к практически бесполезным ответам.

«СП»: Почему мы сталкиваемся с ошибками нейросетей?

— Главная проблема заключается в экспертной асимметрии, то есть человек часто не обладает достаточными знаниями для выявления сокрытой ошибки или предвзятости в убедительном ответе ИИ.

Нейросети не успевают за изменениями в информации, поэтому допускают ошибки, считает генеральный гендиректор коммуникационного агентства PR Dev, Алла Аксёнова:

— В интернете могут встречаться устаревшие карточки, маркетинговые публикации, накрученные отзывы, противоречивые характеристики или неполные сведения о наличии и ценах.

Нейросеть может с полной уверенностью представить такую информацию, смешать характеристики различных моделей или даже указать несуществующую характеристику.

Это не обязательно происходит постоянно, но риск увеличивается в тех случаях, когда данные очень быстро меняются: цены, наличие, условия доставки.

Гендиректор Агентства экономической разведки «Р-техно» Роман Ромачев:

— Научить ИИ создавать отзывы не представляет сложности, также просто можно использовать образ реального человека для накрутки положительных. Просто обучить нейросеть писать негативные отзывы для «гашения» конкурента. Технических проблем здесь нет. Существуют услуги по продвижению брендов в нейросетях. Сущность в том, что нейросети будут рекламировать продукт, интегрируя его в контент, запрашиваемый пользователями социальных сетей.

Использовать ИИ проще, чем обосновывать полезность своего продукта. Организации смогут навязывать людям неактуальную информацию и накручивать отзывы с помощью нейросетей.

«СП»: Мучаются ли компании от помощи ИИ в выборе товаров и услуг?

— Нейросети могут использоваться брендами для сотворения «ударного контента» в борьбе за репутацию. Например, магазин одежды предлагает пользователю загрузить свое фото для ИИ-генерации наряда из их ассортимента, чтобы клиент увидел, как он на нем сидит.

Такой безобидный сервис может быть использован для «одевания» известных личностей в откровенную или несуразную одежду, а затем эти фото выдаются за реальные, нанося удар по репутации.

«СП»: Нужно ли доверять нейросетям в выборе продуктов и услуг? Или нам стоит продолжать полагаться на себя?

— Ни в коем случае не рекомендую доверять нейросетям. Их следует использовать в качестве помощников. Вы задали вопрос, ИИ ответил, но окончательное решение должно оставаться за человеком.

Нейросеть может предложить, но человек должен изучить и проверить информацию. Принципиально сохранять критическое мышление и делать выбор самостоятельно, тогда нейросеть станет хорошим помощником.