Опасный контент: ИИ‑врачи распространяют ложные советы о здоровье

Ложные сведения о здоровье в интернете представляют «большую угрозу для общественной безопасности, предупреждают эксперты. Это связано с публикацией исследования, которое показало, что сгенерированные ИИ врачи набирают миллионы просмотров в TikTok, раздавая при этом сомнительные советы, пишет The Guardian.

Заместитель председателя совета Британской медицинской ассоциации доктор Эмма Рансуик указала на риски, связанные с аккаунтами, которые были созданы с помощью нейросети. По ее словам, они распространяют медицинские мифы и продвигают «так называемые чудодейственные средства».

«Платформы вроде TikTok должны активнее бороться с распространением опасных и недостоверных медицинских советов. В противном случае расплачиваться придется людям — своим здоровьем, а возможно и жизнью», — подчеркнула Рансуик.

Выяснилось, что ИИ-терапевты распространяют уже опровергнутые мифы о раке. Например, будто его провоцирует привычка спать с телефоном возле головы, разогревание еды в микроволновке в пластиковом контейнере и использование дезодорантов. Все эти заявления опровергла организация Cancer Research UK.

Исследование было опубликовано в прошлом месяце агентством цифрового маркетинга Hallam. Оно появилось на фоне предупреждений Национальной службы здравоохранения Великобритании (NHS) о том, что дезинформация о здоровье в соцсетях представляет «реальную угрозу общественному здоровью». 

Интересное по теме

Как следовать всем доказательным рекомендациям по воспитанию детей и не сойти с ума

Аналитики обнаружили, что контент, сгенерированный нейросетью встречается в 40 процентах самых популярных видео на тему здоровья в TikTok. Большая часть опубликована в аккаунтах с дипфейками, стилизованными под настоящих врачей, и их число растет. По некоторым поисковым запросам, например, «советы по здоровью»,  доля сгенерированных ИИ видео достигает 84 процентов.

По данным Hallam, самые популярные ролики «ИИ‑врачами» и медицинской тематикой в рамках выборки набирали в среднем по 2,5 миллиона просмотров. TikTok удалил видеоролики, которые издание The Guardian направило платформе в качестве примеров.

В сгенерированных ИИ аккаунтах также продвигали странные средства от различных проблем со здоровьем: смесь кока‑колы с луком как обезболивающее, а также вымышленный продукт Hyalethinap Plus Pro Max в качестве антивозрастного средства.

Один аватар заявил, что годами рекомендовал Hyalethinap Plus Pro Max своим пациентам и что оно якобы борется с «выпадением волос, ломкостью ногтей, болями в суставах, а также повышает упругость кожи», помогая организму «вырабатывать антивозрастные молекулы естественным путем». Журналисты The Guardian не смогли найти в интернете доказательств существования этого чудо-средства.

После публикации исследования профессор Фрэнки Свордс, национальный медицинский директор NHS Англии, заявила, что рост объема медицинской дезинформации в сети вызывает серьезную обеспокоенность.

«Многие врачи сообщают о росте числа пациентов, которые испытывают тревогу и растерянность из‑за ложных советов, которые создаются исключительно ради кликов», — сказала она.

Hallam проанализировало 1 198 видео, отобрав по 50 самых популярных роликов по ряду поисковых запросов, в том числе «советы по здоровью» и «советы врача». В исследование также включили общий контент с «влияющими на жизнь» рекомендациями — например, по личным финансам и образованию.

Рост числа видео с ИИ-врачами означает, что огромное число людей сталкивается с недостоверным медицинским контентом, и это вызывает серьезную тревогу, отметила исследовательница дезинформации о здоровье в Университетском колледже Лондона Алекс Руани.

«Мы имеем дело с индустриализированной эксплуатацией доверия», — уточнила она.

В прошлом году Savanta по заказу организации Healthwatch England (выступает в защиту пациентов) провела опрос 3 575 мужчин и 3 832 женщин старше 18 лет. Выяснилось, что примерно каждый пятый использует соцсети для поиска информации о здоровье.

«Не обладая навыками, позволяющими отличать надежную информацию от коммерческой шумихи или дезинформации, люди рискуют быть введенными в заблуждение — а это может серьезно сказаться на их здоровье», — сказал временно исполняющий обязанности директора по политике и связям с общественностью в Healthwatch England Уильям Петт.

Представитель TikTok заявил: «Выводы маркетингового агентства, у которого есть коммерческие интересы, не отражают реальную ситуацию на нашей платформе. Факты таковы, что мы удаляем вредоносную недостоверную информацию о здоровье, в том числе сгенерированную нейросетью, и сотрудничаем с ВОЗ и NHS, чтобы предоставлять в приложении достоверную информацию о здоровье. Также мы постоянно инвестируем в ресурсы по повышению ИИ-грамотности и в технологии по маркировке».

Ранее издание Kapwing провело исследование и выяснило, что около 59 процентов роликов, показываемых в ленте «Для вас» в TikTok, если аккаунт совсем новый, — нейрослопы, сгенерированные нейросетью. Журналисты вручную проанализировали 10 742 видео в TikTok по 20 популярным категориям и зафиксировали количество обычного контента и ИИ-шлака.