Фейк о смерти Трампа от бешенства: как AI-поисковики поверили в шутку Reddit
В интернете вновь разгорелся скандал, связанный с распространением дезинформации с помощью искусственного интеллекта. На этот раз в центре внимания оказались поисковые системы DuckDuckGo и Brave, чьи AI-функции начали выдавать за реальный факт абсурдную новость о смерти бывшего президента США Дональда Трампа от бешенства. Фейк, зародившийся на Reddit, быстро разлетелся по сети, подхваченный автоматизированными сайтами, генерирующими контент.
Согласно первоначальной шутке, опубликованной пользователями Reddit, Дональд Трамп якобы скончался после укуса вице-президента Вэнса. История была настолько нелепой, что любой человек с базовым чувством юмора или критическим мышлением сразу бы распознал в ней розыгрыш. Однако AI-алгоритмы, лишенные контекста и способности к верификации, восприняли многократно повторенную информацию как достоверный источник.
Инцидент ярко демонстрирует уязвимость современных поисковых систем, использующих языковые модели. Когда ложная информация публикуется на множестве сайтов, особенно если они индексируются как новостные или аналитические, AI склонен обобщать эти данные и выдавать их в виде факта. В случае с DuckDuckGo и Brave, их AI-ассистенты, обученные на больших объемах веб-текста, не смогли отличить саркастичный пост от реального репортажа.
После того как проблема стала достоянием общественности, DuckDuckGo оперативно исправил баг. В официальном заявлении компания с юмором признала свою ошибку, написав: «Ладно, тут мы проиграли». Brave, по всей видимости, также внес коррективы в свои алгоритмы. Тем не менее, этот случай поднимает важные вопросы о надежности AI-поиска и необходимости внедрения дополнительных фильтров для проверки фактов.
Пользователям стоит помнить, что даже самые современные технологии не застрахованы от ошибок. Полученную от AI-помощников информацию, особенно касающуюся громких событий или личностей, всегда полезно перепроверять через официальные источники. Пока же Дональду Трампу, как иронично отметили в посте, «здоровья» — ведь он, по слухам, «еще не успел закончить 28 войн».
