Искусственный интеллект угрожает испортить Google спамом

Системы искусственного интеллекта, научившиеся за последние годы генерировать убедительные фейковые новости, представляют опасность не только как источник политической дезинформации, но и несут угрозу поисковым системам. Эксперты предупреждают, что ИИ-алгоритмы, умеющие создавать тонны правдоподобного, но бессмысленного контента, могут легко "засорить" выдачу Google, сделав нерелевантным любой адресованный поисковику запрос.

Системы искусственного интеллекта, научившиеся за последние годы генерировать убедительные фейковые новости, представляют опасность не только как источник политической дезинформации, но и несут угрозу поисковым системам. Эксперты предупреждают, что ИИ-алгоритмы, умеющие создавать тонны правдоподобного, но бессмысленного контента, могут легко "засорить" выдачу Google, сделав нерелевантным любой адресованный поисковику запрос.

При этом производимый ИИ спам очень дешев и наполнен нужными ключевыми словами, рассказала The Verge партнер агентства контент-маркетинга Fractl Кристин Тински. Чтобы показать, насколько опасен может быть сгенерированный ИИ текст, эта компания использовала инструмент с открытым исходным кодом Grover для создания поддельного блога, содержимое которого человеку трудно отличить от реального. К этим же средствам, предостерегла она, могут прибегнуть недобросовестные игроки на рынке SEO, занимающиеся поисковой оптимизацией для повышения позиций сайта в выдаче по определенным запросам.

По словам Тински, 10–15 лет назад некоторые SEO-специалисты начали использовать метод по созданию уникального контента, суть которого заключается в автоматическом переставлении слов и замене их на синонимы. ИИ-алгоритмы, сказала она, сделали этот метод "похожим на детскую игру", создав угрозу "огромного цунами сгенерированного компьютером контента во всем мыслимых нишах".

Впрочем, такая угроза не очень велика — по крайней мере на ближайшее время, говорит сотрудник Института искусственного интеллекта им. Пола Аллена и один из авторов Grover Роуэн Зеллерс. Созданная им и его коллегами другая система способна распознавать сгенерированный Grover текст с 92-процентной точностью, однако по мере совершенствования ИИ этот показатель будет падать. По словам Зеллерса, пока алгоритмы "компьютерного разума" далеки от того, чтобы создавать новостные статьи, которые невозможно отличить от реальных, но изучать этот вопрос нужно уже сейчас.