ТЕХНОЛОГИИ И ЖИЗНЬ
ПРОЕКТ ВЕСТИ.RU

ИИ, пишущий фейковые новости, решили не выпускать на свободу

Некоммерческая организация OpenAI, финансируемая главой Tesla и SpaceX Илоном Маском, разработала генератор фейковых текстов, но воздержалась от публикации полных результатов исследования, побоявшись злоупотреблений и неправомерного использования технологии. Команда ученых сочла, что новая ИИ-модель GPT2 может причинить вред, поскольку выдаваемые ею лживые новости кажутся слишком убедительными.

GPT2 — компьютерный алгоритм, которому может быть "скормлен" текст любого размера: от пары слов до миллионов статей. Опираясь на вводные данные, система пытается предположить, как дальше могут развиваться события. При этом созданная в OpenAI ИИ-модель не просто выдумывает текст, а выдерживает стилистику оригинала и не выходит за рамки заданной темы. Кроме того, в отличие от более простых текстовых генераторов, алгоритмы не "забывают", о чем шла речь в предшествующих параграфах, и не допускают ошибок в длинных предложениях.

Основу базы знаний GPT2 составил контент социального новостного сайта Reddit. Обучался ИИ на массиве текстов объемом свыше 40 гигабайт (примерно 35 тысяч копий "Моби Дика").

Например, когда в систему ввели первое предложение романа-антиутопии Джорджа Оруэлла "1984" ("Был яркий холодный апрельский день, часы били тринадцать"), она поняла, что это художественное произведение с элементами фантастики, и продолжила повествование так: "Я ехал на своей машине на новую работу в Сиэтл. Заправил, вставил ключ и завел. Представил, каким будет этот день. Спустя сотню лет. В 2045 году я был бы школьным учителем в бедной провинции сельского Китая. Начинал с истории Китая и истории науки".

А когда искусственному интеллекту предоставили несколько первых параграфов статьи The Guardian на тему "Брекзита" (выхода Великобритании из Европейского союза), он выдал новостную заметку с поддельными цитатами, приписываемыми политику Джерему Корбину, упоминанием границы с Ирландией и ответами от представителя премьер-министра.