В «Википедии» стартовал проект по удалению искусственно созданных фальшивых статей

• Проект WikiProject AI Cleanup запущен для удаления ложной информации из Википедии, созданной с помощью ИИ.
• Редакторы занялись выявлением текстов, явно созданных генеративными моделями, такими как ChatGPT.
• Один из самых известных примеров – несуществующая крепость «Амберлисихар», упомянутая в одной из статей.

Борьба с фальшивой информацией

Википедия, как глобальная интернет-энциклопедия, всегда ориентировалась на достоверность своей информации. Однако с распространением генеративного искусственного интеллекта задача модерации контента стало более сложной. Группа энтузиастов запустила проект WikiProject AI Cleanup, который нацелен на поиск, редактирование и удаление недостоверной информации, сгенерированной ИИ. Создатели проекта отмечают, что стиль написания некоторых статей явно отличается от человеческих стандартов, и он легко поддается распознаванию с помощью современных моделей, таких как ChatGPT.

Примеры ненадежного контента

Один из ярких примеров выявленной недостоверной информации – статья о якобы существовавшей османской крепости «Амберлисихар», построенной в 1400-х годах. Объем текста составлял около 2000 слов, но заслуживает внимания тот факт, что такой крепости на самом деле никогда не существовало. Это подчеркивает проблемы, с которыми сталкиваются редакторы, когда недостоверная информация маскируется под достоверную. Более того, выяснилось, что многие пользователи добавляют ложные факты в уже существующие статьи, что еще больше усложняет задачу модерации.

Уроки из опыта

Ситуация напоминает о недавнем закрытии проекта Wordfreq, который анализировал использование языка и зависел от точности информации из Википедии. Создательница проекта, Робин Спир, заявила, что высокое количество искажающих данных сделало анализ невозможным. Это служит хорошим напоминанием о том, насколько важна точность и надежность данных в современном цифровом мире. Число забытых и искаженных фактов может угрожать целым отраслям, поэтому инициатива WikiProject AI Cleanup представляется крайне важной.

Я призываю вас обсудить данную новость и поделиться мнением о том, какова важность проверки информации в эпоху, когда ИИ все чаще используется для создания контента.