Новая версия ChatGPT делает подделку документов значительно легче.

Главное:

• Новая модель изображений от OpenAI позволяет создавать поддельные документы за считанные секунды.
• Подделка становится доступной каждому, угрожая системам безопасности.
• Безопасность остается приоритетом для OpenAI, но существует риск обхода имеющихся механизмов защиты.

Упрощение подделки документов с помощью AI

Совсем недавно OpenAI представила свою новую модель генерации изображений GPT-4o, которая значительно упрощает процесс создания поддельных документов. Эта технология может создавать графику, выглядящую крайне правдоподобно, что в свою очередь открывает широкие возможности для мошенничества. Anonymus пользователь X «God of Prompt» продемонстрировал в социальных сетях, что с помощью этой модели можно легко генерировать поддельные уведомления об отмене рейсов, финансовые документы и даже дипломы. Интересно, что ранее такие задачи требовали высококвалифицированных специалистов и значительных временных затрат, а теперь любой желающий может создать подделку всего за несколько секунд.

Эта ситуация остается тревожной, так как она угрожает обвалить системы проверки документов, используемые различными организациями. Например, компании и государственные учреждения, осуществляющие только поверхностные проверки для малых финансовых претензий или проверок заявлений о приеме на работу, могут столкнуться с множеством поддельных документов, проскользнувших мимо их контроля.

Механизмы защиты и их недостатки

OpenAI предусмотрела встроенные функции безопасности в новую модель, включая метаданные C2PA, которые прикрепляются к каждому сгенерированному изображению. Эти метаданные позволят отличить искусственно созданные изображения от настоящих. Но чтобы выявить эти данные, необходимы специальные инструменты проверки, что делает возможность обхода системы довольно высокой. Более того, опытные пользователи могут найти способы удалить или модифицировать эти маркировки, что затрудняет процесс выявления фальшивок.

Этот аспект подчеркивает необходимость постоянного развития и обновления мер безопасности в данной области. Основной задачей как разработчиков, так и пользователей остается создание таких инструментов, которые могли бы эффективно противостоять появляющимся угрозам, исходящим от возможности создания поддельных документов.

Будущее проверки правдивости документов

Команда OpenAI понимает важность безопасности и уже разрабатывает внутренние инструменты для контроля генерации изображений. Однако, как бы ни были продвинутыми эти технологии, злоумышленники всегда находят пути обхода систем. Поэтому, по моему мнению, необходимо разработать комплексный подход к проверке правдивости документов, основанный не только на трансформации цифровых маркеров, но и на внедрении более глубоких уровней анализа и распознавания.

Рынок подделок всегда существовал, однако с появлением таких технологий, как GPT-4o, он только расширяет свои масштабы. Являясь расстроительным экспертом в области кибербезопасности, я настоятельно рекомендую всем организациям, использующим документацию или выдачу каких-либо справок, быть на страже и инвестировать в новые технологии, обеспечивающие безопасность их данных и клиентов.