Пентагон изучает перспективы создания ИИ для масштабного онлайн-мониторинга в проекте «Большой Брат 2.0»

Главное:

• Пентагон рассматривает использование генеративного ИИ для создания поддельных онлайн-персон.
• Технологии будут применяться для сбора информации и влияния на общественное мнение в интернет-пространстве.
• Рост зависимости от ИИ создает опасения о повышении уровня дезинформации и угрозе глобальной политической стабильности.

Генеративный ИИ в службе разведки

Министерство обороны США активно изучает возможности использования генеративного искусственного интеллекта для создания поддельных онлайн-персон. Источники утверждают, что Командование специальных операций США (JSOC) заинтересовано в разработке технологий, позволяющих создавать реалистичных, полнофункциональных пользователей, учитывающих такие аспекты, как изображения, биографии, видео и звук. Это станет новым элементом в процессе онлайн-разведки и информационной манипуляции, подняв вопрос о целесообразности и этике таких нововведений.

Интересно отметить, что аналогичные инициативы уже обсуждались Pентагоном в 2023 году с намерением изучить возможности "глубоких фейков". Это говорит о том, что использование искусственного интеллекта для военных и разведывательных операций достаточно широко обсуждается в оборонных кругах.

Будущее наблюдения за обществом

Планируемое использование фальшивых аккаунтов для сбора информации в социальных сетях и других открытых интернет-ресурсах является частью более широкой программы, направленной на усиление наблюдения и влияния, особенно в преддверии предстоящих выборов в США. Сторонники Дональда Трампа поддерживают проект, предполагающий масштабирование операций, связанных с наблюдением за гражданами. Это создает риск кардинальных изменений в отношении состояния личной безопасности и конфиденциальности.

Красноречивым фактом является то, что на фоне пандемии и последующих политических и социальных конфликтов мир сталкивается с растущим числом случаев дезинформации. Исследования показывают, что 64% людей сталкиваются с поддельными новостями и этим обманом, что еще сильнее подчеркивает важность честного и прозрачного подхода в работе технологий.

Опасности использования ИИ

Однако растущая зависимость нации от технологий генеративного ИИ вызывает серьезные опасения. Эксперты предупреждают, что такое злоупотребление возможно не только для дезинформации в рамках США, но также может создать прецедент для других стран. Это может привести к созданию глобальной цепной реакции, в которой дезинформация станет новой нормой, и различение правды и вымысла станет еще сложнее.

Некоторые аналитики предостерегают, что применение ИИ для подобных целей может резко ухудшить доверие общества к информациям и новостям, препятствуя открытым дискуссиям и обмену мнениями.

Я призываю вас поделиться своими мыслями по поводу использования ИИ в подобном контексте. Какую роль, по вашему мнению, эти технологии могут сыграть в нашей жизни и стоит ли нам опасаться их распространения?