«Лаборатория Касперского» выпустила руководство по безопасной разработке искусственного интеллекта.

Главное:

• «Лаборатория Касперского» представила руководство по безопасной разработке ИИ на Форуме ООН в Эр-Рияде.
• Документ адресован разработчикам и системным администраторам, содержат практические рекомендации по предотвращению киберрисков.
• Руководство включает принципы безопасности, такие как моделирование угроз, защита цепочки поставок и регулярные проверки систем.

Цель нового руководства

Недавнее руководство «Лаборатории Касперского» по безопасной разработке систем на основе искусственного интеллекта разрабатывалось в условиях растущих угроз кибербезопасности. Вице-президент компании Юлия Шлычкова отметила, что необходимость защиты систем ИИ уже не просто желательна — она необходима. Данный документ был презентован на международном Форуме ООН по управлению интернетом, что подчеркивает его глобальную значимость.

Согласно статистике, по данным компании Cybersecurity Ventures, киберугрозы будут нанесены более 6 триллионов долларов США убытков в 2021 году, что является значительным вызовом для всех организаций. В этом контексте особое внимание уделяется системам ИИ, которые становятся всё более распространенными в различных областях, от финансов до здравоохранения.

Ключевые принципы безопасности ИИ-систем

Руководство содержит множество рекомендаций для обеспечения безопасности ИИ, среди которых:

• Информирование и обучение — организации должны быть осведомлены о потенциальных угрозах, связанных с ИИ, и обучать своих сотрудников различным методам защиты.
• Моделирование угроз — применение методологий, таких как STRIDE и OWASP, поможет разработчикам заранее выявлять и снижать риски.
• Безопасность облачной инфраструктуры — в условиях растущей популярности облачных решений строгие защитные меры, такие как шифрование и двухфакторная аутентификация, имеют критическое значение.

Эти принципы не только способствуют минимизации рисков, но и закладывают основу для более безопасной интеграции ИИ в бизнес-процессы.

Будущее ИИ и кибербезопасности

Результаты исследований показывают, что к 2025 году инвестиции в ИТ-безопасность вырастут на 45%, что связано с увеличением числа кибератак и ростом интереса к формированию безопасных экосистем для внедрения ИИ. Поэтому внедрение международных стандартов и лучшие практики, предложенные в руководстве «Лаборатории Касперского», могут значительно улучшить уровень кибербезопасности в компаниях.

Руководство по безопасной разработке ИИ-систем, представленное «Лабораторией Касперского», является важным шагом в направлении обеспечения защиты от угроз. Внедрение данных рекомендаций не только поможет избежать потерь от кибератак, но и создаст более безопасную технологическую среду для всех.