В ByteDance сообщили о вмешательстве стажёра в процесс обучения ИИ-моделей для исследовательского проекта.

Главное:

• Стажёр в компании ByteDance признан виновным в злонамеренном вмешательстве в обучение моделей ИИ.
• Инцидент не повлиял на коммерческие продукты компании, убытки не были нанесены.
• Компанию предупредили о поведении стажёра в образовательном учреждении и отраслевых ассоциациях.

Несанкционированные действия стажёра

Новость из среды информационных технологий о случившемся в компании ByteDance привлекла внимание к безопасности процессов разработки. Программист-стажёр был уволен после того, как было установлено, что он в течение двух месяцев внедрял ошибки в код, что нарушало работу команды из тридцати разработчиков. Благодаря этому вмешательству, технический персонал должен был постоянно бороться с новыми неисправностями, что снижало эффективность их работы. СМИ сообщают, что стажёр, знакомясь с кода, также умудрялся узнавать о методах исправления имеющихся ошибок и создавать новые.

Данные действия могут вызвать значимые вопросы о безопасности и надежности процедур контроля, особенно в компаниях, занимающихся высокими технологиями, где работа с мягким обеспечением неминуемо представляет риски.

Реакция ByteDance и последствия

После выявления факта саботажа, ByteDance оперативно отреагировала на инцидент. Компания заявила, что весь процесс разработки и европейские языковые модели, а также базовая инфраструктура для генеративного ИИ не подверглись влиянию этих действий. Ведя учет современных бизнес-практик, информирование вышеуказанных учреждений подтверждает общую тенденцию в области корпоративного управления — обучение и ответственность.

Тем не менее, следует отметить, что подобные события акцентируют внимание на важности процессов контроля доступа и надзора за действиями сотрудников, начиная с этапа найма и в процессе работы. Это также поднимает вопрос о необходимости повышенной безопасности для новых членов команды и о том, каким образом можно минимизировать вероятность появления подобных инцидентов в будущем.

Влияние на индустрию и уроки, которые стоит извлечь

Инцидент в ByteDance — это лишнее подтверждение того, что область информационной безопасности требует постоянного внимания и модернизации подходов. По данным исследования, проведённого консалтинговой компанией, более 60% организаций сталкиваются с какими-либо проблемами в области управления безопасностью данных.

Для компаний, работающих с высокими технологиями, особое значение имеет то, как строятся процессы внутри команды, управление разработкой и реализация программ по обучению сотрудников, направленных на создание культуры безопасности. В связи с этим важно также наладить процесс обратной связи и упрощения системы отчетности для всех участников разработки.

Таким образом, уроки, извлеченные из данной ситуации, подчеркивают необходимость расширенной программы обучения для новых сотрудников, чтобы минимизировать риск осложнений, которые могли бы негативно сказаться на репутации компании.