Тест ChangeMyView: оценка убедительности AI-моделей от OpenAI

Главное:

• OpenAI использует сабреддит r/ChangeMyView для тестирования убедительности своих AI-моделей.
• Модель o3-mini продемонстрировала результаты на уровне 80-90% среди людей по убеждению.
• OpenAI столкнулась с правовыми и этическими вопросами в связи с использованием данных от пользователей Reddit.

Связь OpenAI с r/ChangeMyView

OpenAI недавно анонсировала использование сабреддита r/ChangeMyView для тестирования убедительности своих моделей, включая новую o3-mini. Это сообщество включает миллионы пользователей, которые обмениваются мнениями и аргументами о различных темах. Процесс, который OpenAI внедрила, включает сбор постов и генерируемых ответов, которые должны убеждать авторов в их ошибках. Модели оцениваются тестировщиками, что дает возможность OpenAI получить представление о том, насколько эффективно они могут изменять мнения людей.

Это не первый раз, когда OpenAI использует подобные ресурсы. Данные, полученные с r/ChangeMyView, помогают модели делать аргументацию более убедительной, что подчеркивает значимость человеческих мнений для обучения и улучшения AI-технологий. Однако, стоит отметить, что OpenAI не делится подробностями о том, каким образом она получила доступ к этой информации, что ставит под сомнение легальность и етичность такого подхода.

Споры о правомерности использования данных

Тема сбора и использования данных с платформ, таких как Reddit, становится все более актуальной. OpenAI уже сталкивалась с правовыми спорами, связанными с неправомерным сбором информации с различных сайтов. В этом контексте действия компании обостряют вопросы относительно прозрачности в использовании пользовательского контента. Генеральный директор Reddit ранее упоминал проблемы с компаниями, которые, по его словам, незаконно сканируют данные сайта.

Несмотря на наличие некоторых соглашений о лицензировании, методы, используемые OpenAI, вызывают обеспокоенность о правах владельцев контента на платформе. Это поднимает важные вопросы о будущих нормативных инициативах в области защиты данных и конфиденциальности пользователей, что, вероятно, повлияет на действия крупных технологических компаний.

Этические аспекты и будущее AI

Одним из главных направлений работы OpenAI является изучение последствий, связанных с высокой убедительностью их моделей. Хотя o3-mini и другие версии AI продемонстрировали потенциал убедительного аргумента, в компании не нацеливаются на создание «сверхубедительных» моделей, потенциально способных манипулировать пользователями. OpenAI сосредоточена на разработке методов оценки, чтобы обеспечить, что их технологии не будут использоваться во вред.

С сегодняшним технологическим прогрессом, вопрос о том, как AI может быть использован для достижения определенных целей, становится все более актуальным. Важно, чтобы компании вели открытый и этичный диалог о своих методах и намерениях, особенно когда речь идет о сборе и использовании данных. В конце концов, это не только вопрос о технологии, но и о доверии, которое общество должно будет проявлять к тем, кто разрабатывает эти системы.