Разработчик проанализировал, как разные нейросети воспринимают образ среднестатистического человека

Главное:

• Исследователь Джеймс Хэнкок проверил, как нейросети представляют среднестатистического человека.
• Данные получены с помощью трех моделей, причем каждая была протестирована на 100 различных промптов.
• Нейросети проявили ограниченное восприятие демографии, не выходя за рамки гендерной бинарности и возрастных категорий.

Проект «Imagine a Person»

В рамках своего мини-проекта, разработчик Джеймс Хэнкок создал инновационный инструмент под названием «Imagine a Person». Этот проект исследует, как различные языковые модели искусственного интеллекта представляют среднестатистического человека. Для этого специалист использовал распространенные модели, такие как Llama3.1, Gemma2 и Qwen2.5, и задавал им одинаковые вопросы на протяжении 100 итераций. Он запросил нейросети описать случайный день в жизни человека, основываясь на простых данных: имя, пол, возраст, место жительства и краткая биография.

Проект является не просто развлекательным опытом, но и служит полезным инструментом для анализа предвзятостей нейросетей. Подобный подход к исследованию позволяет выделить общие шаблоны и предвзятости, которые могут определять, как модели воспринимают людей.

Ограничения представлений нейросетей

Анализ показал, что нейросети прыгают через возрастные диапазоны, представляя своих «персонажей» в основном в возрасте от 25 до 35 лет. Интересно, что Llama3.1 умудрилась создать единственный образ мужчины — 32-летнего японского графического дизайнера-фрилансера по имени Акира Сайто. Ни одна из используемых моделей не смогла представить людей за пределами гендерной бинарности, что ставит под сомнение их способность понимать разнообразие человеческих идентичностей.

Кроме того, проект прояснил, как американские модели игнорируют существование людей в других странах, например, в Китае. Статистические выводы нейросетей также вызывают вопросы: Llama считает, что треть людей — это графические дизайнеры-фрилансеры, а Qwen 2.5 показала, что 80% работников занимаются программной инженерией.

Указание на предвзятость и ее последствия

Хэнкок подчеркивает, что любые изменения в использовании промптов могут кардинально изменить результаты выдаваемые ИИ. По его мнению, это не столько свидетельствует о креативности модели, сколько выставляет на вид проблемы с предвзятостью и недостатками понимания демографии среди нейросетей.

Работа такого рода необходима для дальнейших исследований в области искусственного интеллекта. Создание более инклюзивных и представительных моделей возможно только через тщательную оценку и устранение выявленных предвзятостей. Важность подобного подхода не может быть недооценена, особенно в свете активного внедрения ИИ в множество аспектов нашей жизни.