Исследование: ИИ-системы фактически повторяют человеческое мышление без его подлинной модели.

Главное:

• Исследователи из Apple опубликовали статью о том, что модели ИИ не способны к настоящему логическому мышлению.
• При решении задач ИИ демонстрирует проблемы, когда в вопросы добавляются несущественные детали.
• Специалисты утверждают, что текущие языковые модели лишь воспроизводят шаги рассуждений, наблюдаемые в обучающих данных.

Искусственный интеллект: имитация или понимание?

Недавнее исследование ученых из Apple поднимает важный вопрос о способностях современных языковых моделей. В их статье «Понимание ограничений математического рассуждения в больших языковых моделях» делается вывод, что, несмотря на значительные достижения в области искусственного интеллекта, модели, такие как GPT, не могут по-настоящему мыслить, а только имитируют мышление человека. Это подчеркивает разрыв между воспринимаемым и настоящим интеллектом, что актуально в свете быстрых темпов развития технологий.

Проанализировав ответы ИИ на сотни вопросов, исследователи отметили, что, при добавлении мелких, но не относящихся к делу деталей, ответы моделей становятся смущающими и даже абсурдными. Например, в задаче о киви ИИ не справился с одной лишь деталью, полной бесполезности, что подчеркивает отсутствие истинного понимания контекста и сути задачи. Подобные наблюдения вызывают у меня сомнения относительно применения таких технологий в критических сферах, где точность и логика имеют решающее значение.

Последствия недостатков ИИ в логическом рассуждении

Несмотря на впечатляющие результаты, которые демонстрируют языковые модели, их неспособность к логическому рассуждению приводит к проблемам в ряде приложений. Учитывая, что по данным OpenAI, такое неумение стало более очевидным, когда модели ошибались в простой задаче по подсчету букв, ситуация становится тревожной.

Как показывает практика, системы ИИ продолжают действовать в рамках шаблонов, накопленных из обучающих данных, чем и объясняются их сбои при незначительных отклонениях. Опасность заключается в том, что такие ошибки могут привести к серьезным последствиям в юриспруденции, финансах или даже медицине, где требуется не только анализ данных, но и способности к логическому мышлению.

Реакция экспертов и открытые вопросы

Реакция на выводы исследования была неоднозначной. Некоторые специалисты утверждают, что правильные подсказки могут существенно улучшить результаты, однако недостаток контекста для более сложных задач, похоже, остается нерешенной проблемой. Это приводит нас к открытым вопросам о природе интеллекта и границах технологий: можем ли мы ожидать, что системы ИИ когда-либо смогут развить подлинные логические способности, или они всегда будут оставаться лишь инструментами, повторяющими наблюдаемые схемы?

Итак, каково ваше мнение о настоящих возможностях и пределах искусственного интеллекта? Вы верите, что ИИ сможет когда-то развить собственное логическое мышление? Оставляйте свои комментарии под этой статьей.