Новая функция Citations от Anthropic предназначена для уменьшения ошибок в AI.

Главное:

• Компания Anthropic представила новую функцию Citations для своих моделей AI, призванную уменьшить ошибки в предоставляемых данных.
• Функция позволяет разработчикам привязывать ответы AI к исходным источникам, что повышает точность и надежность информации.
• Citations доступна только для моделей Claude 3.5 Sonnet и Claude 3.5 Haiku при определенных условиях оплаты.

Новая функция от Anthropic

Недавно компания Anthropic анонсировала новую функцию Citations, которая позволит разработчикам искусственного интеллекта привязывать ответы их моделей к исходным документам. С помощью этой функции, которая уже доступна через API на платформе Vertex AI от Google, пользователи смогут ссылаться на конкретные цитаты и отрывки из документов, используемых для генерации ответов. Это шаг вперед в области обеспечения точности и прозрачности в работе AI, что особенно важно для приложений, связанных с реферированием документов и служебной поддержкой.

Обеспечение точности ответов AI является крайне актуальной проблемой, особенно учитывая случаи "галлюцинаций" — когда модели выдают факты, не имеющие под собой оснований. По данным исследований, около 15-25% информации, генерируемой AI, может содержать ошибки, что подчеркивает необходимость внедрения механизмов проверки доступной информации.

Как работает Citations?

Функция Citations позволяет разработчикам интегрировать исходные файлы, на основе которых модель будет формировать свои ответы. Это позволяет не только указывать источник формулировок, но и предоставляет пользователям возможность проверки и подтверждения данных. Anthropic утверждает, что такая привязка информации поможет в большинстве случаев, где используется AI, включая задачи обработки естественного языка, поддержку клиентов и ответ на вопросы.

Кроме того, Citations минимизирует риск ошибок, связанных с отсутствием основы для формулировок, что может иметь серьезные последствия в бизнесе и научных исследованиях. Стоит отметить, что модель Claude 3.5 Sonnet учитывает большие документы с примерной стоимостью обработки в 30 центов за 100 страниц, в то время как более компактная версия Claude 3.5 Haiku обойдется в 8 центов. Это может сделать функцию известной среди разработчиков, заинтересованных в обеспечении качества своих решений.

Перспективы и влияние на рынок

Запуск Citations является значимым шагом для рынка AI. Интеграция возможностей по проверки источников отвечает на запросы пользователей, которые стремятся к более высокому уровню надежности и точности в ответах систем AI. Прозрачность в работе AI-дальнейших раз будет способствовать повышению доверия пользователей.

Эксперты предсказывают, что подобные функциональные усовершенствования станут стандартом в разработке AI в ближайшие несколько лет. Учитывая растущий интерес к этическим аспектам использования искусственного интеллекта, внедрение более строгих механизмов проверки источников информации может стать основой для более ответственного и устойчивого развития технологии в будущем. В результате можно ожидать значительного повышения уровня пользовательского удовлетворения и снижении рисков, связанных с принятием решений на основе AI.