Ollama представила обновление до версии 0.5.1

Главное:

• Ollama обновилась до версии 0.5.1
• Добавлена поддержка новой модели Llama 3.3 с впечатляющими характеристиками
• Введена возможность структурированного вывода данных по заданной JSON-схеме

Обновление Ollama: новшества версии 0.5.1

Недавно Ollama представила обновление до версии 0.5.1, в рамках которого были внесены значительные изменения. Одним из ключевых моментов этого обновления является возможность использовать новую модель Llama 3.3 с параметрами 70B. Данная модель имеет ряд преимуществ: она может быть реализована даже на одной видеокарте A100/H100, а в случае большего сжатия, также доступна для A6000 или конфигураций с использованием видеокарт 4090 с 48 Гб видеопамяти. Несмотря на свой относительно малый размер, Llama 3.3 показывает сравнимую, а иногда и лучшую производительность, чем более крупная модель Llama 3.1 с 405B параметрами, а также стремится догнать в некоторых аспектах GPT-4.

Поддержка структурированного вывода

Вторым важным новшеством, которое стоит отметить, стала поддержка структурированного вывода по JSON-схеме. Теперь пользователи могут упорядочить результаты и получать только те значения, которые им необходимы. Это значительно упрощает процесс парсинга и использования данных. В этих рамках обновлены библиотеки Ollama для Python и JavaScript, а также добавлены соответствующие эндпоинты в API. Это дает разработчикам новые возможности для создания более удобных и целенаправленных решений.

Перспективы и значение нового обновления

Эта версия Ollama открывает новые горизонты для разработчиков и компаний, работающих с искусственным интеллектом и машинным обучением. Способство к использованию компактных моделей значительно экономит ресурсы, что является важным фактором для многих организаций. Ожидается, что благодаря улучшениям производительности и функциональности многие компании начнут более активно внедрять Ollama в свои процессы, что может привести к качественным изменениям в области разработки ИИ.

Таким образом, обновление до версии 0.5.1 представляет собой важный шаг в развитии платформы, позволяя значительно расширить ее функционал и улучшить взаимодействие с пользователями.