Главное:
- Компания Red Hat приобрела стартап Neural Magic, который занимается ускорением вывода моделей искусственного интеллекта.
- Сделка направлена на улучшение обработки генеративных ИИ на оборудовании с открытым исходным кодом.
- Neural Magic будет способствовать развитию проекта vLLM, что позволит сделать технологии ИИ более доступными для различных организаций.
Стратегия Red Hat в области искусственного интеллекта
Недавно стало известно о том, что компания Red Hat приобрела стартап Neural Magic, чьи разработки акцентированы на ускорении анализа и вывода генеративного искусственного интеллекта. Это событие подчеркивает нарастающий интерес в области искусственного интеллекта и его интеграции с открытым программным обеспечением. Red Hat, являясь одним из ведущих разработчиков ПО на базе Linux, рассчитано на то, чтобы упростить и ускорить работу с высоконагруженными ИИ-решениями, доступными для большинства организаций, независимо от их размера.
С точки зрения статистики, использование открытых технологий в сфере ИИ охватывает около 25% рынка, и этот процент продолжает расти. Инфраструктура на базе открытого кода позволяет более гибко интегрировать новые решения и адаптировать существующие под уникальные потребности компаний. В результате, производительность и эффективность работы с AI-моделями значительно повышаются.
Новые возможности с помощью vLLM
Важной частью сделки стало продолжение работы над проектом vLLM, который управляется сообществом и предлагает высоко оптимизированные решения для работы с открытыми моделями искусственного интеллекта. Этот проект поддерживает разнообразные аппаратные решения, включая графические процессоры AMD, Nvidia и другие.
Примечательно, что 90% бизнесов, внедривших ИИ, отметили улучшение своих операций, что отражает необходимость создания необходимых инструментов для эффективного управления большими данными и автоматизации процессов. Внедрение vLLM открывает новые горизонты для таких бизнесов, что делает их более конкурентоспособными на рынке.
Сохранение открытости и инноваций
Приобретая Neural Magic, Red Hat заявила о своем намерении сохранять и развивать активы стартапа в сфере открытого исходного кода. Neural Magic уже разрабатывала программное обеспечение с открытым исходным кодом, и это направление будет продолжено, что делает компанию привлекательной для разработчиков и исследователей.
Эксперты отмечают, что взвешенное сочетание открытости и проприетарных компонентов технологий Neural Magic может привести к улучшению функциональности и производительности, что, в свою очередь, будет способствовать их популяризации среди разработчиков и крупных организаций. Открытость технологий позволяет не только обмениваться опытом, но и предоставляет возможность совместной работы над ИИ-проектами, что в итоге может способствовать ускорению научных изысканий и реализации инновационных решений на практике.
Добавить комментарий