Главное:
- Apple выпустила новую функцию AI для обобщения уведомлений, которая начала генерировать неверные новости.
- Недавние ошибки включают ложные сообщения о победах в спортe и публичные заявления известных личностей.
- Компания заявила, что работает над устранением проблемы и улучшением своей AI-системы.
Проблемы с неверными уведомлениями Apple
Согласно последним сообщениям, Apple столкнулась с серьезными проблемами в своей новой функции Apple Intelligence, которая предназначена для обобщения уведомлений пользователей. В частности, функция ошибочно сообщила о том, что британский дартсист Люк Литтлер выиграл PDC World Darts Championship до того, как это произошло на самом деле. Это событие произошло накануне финала турнира, в котором Литтлер действительно одержал победу. Данная ошибка лишь подчеркивает риски, связанные с использованием AI в новостных службах.
Кроме того, Apple также выпустила другое ложное сообщение, утверждающее, что теннисная звезда Рафаэль Надаль объявил о своей сексуальной ориентации. Такие инциденты, включая предыдущие ошибки с новостными заголовками, вызывают серьезные опасения по поводу точности информации, распространяемой через технологические решения.
Эффект «галлюцинаций» в AI
Часто AI-системы, такие как Apple Intelligence, могут генерировать то, что специалисты по искусственному интеллекту называют «галлюцинациями». Это ситуации, когда AI предоставляет фактическую ложную информацию, основанную на неправильной интерпретации имеющихся данных. Анализ показывает, что из-за стремления к сжатию информации и выводу кратких резюме, такие системы могут получить не верные сообщения, которые, тем не менее, будут выглядеть как факты.
По данным CCS Insights, многие компании, работающие с AI, сталкиваются с аналогичными проблемами. Это подчеркивает важность разработки более точных и надежных алгоритмов, способных распознавать и фильтровать информацию до ее публикации.
Улучшения и решения от Apple
Apple уже признала наличие проблемы и заявила, что работает над обновлением, которое даст возможность пользователям лучше понимать, когда уведомление является продуктом AI. Эта мера, очевидно, необходима, чтобы избежать недопонимания и дезинформации среди пользователей. К тому же, Apple призвало людей сообщать о неожиданных уведомлениях, чтобы улучшить качество работы своего продукта.
Специалисты отрасли полагают, что Apple внимательно следит за последствиями своих ошибок, ожидая от пользователей улучшений в своих технологиях по обработке информации. Ожидается, что исправления будут внесены в ближайшие недели, но пока стоит оставаться осторожными при восприятии информации, поступающей из AI-систем, и критически оценивать её достоверность.
Добавить комментарий