Поделиться
От Apple требуют отключить сервис новостей: ИИ придумывает ложные заголовки
Компания Apple в 2024 г. представила свои модели искусственного интеллекта (ИИ), которые пообещала интегрировать в iPhone с ближайшими обновлениями. Пока большая часть из обещанного разработчиками, работает криво и на английском языке, но сейчас даже к этим ИТ-сервисам возникает много вопросов у пользователей. ИИ-технология придумывает собственные заголовки, которые вообще не соответствуют действительности. Это очень возмущает представителей популярных средств массовой информации (СМИ).
Неудовлетворительная работа
Журналисты призывают Apple отключить новостные сводки на основе ИИ-технологии из-за ложных заголовков и новостей, пишет издание 9to5mac.
Американская корпорация Apple подверглась критике после того, как в недавнем текстовом уведомлении, приписываемом изданию BBC, было ошибочно заявлено, что Луиджи Манджионе (Luigi Mangione), обвиняемый в убийстве известного генерального директора медицинского страхования в Нью-Йорке, застрелился. Шокирующий и ложный заголовок был создан с помощью ИИ-сервиса Apple Intelligence, который использует ИИ для обобщения новостных уведомлений.
В реальности этого события не произошло, однако вскоре после появления сводки в социальных сетях информация, фейковая новость быстро распространилась в сети. Когда подтвердилось, что сгенерированная ИИ сводка ошибочно выдала подробности громкого дела об убийстве, это вызвало обеспокоенность по поводу точности функции сводки новостей Apple.
Издание BBC подала официальную жалобу в Apple, потребовав принять меры по исправлению ситуации, чтобы предотвратить повторение подобных ошибок, что еще раз подчеркивает важность ответственности. На сайте СМИ указаны редакционные ценности: «Доверие, которое наша аудитория испытывает ко всему нашему контенту, лежит в основе всего, что мы делаем. Мы независимы, беспристрастны и честны. Мы стремимся к достижению высочайших стандартов точности и беспристрастности и стараемся не допускать сознательного или существенного введения в заблуждение нашей аудитории».
СМИ вкладывают значительные средства в поддержание доверия к себе, и ошибки, допускаемые сторонними ИТ-платформами, угрожают подорвать это доверие. Поскольку дезинформация может быстро распространяться в интернете, очень важно, чтобы автоматические новостные уведомления были точными.
Apple еще не дала публичного ответа на жалобу BBC. Однако этот инцидент не первый случай, когда Apple Intelligence подвергается критике за распространение дезинформации с помощью своих сводок, созданных на основе ИИ. В ноябре 2024 г. уведомление, приписываемое New York Times, неточно сообщило, что премьер-министр Израиля Биньямин Нетаньяху (Benjamin Netanyahu) был арестован. На самом же деле речь шла о том, что Международный уголовный суд выдал лишь ордер на арест Нетаньяху, но резюме ИИ значительно исказило факты.
Призыв к запрету
Международная неправительственная организация «Репортеры без границ» призывает полностью запретить функцию генеративного ИИ. Члены организации опубликовали на своем сайте заявление, в котором говорится, что они обеспокоены рисками, связанными с использованием ИТ-инструментов ИИ для создания ложных новостей. По мнению организации, они еще слишком новы, чтобы использовать их в новостях.
Руководитель отдела технологий и журналистики «Репортеры без границ» заявил на сайте о том, что автоматическое производство ложной информации, приписываемой СМИ, подрывает доверие к ним и ставит под угрозу право общества на достоверную информацию о текущих событиях. Европейский закон об ИИ-технологиях не относит генерирующие информацию ИИ к системам повышенного риска, оставляя критический правовой вакуум. Этот пробел должен быть немедленно устранен, говориться на сайте организации.
Взгляд в будущее
Проблемы с Apple Intelligence вызвали более широкую обеспокоенность по поводу надежности ИИ-технологий при работе с конфиденциальной информацией. ИТ-инструменты, управляемые ИИ, хотя и призваны упростить и улучшить работу пользователей, часто не справляются с контекстом и нюансами, а это ключевые элементы точных репортажей. Когда доверенные источники новостей искажаются в результате таких ошибок, вероятность недопонимания со стороны общественности возрастает в геометрической прогрессии.
Эта проблема также подчеркивает более широкие последствия ИИ-интеграции в процесс доставки новостей. Поскольку технологические компании, такие как Apple, продолжают внедрять ИИ для модерации контента, растет давление на обеспечение адекватного тестирования и контроля этих ИТ-систем. Новостные издания, со своей стороны, начинают бороться с ошибками, которые могут нанести ущерб их репутации.
Инциденты с BBC и New York Times служат лишь предупреждением о рисках, связанных с чрезмерным использованием ИИ для доставки контента, и заставляет задуматься над тем, перевешивает ли риск дезинформации удобство автоматических сводок новостей? Хотя ИИ-технология обещает повысить эффективность и доступность, ее недостатки подчеркивают постоянную необходимость человеческого контроля в журналистике. По мере того как компания Apple будет устранять недостатков у Apple Intelligence, дебаты о роли ИИ в новостных СМИ, скорее всего, будут усиливаться.
Нейронные сети быстро развиваются, но, очевидно, что журналистов вытеснят еще не скоро. Неспособность ИИ к критическому мышлению, рефлексии, юмору позволяет авторам оставаться ценнейшим элементом в построении доверительных отношений со своим читателем во всем мире.
Короткая ссылка
