Поделиться
«Американский потребназдор» запустил ИИ-помощника. Сотрудники жалуются, что он глючит и едва справляется с простейшими задачами
В США агентство из структуры Минздрава похвасталось запуском ИИ-помощника на базе большой языковой модели. Сотрудники ведомства утверждают, что он не справляется с наипростейшими задачами, полон багов и внедрялся в спешке – все ради пиара.FDA запускает ИИ-помощника
Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) объявило о запуске цифрового помощника Elsa. Об этом сообщается на официальном сайте федерального агентства.
В основе Elsa лежит большая языковая модель (LLM) – какая именно, ведомство не уточняет. Назначение программной платформы – помощь персоналу и повышение эффективности работы сотрудников. Однако по отзывам персонала FDA, своей функциональностью новинка, мягко говоря, не впечатляет, а ее внедрение велось в большой спешке.
Elsa работает в защищенной среде государственной облачной платформы GovCloud, развернутой на базе инфраструктуры Amazon Web Services. ИИ-помощник умеет анализировать внутренние данные агентства, пересказывать краткое содержание изученных материалов, писать электронные письма и помогать с рецензированием документов.
Глава FDA Марти Макари (Mary Makary) похвалил внутреннюю команду разработчиков агентства, занимавшихся внедрением ИИ-платформы, за завершение проекта «с опережением графика и в рамках бюджета».
Согласно заявлению FDA, Elsa уже используется для решения таких задач как сверка протоколов клинических испытаний и выявление аномалий в отчетах об инспекциях. Агентство утверждает, что с начала тестирования в январе в 2025 г. сотрудники ведомства воспользовались ИИ-помощником «тысячи раз».
FDA входит в структуру Минздрава США и регулирует производство и оборот продуктов питания, лекарств, медицинского оборудования, косметики и пр. В России прямого аналога FDA нет. Функции, которые выполняет FDA в США, в нашей стране распределены между Роспотребнадзором, Росздравнадзором, Россельхознадзором. В 2015 г. Правительство России обсуждало возможность создание аналога FDA путем слияния вышеупомянутых ведомств.
Сырой продукт, который внедрялся в спешке
Тем не менее, по некоторым данным, внутри агентства. По сообщению NBC News, сотрудники, которым посчастливилось, поработать с Elsa, описывают свой опыт как негативный. ИИ-помощник якобы реализован с ошибками и едва справляется с самыми простыми задачами. В одном из изученных изданием сообщений из внутренней переписки персонала FDA говорится, что система «не могла выполнить базовые операции вроде копирования и вставки или перехода по гиперссылкам».
Некоторые из сотрудников ведомства отмечают крайне сжатые сроки апробации и внедрения ИИ-помощника. Источники издания Stat News сообщают о том, что публичный анонс запуска системы, сделанный FDA, ошеломил команду, работавшую над внедрением и настройкой Elsa, и вынудил ее в спешке доводить работу помощника до ума с учетом нюансов, о которых руководство агентства ей ранее не сообщало.
Один из собеседников издания назвал анонс «преждевременным», отметив, что запуск системы в ее текущем состоянии, скорее, следует считать пиар-ходом со стороны руководства FDA, нежели реальным практическим достижением.
Глава FDA признает: система не будет работать безупречно со старта. В интервью Stat News он заявил, что Elsa будет развиваться за счет обратной связи со стороны пользователей и постепенного улучшения функциональности.
Тем не менее, как отмечает TechSpot, у некоторые сотрудников FDA вызывает вопросы запуск системы до прохождения ей базовых тестов на возможность использования по прямому назначению. Момент, выбранный для анонса, вызывает у некоторых сотрудников ведомства подозрения в том, что преждевременный запуск помощника с большой помпой – попытка руководства FDA набрать политические очки, продемонстрировать дальновидность и прогрессивность на фоне растущего внимания со стороны общества к его эффективности.
ИИ-помощник Elsa доступен исключительно внутри контура FDA и, как утверждают ее разработчики, не обучается на данных компаний, работу которых регулирует агентство. Чиновники обещают следить за тем, как работает помощник и контролировать качество выдаваемой им информации. Большие языковые модели склонны к «галлюцинациям», в результате которых могут выдавать неверную информацию, и Elsa не является исключением.
Однако часть сотрудников ведомства настроена скептично по отношению к заявлениям руководства, поскольку механизмы контроля на ранних этапах внедрения системы либо отсутствовали полностью, либо страдали от недостатка прозрачности.
Провальные проекты
Как отмечает TechSpot, неудачи с внедрением инноваций в госуправление у властей США периодически случаются.
Так, в 2013 г. Запуск сайта Healthcare.gov – онлайн-площадки поиска и закупки услуг медстраховки, символа реформы здравоохранения, проводимой администрацией тогдашнего президента Барака Обамы (Barack Obama) – стал одним из главных скандалов года в США. Подрядчики не рассчитали нагрузку на портал, в результате чего он стал зависать и отключаться. Портал строился в течение почти трех лет, и на его создание ушло около $400 млн.
В апреле 2025 г. CNews писал о том, что администрация президента США Дональда Трампа (Donald Trump) планирует закрыть бесплатный государственный сервис Direct File, который позволяет налоговым резидентам США отчитываться о доходах через интернет. При этом на пилотирование проекта в 2024 г. американские налоговики к тому моменту уже успели потратить не менее $31,8 млн.
Короткая ссылка
