Галлюцинации ИИ стоили миру $67 млрд. Платформа CTGT нашла способ их «вылечить» за минуты

Автоматически добавлена на сайт: 29 июн 2025, 11:51



Компания CTGT, специализирующаяся на внедрении ИИ в высокорискованные сферы деятельности, объявила о значительном обновлении своей платформы. Обновление, представленное 27 июня, позволяет устранять предвзятость, галлюцинации и другие нежелательные артефакты в работе моделей искусственного интеллекта, таких как DeepSeek и других open-source решений (с открытым исходным кодом). Демонстрация обновлённой платформы состоялась на конференции VentureBeat Transform 2025, проходившей 24-25 июня в Сан-Франциско, где CTGT стала победителем конкурса VentureBeat Innovation Showcase, обойдя шесть других финалистов. Тестирование показало впечатляющие результаты: благодаря CTGT, модель DeepSeek стала корректно отвечать на 96% чувствительных вопросов, в то время как до внедрения платформы этот показатель составлял всего 32%. Это особенно актуально в свете растущей проблемы галлюцинаций в ИИ: по данным McKinsey, в 2024 году глобальные потери, связанные с этим явлением, составили $67,4 миллиарда. Deloitte отмечает, что 47% корпоративных пользователей ИИ принимали важные решения, основываясь на ложной информации, полученной от моделей. Ситуация усугубляется: новые версии некоторых моделей, например, ChatGPT 4.5 (с показателем галлюцинаций в 30%), демонстрируют ещё худшие результаты, чем предыдущие. DeepSeek R1, в свою очередь, имеет показатель галлюцинаций в 14,9%, причём значительная часть дезинформации в этой модели, вероятно, заложена преднамеренно — китайским правительством. Иллюстрация: Leonardo В условиях, когда от правильности работы ИИ зависит многое, доверие к таким моделям становится критическим фактором. CTGT, запущенная в феврале с инвестициями в $7 миллионов от Gradient (ранний фонд ИИ Google), General Catalyst, Y Combinator, Liquid 2, Deepwater и ряда известных инвесторов, включая Франсуа Шолле (Google, создатель Keras), Майкла Сейбела (Y Combinator, соучредитель Twitch) и Пола Грэма (Y Combinator), первоначально фокусировалась на снижении вычислительных затрат при обучении и развёртывании моделей ИИ. Компания добилась значительного успеха, уменьшив вычислительные потребности на порядок за счёт исключения необходимости тонкой настройки, проектирования подсказок и обратного распространения ошибки. «Введение DeepSeek R1 побудило множество предприятий обратиться к нам за помощью, — говорит Сирил Горлла, соучредитель и генеральный директор CTGT. — Они хотели воспользоваться преимуществами низкой стоимости и скорости DeepSeek, но опасали

ЗДЕСЬ МОЖЕТ БЫТЬ ВАША РЕКЛАМА

Разместить рекламу за 5 ₽/день