«ХайвТрейс» привлекла средства в форме конвертируемого займа в размере 10 миллионов рублей от Стартап-Студии МФТИ, которые будут направлены на совершенствование продукта, предназначенного для снижения рисков, возникающих при использовании больших языковых моделей (LLM). HiveTrace обеспечивает мониторинг и защиту ИИ-систем в режиме реального времени, предотвращая промпт атаки, утечки данных и неэтичное поведение ИИ-приложений. Благодаря внедрению этого решения ИИ-агенты становятся защищены от данных угроз, что существенно снижает репутационные, юридические и финансовые риски, связанные с эксплуатацией технологий искусственного интеллекта.
Продукт представляет защитную модель, находящуюся справа и слева от ИИ-агента в процессе его взаимодействия с пользователем. Таким образом получается своевременно распознавать промпт-атаки со стороны пользователя и предотвращать ответы ИИ-агента, которые могли бы принести ущерб компании. HiveTrace поддерживает гибкую настройку корпоративных политик и этики для ИИ-приложений, совместим с любыми LLM, а так же защищает RAG1-приложения от утечек данных. Продукт обладает актуальной базой jailbreaks и prompt attacks, способен блокировать до 90% токсичного контента. Таким образом, HiveTrace позволяет существенно снизить риски использования ИИ-продуктов. Кроме того продукт совместим с любыми LLM и поддерживает как установку на серверах клиента, так и через облачного провайдера.
HiveTrace был основан Евгением Кокуйкиным совместно с партнерами компании Raft, интегратора AI-решений для бизнеса. В 2023 году в Raft было создано подразделение, специализирующееся на безопасности GenAI-систем, а летом 2024 в магистратуре AI TalentHub ИТМО открыта индустриальная лаборатория AI Security Lab. Результатом двухлетней работы этого направления стала первая версия продукта HiveTrace. Евгений Кокуйкин возглавил новую компанию в роли СЕО, и сегодня команда HiveTrace ставит амбициозную задачу вывести на рынок лучшее AI Security-решение в России.
Сейчас решение проходит пилотирование на российском рынке в финансовом, промышленном и телеком-секторах, а также среди GenAI-стартапов.
[1] - Retrieval Augmented Generation
