White Circle привлекла 11 миллионов долларов на контроль и безопасность ИИ

Компания White Circle, специализирующаяся на управлении корпоративными системами искусственного интеллекта в реальном времени, объявила об успешном завершении начального раунда финансирования. В его рамках компания привлекла 11 миллионов долларов США. Среди инвесторов — известные эксперты и лидеры отрасли ИИ и технологий, включая Ромена Юэ (OpenAI), Дирка Кингма (Anthropic, ранее OpenAI), Гийома Лампла (Mistral), Томаса Вулфа (Hugging Face), Оливье Помеля (Datadog), Франсуа Шолле (Keras), Мехди Гиссаси (ранее DeepMind), Пейдж Бэйли (DeepMind) и Дэвида Крамера (Sentry).

Вызовы в сфере управления ИИ

В условиях стремительного роста внедрения искусственного интеллекта компании сталкиваются с серьёзными трудностями, связанными с надёжностью, безопасностью и эффективным управлением ИИ-моделями. Упрощение и ускорение разработки продуктов на основе ИИ позволяет быстро выводить их на рынок, однако часто без полного понимания того, как эти системы будут функционировать после запуска.

Решение от White Circle

White Circle предлагает комплексную платформу, которая позволяет тестировать, защищать, отслеживать и оптимизировать системы ИИ через единый программный интерфейс (API). Собственные модели компании непрерывно в режиме реального времени мониторят входные и выходные данные ИИ. Это позволяет выявлять вредоносный контент, генерацию ложной или недостоверной информации (так называемые «галлюцинации»), атаки типа «prompt injection» (внедрение вредоносных запросов), дрейф модели (изменение поведения модели со временем) и активность злонамеренных пользователей. Кроме того, платформа предоставляет аналитические инструменты для оценки и постоянного улучшения производительности ИИ-моделей.

На практике White Circle способна обнаруживать такие инциденты, как утечки конфиденциальных данных, попытки манипулирования ИИ-агентами для выполнения вредоносных действий или снижение эффективности модели. Команды могут создавать индивидуальные политики и автоматизировать меры реагирования, включая ограничение частоты запросов или блокировку нежелательных пользователей. Система постоянно совершенствуется за счёт обрабатываемой обратной связи.

Комментарии руководителей компании

Основатель и генеральный директор White Circle Денис Шилов отметил, что существующие системы управления не успевают за быстрым темпом развития искусственного интеллекта. По его словам, компании всё активнее используют ИИ-системы в критически важных областях, которые напрямую влияют на людей — от здравоохранения и финансовых услуг до рекрутинга и систем безопасности. В то же время разработка ИИ становится всё более доступной, что усложняет полноценный надзор. White Circle была создана, чтобы обеспечить организациям прозрачность в работе их ИИ, помочь им оперативно реагировать на проблемы и предложить унифицированную систему для повышения надёжности, безопасности и соответствия нормативным требованиям.

Руководитель отдела дизайна White Circle Елена Юмагулова добавила, что продукт был разработан с акцентом на доступность контроля за ИИ как для технических, так и для нетехнических команд. Платформа предоставляет организациям централизованный инструмент для мониторинга производительности, идентификации рисков и оптимизации моделей через единый интерфейс и API, независимо от масштаба их развёртывания.

Дальнейшие планы

Полученное финансирование будет направлено на ускоренное развитие продукта, расширение команды White Circle в США, Великобритании и Европе, а также на поддержание и увеличение глобальной клиентской базы компании.

Твитнуть