OpenAI поглотила стартап Promptfoo, который тестирует безопасность ИИ-систем
Корпорация OpenAI осуществила приобретение стартапа Promptfoo, специализирующегося на разработке инструментов для тестирования безопасности систем искусственного интеллекта. Данная сделка направлена на укрепление позиций OpenAI в области создания корпоративного искусственного интеллекта, а также на повышение уровня доверия со стороны потенциальных клиентов и партнёров.
Компания Promptfoo, основанная два года назад и расположенная в Сан-Франциско, предлагает программное обеспечение с открытым исходным кодом, предназначенное для проведения комплексной проверки безопасности нейронных сетей. В арсенале компании имеется методика «красной команды», которая предполагает имитацию потенциальных атак на исследуемые системы с целью выявления уязвимостей до их эксплуатации злоумышленниками. На сегодняшний день более 25 процентов компаний из списка Fortune 500 являются клиентами Promptfoo.
Интеграция технологий Promptfoo в корпоративную платформу OpenAI Frontier позволит значительно расширить функциональные возможности последней. В частности, будет обеспечена интеграция автоматизированных систем тестирования, мониторинга изменений и отслеживания результатов, что позволит повысить уровень безопасности разрабатываемых продуктов.
Ганеш Белл, управляющий директор фонда Insight Partners, который возглавил раунд финансирования Promptfoo, отметил: «Приобретение свидетельствует о том, что OpenAI уделяет первостепенное внимание созданию корпоративного искусственного интеллекта, который будет обладать высокой мощностью, надёжностью и безопасностью при масштабировании». Условия сделки не подлежат разглашению.
OpenAI обязуется продолжить развитие открытого кода, разработанного Promptfoo, и уже активно интегрирует функции безопасности в свои продукты. На прошлой неделе компания анонсировала разработку искусственного интеллектуального агента, предназначенного для поиска и устранения уязвимостей в системах управления базами данных. Данный продукт имеет определённые сходства с инструментом, разработанным компанией Anthropic PBC.