Ant Group представила открытые модели безопасности для ИИ-агентов и мультимодальных систем

Китайский технологический гигант Ant Group, известный своими разработками в области финансовых технологий, сделал очередной шаг в развитии безопасности искусственного интеллекта. Компания открыла исходный код модели SingGuard-NSFA, предназначенной для защиты автономных ИИ-агентов от широкого спектра киберугроз.

SingGuard-NSFA способна выявлять семь основных категорий рисков, включая 28 подкатегорий и 185 различных сценариев. Среди ключевых угроз — инъекции промптов, кража чувствительных данных, выполнение вредоносного кода, а также злоупотребление вычислительными ресурсами и правами доступа. Модель поддерживает 133 языка и оснащена оценочной системой с почти 100 000 тестовых примеров.

Разработчикам доступны четыре версии модели с различным количеством параметров: 0,8B, 2B, 4B и 9B. По данным Ant Group, время обработки одного запроса составляет около 50 миллисекунд, что позволяет интегрировать решение в системы с высокими требованиями к производительности. Вторая модель, SingGuard, ориентирована на мультимодальные ИИ-системы и обеспечивает защиту в более сложных сценариях.

Открытие исходного кода SingGuard-NSFA может ускорить внедрение безопасных ИИ-решений в различных отраслях, включая финансовые сервисы, облачные платформы и корпоративные приложения. Компания подчёркивает, что её разработки соответствуют современным стандартам кибербезопасности и могут использоваться как в коммерческих, так и в исследовательских проектах.