AWS ограничивает внутреннее использование CPU из-за роста нагрузки от AI-агентов

Фото: Tom's Hardware
Краткий ответ
AWS ограничивает внутреннее использование CPU из-за дефицита ресурсов, вызванного ростом нагрузки от AI-агентов.
Amazon Web Services (AWS) ужесточает контроль над внутренним использованием вычислительных ресурсов. В мае компания провела встречу с инженерами, потребовав сократить «расточительное» потребление CPU на EC2-инстансах. Цель — обеспечить достаточные мощности для клиентов на фоне резкого роста спроса на процессоры, вызванного развитием AI-технологий.
Ранее инженеры AWS могли быстро разворачивать виртуальные машины для разработки, но теперь им приходится ждать доступа к ресурсам днями. Причиной изменений стали AI-агенты, которые требуют значительно больше вычислительных мощностей, чем традиционные рабочие нагрузки. В частности, один из агентов для кодинга превысил бюджет на 860%, потратив 146,5 млн ₽ на токены.
Спрос на CPU вырос настолько, что соотношение GPU к CPU в дата-центрах приближается к 1:1. Компании вроде Intel и AMD активно развивают линейки процессоров для AI-инфраструктуры. Например, AMD недавно представила Zen 6 «Venice» для серверов, а Nvidia продвигает свой CPU Vera на базе архитектуры Arm.
Несмотря на дефицит, проблемы в основном затрагивают спотовые инстансы, тогда как контрактные мощности остаются доступными. AWS продолжает использовать процессоры AMD, Intel и собственные чипы Graviton5, чтобы удовлетворить растущие потребности рынка.
Частые вопросы
- Почему AWS ограничивает использование CPU своими инженерами?
- AWS столкнулась с дефицитом CPU из-за роста нагрузки от AI-агентов и высокого спроса на вычислительные мощности со стороны клиентов. Компания вынуждена перераспределять ресурсы, чтобы обеспечить стабильную работу сервисов.
- Какие процессоры использует AWS в своих EC2-инстансах?
- AWS применяет процессоры AMD, Intel и собственные чипы Graviton5 на базе архитектуры Arm. Graviton5 — самый мощный CPU компании на данный момент.
- Как AI-агенты влияют на спрос на CPU?
- AI-агенты требуют сложной оркестровки вычислений, включая вызовы инструментов на CPU и работу с GPU. Это привело к росту спроса на процессоры, так как традиционные соотношения GPU к CPU (4:1 или 8:1) перестали быть актуальными.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml