Почему AI упирается не только в GPU, но и в данные
В AI-инфраструктуре узким местом всё чаще становятся не GPU, а скорость подачи данных. MinIO и NVIDIA STX показывают, почему object storage, DPU и новые слои памяти становятся частью AI-фабрик.
22
kabooma
Новые опубликованные публичные топики, которые только начинают собирать участников.
Читайте всё сразу или соберите ленту из активных групп.
В AI-инфраструктуре узким местом всё чаще становятся не GPU, а скорость подачи данных. MinIO и NVIDIA STX показывают, почему object storage, DPU и новые слои памяти становятся частью AI-фабрик.
Meta рассказала о развитии собственной линейки AI-чипов MTIA. Компания готовит поколения MTIA 300, 400, 450 и 500, делая упор на GenAI inference, модульную архитектуру и совместимость с PyTorch.
Meta начала внедрять инструмент, который собирает данные с рабочих ноутбуков сотрудников для обучения ИИ. Часть работников считает это нарушением приватности и требует остановить программу.
Пока это весь поток.