Ray (Разпределена изчислителна рамка)
Ray е разпределена изчислителна рамка с отворен код, първоначално създадена в RISELab в UC Berkeley и поддържана от Anyscale, предназначена за лесно мащабиране на AI и Python приложения от единичен лаптоп до хиляди възли в облака.
Ключови компоненти
- Ray Core: Предоставя примитиви за разпределени задачи (Tasks) и състояние (Actors) за изграждане на гъвкави паралелни системи.
- Оркестрация на агенти: Позволява независима от моделните доставчици координация на хиляди паралелни автономни агенти.
- Интеграция с ML библиотеки: Вградена съвместимост с PyTorch, TensorFlow, vLLM и DeepSpeed.