Ray (Разпределена изчислителна рамка)

Ray е разпределена изчислителна рамка с отворен код, първоначално създадена в RISELab в UC Berkeley и поддържана от Anyscale, предназначена за лесно мащабиране на AI и Python приложения от единичен лаптоп до хиляди възли в облака.

Ключови компоненти

  • Ray Core: Предоставя примитиви за разпределени задачи (Tasks) и състояние (Actors) за изграждане на гъвкави паралелни системи.
  • Оркестрация на агенти: Позволява независима от моделните доставчици координация на хиляди паралелни автономни агенти.
  • Интеграция с ML библиотеки: Вградена съвместимост с PyTorch, TensorFlow, vLLM и DeepSpeed.

Споменавания в статии