Провайдер — это поставщик моделей: внешний API или собственный inference-сервер. В кабинете вы добавляете провайдера, указываете ключ доступа и список доступных моделей.
Привяжите роли к провайдерам: например, роли разработчика дайте сильную модель, а рутинные операции отправьте на дешёвую и быструю. Одну и ту же роль можно переключать между провайдерами без переустановки станции.
Практика простая: дорогие модели думают — планируют, проверяют и принимают решения; дешёвые исполняют — переписывают текст, сортируют данные, делают черновую работу. Так бюджет расходуется предсказуемо.