How to combine multiple local models into one api

Ezen az oldalon azt kell bemutatni, hogyan lehet provider group-ot létrehozni és ezáltal különböző szervereken futó AI szolgáltatásokat egy API-n keresztül kiszolgálni. Az llm.ozeki.hu és a code.ozeki.hu gépekhez kell API kapcsolatot létrehozi, majd egy provider group-ot, majd rá kell routolni az OpenWebUI user-t és a végén bemutatni, hogy az OpenWebUI felajánlja a két szolgáltatást. Ezután mind a két szolgáltatástól (külön chat-ben) open webuiban meg kell kérdezni, hogy "Which moeel are you?"

More information