Ringkasan
Gateway kompatibel OpenAI yang meneruskan permintaan ke provider yang tersedia, dengan fallback otomatis, kompresi, dan cache.
Masalah
Saat satu provider bermasalah atau mencapai batas request, aplikasi ikut berhenti. Pindah provider biasanya juga berarti mengubah konfigurasi dan client.
Yang dibuat
DikaRoute menyatukan beberapa provider di balik satu endpoint kompatibel OpenAI. Request diarahkan otomatis ke provider lain saat provider aktif gagal.
- Satu endpoint kompatibel OpenAI
- Routing multi-provider
- Fallback otomatis saat provider gagal atau kena rate limit
- Kompresi request
- Cache respons
Ketersediaan dan batasan
Paket publik tersedia: dikaroute di npm. Dengan memasangnya, implementasinya bisa dijalankan sendiri. Repositori sumber tidak ditautkan, jadi bagian dalamnya belum bisa dibaca di sini.
Catatan: Paket yang diterbitkan bisa dipasang, tetapi repositori GitHub yang dirujuk metadata-nya sudah tidak publik, jadi halaman ini satu-satunya tempat desainnya dituliskan.