AI Proxy
AI Proxy to modularna aplikacja oparta na platformie .NET 8, która zapewnia ujednolicony dostęp do funkcjonalności AI oferowanych przez wielu dostawców. Pełni rolę warstwy pośredniczącej między WEBCON a zewnętrznymi usługami AI.
Architektura
AI Proxy odpowiada za obsługę komunikacji z usługami AI oraz przekazywanie żądań do odpowiednich dostawców i modeli.
- WEBCON wysyła żądanie do AI Proxy
- AI Proxy:
- weryfikuje poprawność żądania,
- wybiera dostawcę/model zgodnie z konfiguracją,
- uwierzytelnia się przy użyciu kluczy API,
- przekazuje żądanie do wybranego dostawcy AI.
- Odpowiedź jest zwracana przez AI Proxy do WEBCON.
Obsługiwani dostawcy
- Google Gemini - modele Google AI udostępniane przez Vertex AI,
- Azure AI Foundry - modele Azure OpenAI oraz inne modele dostępne w ekosystemie Azure,
- OpenAI - modele GPT, takie jak GPT-4o i GPT-4o-mini.
Warianty wdrożenia
AI Proxy (Cloud)
Wersja hostowana w infrastrukturze WEBCON w środowisku Azure:
- brak konieczności konfigurowania infrastruktury,
- automatyczne aktualizacje,
- zarządzane po stronie WEBCON.
AI Proxy Self-hosted
Wersja przeznaczona do hostowania we własnej infrastrukturze (on-premise, private cloud, Azure):
- pełna kontrola nad danymi i środowiskiem,
- możliwość dostosowania konfiguracji do własnych potrzeb,
- zgodność z wewnętrznymi politykami bezpieczeństwa,
- wsparcie dla środowisk deweloperskich.
Dokumentacja
- AI Proxy Self-hosted - przewodnik wdrożenia we własnej infrastrukturze