AI Proxy Self-hosted

AI Proxy Self-hosted umożliwia uruchomienie komponentu AI we własnej infrastrukturze klienta (on-premise, private cloud, Azure). Zapewnia pełną kontrolę nad danymi oraz środowiskiem wykonawczym.

Architektura

AI Proxy obsługuje komunikację pomiędzy WEBCON a usługami AI oraz przekazuje żądania do odpowiednich dostawców i modeli.

1. WEBCON wysyła żądanie do AI Proxy.
2. AI Proxy:
   • weryfikuje poprawność żądania,
   • wybiera dostawcę/model zgodnie z konfiguracją,
   • uwierzytelnia się przy użyciu kluczy API,
   • przekazuje żądanie do wybranego dostawcy AI.
3. Odpowiedź wraca przez AI Proxy do WEBCON.

Przypadki użycia

Wymagania związane z bezpieczeństwem i zgodnością:

• branże regulowane (finanse, ochrona zdrowia, sektor publiczny),
• zgodność z RODO, ISO 27001 oraz innymi standardami,
• spełnienie wewnętrznych polityk bezpieczeństwa danych.

Środowiska deweloperskie:

• lokalne testowanie bez konieczności korzystania z zasobów chmurowych,
• rozwój i prototypowanie rozwiązań,
• integracja z procesami CI/CD.

Środowiska produkcyjne on-premise:

• pełna kontrola nad infrastrukturą,
• przetwarzanie danych w obrębie infrastruktury klienta,
• możliwość audytowania i monitorowania środowiska.

Środowiska multi-vendor:

• elastyczny wybór dostawców AI,
• możliwość wdrożenia strategii failover pomiędzy dostawcami,
• optymalizacja kosztów wykorzystania usług AI.

Technologie

• .NET 8 - środowisko uruchomieniowe aplikacji,
• Docker - konteneryzacja,
• JSON - konfiguracja,
• HTTPS/TLS - bezpieczna komunikacja.

Obsługiwani dostawcy

• Google Vertex AI (Gemini)
• Azure AI Foundry
• OpenAI

Komponenty

• Obraz Docker: webconbps/aiproxy:1.0.0.235
• Porty: 8080 (HTTP), 8081 (HTTPS)
• Pliki konfiguracyjne:
  • aiconfiguration.json - definicje połączeń i modeli,
  • Ccrtyfikat SSL/TLS w formacie PEM lub PFX.

Następne kroki

1. Getting Started - wybierz dostawcę AI i skonfiguruj dostęp.
2. Docker Configuration - uruchom kontener Docker.
3. AI Configuration - skonfiguruj modele i strategie.