Backend mühəndisləri üçün AI Engineering: Modullar
Proqram backend mühəndisinə AI funksiyalarını adi servis kimi mühəndisliklə qurmağı öyrədir: LLM API inteqrasiyası, schema ilə yoxlanılan tool calling, RAG, qiymətləndirmə və reqressiya testləri, prompt injection müdafiəsi, məxfilik, xərc və gecikmə büdcəsi. Fokus model tədqiqatı deyil, etibarlı backend inteqrasiyasıdır.
01
LLM API inteqrasiyası
Model API-sini digər xarici asılılıq kimi etibarlı şəkildə çağırmaq.
- Sorğu/cavab strukturu və token anlayışı
- Timeout, retry, rate limit və circuit breaker
- Streaming cavab və backpressure
- Provayder dəyişimi üçün abstraksiya
- Qeyri-deterministik cavabların idarəsi
Laboratoriya: Spring Boot servisində LLM klient adapteri: retry, timeout və xəta xəritəsi ilə.
02
Tool/function calling və schema yoxlaması
Modelin backend əməliyyatlarını çağırmasına icazə verərkən nəzarəti saxlamaq.
- Tool təsviri və JSON Schema
- Model arqumentlərinin yoxlanması və rədd edilməsi
- İcazə: modelin deyil, istifadəçinin hüququ
- Yan təsirli əməliyyatlar və təsdiq addımı
- Çoxaddımlı tool dövrü və limitlər
Laboratoriya: Sifariş statusu və geri qaytarma tool-ları ilə sadə agent: schema yoxlaması və icazə yoxlaması ilə.
03
Retrieval-augmented generation
Cavabı şirkətin öz məlumatlarına bağlamaq və mənbəni göstərmək.
- Chunking strategiyaları və ölçü kompromisi
- Embedding və vektor axtarışı
- Hibrid axtarış və yenidən sıralama
- Grounding və mənbə istinadı
- Cavab verməməyi bilmək: kifayət qədər kontekst yoxdursa
Laboratoriya: Sənəd toplusu üzərində RAG: PostgreSQL pgvector ilə indeksləmə, retrieval və mənbə göstərən cavab.
04
Qiymətləndirmə və reqressiya testləri
AI funksiyasının keyfiyyətini hiss ilə yox, təkrarlana bilən yoxlama ilə ölçmək.
- Qızıl məlumat dəsti və ssenari seçimi
- Retrieval və generasiya keyfiyyətinin ayrıca ölçülməsi
- Qaydalarla yoxlama və model-hakim yanaşmasının məhdudiyyətləri
- CI-də reqressiya yoxlaması
- Prompt və model dəyişikliyinin təsiri
Laboratoriya: RAG laboratoriyası üçün 30 nümunəlik qiymətləndirmə dəsti və CI-də işləyən reqressiya testi.
05
Guardrail və prompt injection müdafiəsi
Etibarsız mətnin sistemin davranışını dəyişməsinin qarşısını almaq.
- Birbaşa və dolayı prompt injection
- Girişin və çıxışın yoxlanması
- Ən az imtiyaz prinsipi tool-larda
- Çıxışın sanitarlaşdırılması və render riski
- OWASP LLM risk siyahısı ilə yoxlama
Laboratoriya: RAG laboratoriyasına zərərli sənəd əlavə edib hücum ssenarisini yenidən yaratmaq və müdafiəni sınamaq.
06
Məxfilik və data idarəsi
Modelə nə göndərildiyini və nəyin saxlandığını nəzarətdə saxlamaq.
- Şəxsi məlumatın maskalanması
- Saxlama müddəti və log siyasəti
- Provayder şərtləri və data yerləşməsi sualları
- Audit izi və izlənilə bilənlik
- İstifadəçi razılığı və hüquqi məsləhətin yeri
Laboratoriya: Giriş məlumatından şəxsi sahələri maskalayan filtr və audit log dizaynı.
07
Xərc və gecikmə büdcəsi
AI funksiyasını istehsalda davamlı edən məhdudiyyətləri müəyyən etmək.
- Token xərcinin hesablanması
- Cache: dəqiq və semantik
- Daha kiçik modelə yönləndirmə və fallback
- Asinxron emal və növbə
- İstifadəçi başına limit
Laboratoriya: Xərc və gecikmə modeli: fərziyyələrlə cədvəl və limit mexanizmi.
08
AI funksiyalarının müşahidəsi
Nəyin, niyə və nə qədər baha cavab verdiyini görmək.
- Trace: sorğu, retrieval, model zənqi, tool
- Metrika: gecikmə, xəta, token, rədd nisbəti
- Prompt və cavab loglarının məxfilik tarazlığı
- Keyfiyyət siqnalları və istifadəçi rəyi
- Xəbərdarlıq və SLO anlayışı
Laboratoriya: OpenTelemetry trace-ləri və Grafana paneli ilə RAG servisinin müşahidəsi.