Backend mühəndisləri üçün AI Engineering

LLM əsaslı funksiyaları Java/Spring backend-ə etibarlı, ölçülən və təhlükəsiz şəkildə inteqrasiya etmək.

Bu proqram planlaşdırılır və hələ cədvələ salınmayıb. Tarix, qiymət və qrup elan olunmayıb. Maraq bildirsəniz, proqram planlaşdırıldıqda və ya fərdi format müzakirə olunduqda sizinlə əlaqə saxlayarıq.

Maraq bildir Uyğunluğu AI ilə yoxla

Məqsəd

Proqram backend mühəndisinə AI funksiyalarını adi servis kimi mühəndisliklə qurmağı öyrədir: LLM API inteqrasiyası, schema ilə yoxlanılan tool calling, RAG, qiymətləndirmə və reqressiya testləri, prompt injection müdafiəsi, məxfilik, xərc və gecikmə büdcəsi. Fokus model tədqiqatı deyil, etibarlı backend inteqrasiyasıdır.

Kimin üçündür

AI funksiyasını məhsula əlavə etməli olan middle və senior Java/Spring backend mühəndisləri
LLM prototipini etibarlı servisə çevirmək istəyən tech lead-lər
RAG və tool calling arxitekturasını başa düşmək istəyən arxitektorlar
AI funksiyasının keyfiyyətini və təhlükəsizliyini ölçmək lazım olan komandalar

Kimin üçün deyil

Model təlimi, fine-tuning və ML tədqiqatı öyrənmək istəyənlər
Backend əsaslarını (HTTP API, SQL, Spring Boot) hələ öyrənənlər
Hazır AI məhsulu istifadə etmək istəyənlər: proqram mühəndislik inteqrasiyasına yönəlib

İlkin tələblər

Java və Spring Boot ilə REST API yazmaq təcrübəsi
SQL və verilənlər bazası ilə iş bacarığı
JSON və JSON Schema əsasları
Test yazmaq və CI-də işləmək vərdişi
Bir LLM API ilə sadə sorğu göndərmək (arzuolunan)

Proqramın sonunda nə bacaracaqsınız

LLM API-ni timeout, retry və xəta idarəsi ilə Spring servisinə inteqrasiya etmək
Tool calling-i schema yoxlaması ilə qurmaq və modelin qaytardığı arqumentlərə etibar etməmək
RAG boru xəttini qurmaq: chunking, embedding, retrieval və grounding
AI funksiyası üçün qiymətləndirmə dəsti və reqressiya testləri yazmaq
Prompt injection və data sızması risklərini guardrail-lərlə azaltmaq
AI zənglərinin xərc, gecikmə və keyfiyyətini izləmək və büdcə təyin etmək
Şəxsi məlumatların modelə göndərilməsini məhdudlaşdırmaq və audit izi saxlamaq

Heç bir təhsil proqramı işə qəbula və ya vəzifə yüksəlişinə zəmanət verə bilməz.

Tədris planı

01
LLM API inteqrasiyası
Model API-sini digər xarici asılılıq kimi etibarlı şəkildə çağırmaq.
- Sorğu/cavab strukturu və token anlayışı
- Timeout, retry, rate limit və circuit breaker
- Streaming cavab və backpressure
- Provayder dəyişimi üçün abstraksiya
- Qeyri-deterministik cavabların idarəsi
Praktik laboratoriya: Spring Boot servisində LLM klient adapteri: retry, timeout və xəta xəritəsi ilə.
02
Tool/function calling və schema yoxlaması
Modelin backend əməliyyatlarını çağırmasına icazə verərkən nəzarəti saxlamaq.
- Tool təsviri və JSON Schema
- Model arqumentlərinin yoxlanması və rədd edilməsi
- İcazə: modelin deyil, istifadəçinin hüququ
- Yan təsirli əməliyyatlar və təsdiq addımı
- Çoxaddımlı tool dövrü və limitlər
Praktik laboratoriya: Sifariş statusu və geri qaytarma tool-ları ilə sadə agent: schema yoxlaması və icazə yoxlaması ilə.
03
Retrieval-augmented generation
Cavabı şirkətin öz məlumatlarına bağlamaq və mənbəni göstərmək.
- Chunking strategiyaları və ölçü kompromisi
- Embedding və vektor axtarışı
- Hibrid axtarış və yenidən sıralama
- Grounding və mənbə istinadı
- Cavab verməməyi bilmək: kifayət qədər kontekst yoxdursa
Praktik laboratoriya: Sənəd toplusu üzərində RAG: PostgreSQL pgvector ilə indeksləmə, retrieval və mənbə göstərən cavab.
04
Qiymətləndirmə və reqressiya testləri
AI funksiyasının keyfiyyətini hiss ilə yox, təkrarlana bilən yoxlama ilə ölçmək.
- Qızıl məlumat dəsti və ssenari seçimi
- Retrieval və generasiya keyfiyyətinin ayrıca ölçülməsi
- Qaydalarla yoxlama və model-hakim yanaşmasının məhdudiyyətləri
- CI-də reqressiya yoxlaması
- Prompt və model dəyişikliyinin təsiri
Praktik laboratoriya: RAG laboratoriyası üçün 30 nümunəlik qiymətləndirmə dəsti və CI-də işləyən reqressiya testi.
05
Guardrail və prompt injection müdafiəsi
Etibarsız mətnin sistemin davranışını dəyişməsinin qarşısını almaq.
- Birbaşa və dolayı prompt injection
- Girişin və çıxışın yoxlanması
- Ən az imtiyaz prinsipi tool-larda
- Çıxışın sanitarlaşdırılması və render riski
- OWASP LLM risk siyahısı ilə yoxlama
Praktik laboratoriya: RAG laboratoriyasına zərərli sənəd əlavə edib hücum ssenarisini yenidən yaratmaq və müdafiəni sınamaq.
06
Məxfilik və data idarəsi
Modelə nə göndərildiyini və nəyin saxlandığını nəzarətdə saxlamaq.
- Şəxsi məlumatın maskalanması
- Saxlama müddəti və log siyasəti
- Provayder şərtləri və data yerləşməsi sualları
- Audit izi və izlənilə bilənlik
- İstifadəçi razılığı və hüquqi məsləhətin yeri
Praktik laboratoriya: Giriş məlumatından şəxsi sahələri maskalayan filtr və audit log dizaynı.
07
Xərc və gecikmə büdcəsi
AI funksiyasını istehsalda davamlı edən məhdudiyyətləri müəyyən etmək.
- Token xərcinin hesablanması
- Cache: dəqiq və semantik
- Daha kiçik modelə yönləndirmə və fallback
- Asinxron emal və növbə
- İstifadəçi başına limit
Praktik laboratoriya: Xərc və gecikmə modeli: fərziyyələrlə cədvəl və limit mexanizmi.
08
AI funksiyalarının müşahidəsi
Nəyin, niyə və nə qədər baha cavab verdiyini görmək.
- Trace: sorğu, retrieval, model zənqi, tool
- Metrika: gecikmə, xəta, token, rədd nisbəti
- Prompt və cavab loglarının məxfilik tarazlığı
- Keyfiyyət siqnalları və istifadəçi rəyi
- Xəbərdarlıq və SLO anlayışı
Praktik laboratoriya: OpenTelemetry trace-ləri və Grafana paneli ilə RAG servisinin müşahidəsi.

Praktik tapşırıqlar

LLM klient adapteri və testləri
Schema yoxlaması ilə tool calling servisi
RAG boru xətti və mənbə istinadlı cavab
Qiymətləndirmə dəsti və CI reqressiya yoxlaması
Prompt injection hücum və müdafiə hesabatı

Portfolio nəticələri

Spring Boot əsaslı RAG servisinin nümunə layihəsi
Qiymətləndirmə dəsti və CI yoxlaması
Təhlükə modeli və guardrail sənədi
Xərc və gecikmə büdcəsi cədvəli
Müşahidə paneli konfiqurasiyası

Necə qiymətləndirilir

Layihə review-u: kod, test və qiymətləndirmə dəsti üzrə geri bildirim
Təhlükəsizlik və məxfilik qərarlarının müdafiəsi
Xərc və keyfiyyət kompromislərinin yazılı təhlili (tövsiyələr, sertifikat deyil)

Alətlər və texnologiyalar

Java 21
Spring Boot 3
Spring AI (nümunə kimi)
PostgreSQL / pgvector
JSON Schema
OpenTelemetry
Grafana / Prometheus
Testcontainers
JUnit 5

Səviyyə ardıcıllığı

Əvvəl: Middle Java developer səviyyəsi: Spring Boot, SQL və test təcrübəsi.
Sonra: Senior backend və ya sistem dizaynı proqramları; AI funksiyalarının arxitekturası.
Müddət və format: Müddət və format hələ müəyyən edilməyib; proqram planlaşdırılır və təqvimə salınmayıb.

Tez-tez verilən suallar

Bu proqram hazırda mövcuddur?

Xeyr. Proqram planlaşdırılır və cədvələ salınmayıb. Tarix və qiymət elan edilməyib. Maraq bildirə bilərsiniz.

Maşın öyrənməsi biliyi tələb olunurmu?

Yox. Proqram modelin təlimi yox, backend inteqrasiyası, test və təhlükəsizlik haqqındadır.

Konkret model provayderinə bağlıdır?

Xeyr. Yanaşma provayderdən asılı deyil. Kod nümunələri bir provayderlə göstərilə bilər, lakin adapter qatı dəyişimi nəzərdə tutur.

AI keyfiyyəti təmin edilirmi?

Xeyr. Heç bir proqram AI cavablarının düzgünlüyünü təmin edə bilməz. Proqram keyfiyyəti ölçmək və riski azaltmaq üsullarını öyrədir.

Backend mühəndisləri üçün AI Engineering

Kimin üçündür

Kimin üçün deyil

İlkin tələblər

Proqramın sonunda nə bacaracaqsınız

Tədris planı

LLM API inteqrasiyası

Tool/function calling və schema yoxlaması

Retrieval-augmented generation

Qiymətləndirmə və reqressiya testləri

Guardrail və prompt injection müdafiəsi

Məxfilik və data idarəsi

Xərc və gecikmə büdcəsi

AI funksiyalarının müşahidəsi