Google Cloud опублікував довідкову архітектуру приватного з’єднання для застосувань RAG

Новини ME: повідомлення, 5 квітня (UTC+8). Нещодавно Google Cloud опублікував технічну статтю, в якій описано приватну референсну архітектуру, спеціально розроблену для генеративних застосунків ШІ з можливостями генерації із розширеним пошуком (RAG). Ця архітектура підходить для сценаріїв, де службова взаємодія систем має використовувати лише приватні IP-адреси і не може проходити через публічний інтернет. У її дизайні використано регіональну модель, що включає зовнішню мережу та середовище Google Cloud; останнє складається з маршрутизуючого проєкту, проєкту хосту Shared VPC та трьох проєктів для спеціалізованих сервісів. Архітектура інтегрує ключові сервіси, зокрема Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer і VPC Service Controls. У статті детально описано три основні шляхи трафіку: потік заповнення даних RAG, потік інференсу та потік керування й маршрутизації, а також метою є забезпечення для робочих навантажень на основі ШІ підприємств безпечної та надійної інфраструктури завдяки наскрізному приватному підключенню та багаторівневому контролю безпеки. (Джерело: InFoQ)