.gif&blockId=11b00c82-b138-8050-a58b-dcbceda2ef8f)
빌드하는 것들
1.
확장 가능한 백엔드
봇 프레임워크 및 FastAPI로 개발된 백엔드는 AI 로직을 다음과 같은 여러 커뮤니케이션 채널에 연결하는 엔진 역할을 합니다:
•
웹 채팅
•
Microsoft Teams
•
SMS
•
이메일
•
Slack 등!
2.
사용자 친화적인 프런트엔드
결합된 웹 애플리케이션을 구축하세요:
•
데이터를 지능적으로 쿼리할 수 있는 검색 엔진.
•
원활한 대화 환경을 위한 봇 UI.
3.
RAG 기반 멀티 에이전트 아키텍처
•
검색 증강 생성(RAG)을 활용하여 상담원이 정확한 정보를 검색하고 정확한 응답을 생성할 수 있도록 하세요.
아키텍처
Flow
1.
사용자가 질문을 함.
2.
백엔드 앱에서 에이전트는 사용자 입력을 기반으로 사용할 소스를 결정.
3.
사용 가능한 소스 유형
•
Azure SQL Database - 미국 내 COVID 관련 통계를 포함.
•
API 엔드포인트 - 온라인 통화 중개업체의 RESTful OpenAPI 3.0 API.
•
Azure Bing 검색 API - 공개 웹사이트에서의 QnA와 같은 시나리오를 허용하는 인터넷 액세스를 제공.
•
Azure AI Search - Blob Storage의 AI 강화 문서 포함:
◦
TV 쇼 FRIENDS의 모든 에피소드 대화의 대본
◦
90,000개의 코로나 출판물 초록
◦
4개의 긴 PDF 책
•
CSV 표 형식 파일 - 미국 내 COVID 관련 통계를 포함.
4.
에이전트는 올바른 소스에서 결과를 검색하고 답을 만들어냄.
5.
에이전트 상태는 추가 분석을 위해 CosmosDB에 영구 메모리로 저장된다.
6.
답변은 사용자에게 전달된다.
Feature
•
100% 파이썬.
•
Azure Cognitive Services를 사용하여 구조화되지 않은 문서를 인덱싱하고 보강한다: 이미지에 대한 OCR, 청킹 및 자동 벡터화.
•
Azure AI Search의 하이브리드 검색 기능을 사용하여 최상의 의미적 답변을 제공한다(텍스트 및 벡터 검색 결합).
•
LangChain을 래퍼로 사용하여 Azure OpenAI, 벡터 저장소와 상호 작용하고, 프롬프트를 구성하고, 에이전트를 만든다.
•
LangGraph를 사용한 다중 에이전트 아키텍처.
•
다국어(모든 언어를 수집, 색인화하고 이해)
•
다중 인덱스 -> 다중 검색 인덱스
•
멀티모달 입력 및 출력(텍스트 및 오디오)
•
CSV 파일과 SQL 플레이버 데이터베이스를 사용한 표 형식 데이터 Q&A
•
Azure AI Document Intelligence SDK(이전 Form Recognizer)를 사용하여 복잡하고 대용량 PDF 문서를 구문 분석합니다.
•
Bing 검색 API를 사용하여 공개 웹사이트에서 인터넷 검색과 Q&A를 제공한다.
•
자연어 질문을 API 호출로 변환하여 API 데이터 소스에 연결한다.
•
CosmosDB를 영구 메모리로 사용하여 사용자 대화를 저장한다.
•
Streamlit을 사용하여 Python으로 FE 웹 애플리케이션을 빌드한다.
•
•
스트리밍 기능을 갖춘 대체 백엔드 API를 배포하기 위해 FastAPI도 사용한다.
POC/Accelerator 실행 단계
•
Azure 구독이 되어 있어야 함.
•
Azure OpenAI 서비스가 이미 만들어져있어야 함.
필요한 모델 배포
•
Azure OpenAI Studio 에서 다음 모델을 배포합니다.
이전 버전은 작동하지 않습니다.
◦
gpt-4o
◦
gpt-4o-mini
◦
text-embedding-3-large
◦
tts
◦
whisper
리소스 그룹 만들기
•
이 엑셀러레이터의 모든 자료를 보관할 리소스 그룹(RG)을 생성.
Azure OpenAI 서비스는 다른 RG 또는 다른 구독에 존재할 수 있다.
Azure 인프라 배포
•
필요한 모든 Azure 인프라(예: Azure AI Search, Cognitive Services 등)를 배포
배포 바로가기 : portal.azure.com
컴퓨팅 생성 및 파일 추가
•
ml studio에서 notebooks탭에서 가능
컴퓨팅 만들기
•
