프로그래밍

Azure AI Studio 사용후기 - openai + embedding search

grammartutor 2024. 3. 14. 11:58
반응형

 

 

 

Azure AI studio를 사용해서 openai(chatgpt)와 embedding 검색을 동시에 구현해보았다. 

 

AI studio를 사용한 것은 처음이였는데 그냥 간단하게 문서들을 업로드하면 바로 유사어 검색까지 가능한 벡터 서치까지 바로 구현을 할 수 있다는 것이 너무 놀라웠다. 심지어 몇 분 이내로 가능함... 

 

 

내가 왜 MS주식을 일찍 팔았을까 ; - ; 

 

 

 

우선 하나씩 해보자면 AI 프로젝트를 생성하면 아래와 같이 프로젝트 플레이그라운드에 들어갈 수 있다. 

openai 플레이그라운드와 비슷하다ㅎㅎ

 

 

 

 

 

 

 

여기서 데이터추가를 하면 gpt에서 백그라운드 지식으로 사용할 수 있는 데이터를 파일 형태로 바로 업로드 할 수있다. 

 

심지어.. 이 파일들을 임베딩화 해서 벡터 서치로 바로 사용이 가능하다...!

 

 

 

 

 

 

참고로 벡터 서치 비용 

 

 

 

벡터 서치에서 사용하는 임베딩 모델 비용

 

https://learn.microsoft.com/ko-kr/azure/ai-services/openai/concepts/models#embeddings-models

 

 

 

 

 

데이터 추가 방법

 

 

 

 

 

플레이그라운드에서 데이터추가 탭을 사용해서 직접 데이터 업로드 및 검색 색인 구성이 가능하다. 

 

데이터를 업로드하고 검색 방식을 선택할 수 있다. 

 

 

 

 

 

각 검색 방식의 장점은 아래와 같다. 

 

 

하이브리드 방식을 추천하는데 semantic ranking도 성능이 꽤 좋다.  

 

 

https://learn.microsoft.com/en-us/azure/search/retrieval-augmented-generation-overview#content-retrieval-in-azure-ai-search

 

 

여기서 Index 아래에 생성된 인덱스 링크를 클릭하면 ai search 대시보드로 이동해서 검색 탐색기에서 직접 검색을 해볼 수도 있다. 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

728x90
반응형