퍼플렉시티AI 는 ChatGPT 형 질의응답으로 online 검색엔진을 대체하기 위해 만들어진 서비스로 구글 전 직원들이 주요 창업멤버로 있는 스타트업입니다. 얼마전 퍼플렉시티AI 에서 online LLM 이라고 명명한 ChatGPT like API 를 런칭했어요. 물론 그와 함께 자체 UI 웹앱을 제공하고 있는데 적용되었구요. 이를 위해 자체적으로 오픈소스 LLM 모델인 Mistral AI 모델과 Llama2 를 파인튜닝해서 사용했다고 하네요. 거기에 RAG로 실시간 정보를 붙여서 결과를 내놓는 것 같아요. 이를 구현하는 게 일반적인 기업이나 스타트업에게 어려운 점들이 많은데 이들이 제공하는 API 를 이용하면 별도로 구현하지 않고도 실시간 검색 결과를 활용한 챗봇을 만들 수 있을 것 같습니다. 상당히 좋은 API 같아 써보고 싶네요 ㅎㅎ 잠깐 제공되는 웹 서비스로 online LLM 을 사용해본바 일단 그들이 이야기한 것처럼 '검색엔진' 을 대체한다는 목표에 걸맞게 검색결과 중 스니펫은 정말 검색 서비스 처럼 빨리 나옵니다. (검색 결과 스니펫 4개 정도 제공 + 결과 문장 생성 방식) 잠깐 써본 느낌만으로도 구글 검색을 대체할 수 있다는 목표가 꽤 현실적으로 느껴졌어요. 그런데, 이건 꼭 Perplexity AI 문제만은 아닌데 생성결과 자체는 그닥 검색 스니펫보다 더 나은 결과를 주지 않는 경우가 아직은 많은 느낌.