새삼 Google 내부 메모 "우리는 해자가 없고 OpenAI도 마찬가지" (We Have No Moat, And Neither Does OpenAI) 라는 구글 내부 엔지니어 메모가 2023.05 유출되었었는데 뒤늦게 다시 읽어보고 생각공유해봅니다.
일단 구글 엔지니어의 개인 의견이고 유출된 후 구글 측 전체의 입장은 아닌 상황인데요. 그럼에도 구글 내부적으로 생성AI 에서 구글이 가진 해자가 생각보다 없다고 보고 있고 이건 OpenAI 도 당연히 마찬가지고 이는 Meta 가 공개한 LlaMA 가 아주 큰 역할을 했고 구글도 오픈소스 대열에 합류해야 한다는 의견입니다.
이제 우후죽숙 올라오는 경쟁 서비스 들이 생길 텐데, 구글은 큰 갭을 만들지 못한 상태에서 춘추전국시대를 맞이 할 수 도 있다는 걱정이 느껴지고 메모에서 여러가지로 충분히 깊이있는 경험이 느껴져서 꽤 시니어 급 의견이지 않을까 조심스레 예측해봅니다.
그리고 이 메모에서 개인적으로 특히 관심이 간 부분은 LoRA. 개인적으로도 LoRA를 활용한 LLM 튜닝 모델 생성을 이용하고 싶은 욕구가 엄청 많은데 구글 역시 LoRA 에 대해 엄청난 가능성을 보고 있군요.
새삼 Google 내부 메모 "우리는 해자가 없고 OpenAI도 마찬가지" (We Have No Moat, And Neither Does OpenAI) 라는 구글 내부 엔지니어 메모가 2023.05 유출되었었는데 뒤늦게 다시 읽어보고 생각공유해봅니다. 일단 구글 엔지니어의 개인 의견이고 유출된 후 구글 측 전체의 입장은 아닌 상황인데요. 그럼에도 구글 내부적으로 생성AI 에서 구글이 가진 해자가 생각보다 없다고 보고 있고 이건 OpenAI 도 당연히 마찬가지고 이는 Meta 가 공개한 LlaMA 가 아주 큰 역할을 했고 구글도 오픈소스 대열에 합류해야 한다는 의견입니다. 이제 우후죽숙 올라오는 경쟁 서비스 들이 생길 텐데, 구글은 큰 갭을 만들지 못한 상태에서 춘추전국시대를 맞이 할 수 도 있다는 걱정이 느껴지고 메모에서 여러가지로 충분히 깊이있는 경험이 느껴져서 꽤 시니어 급 의견이지 않을까 조심스레 예측해봅니다. 그리고 이 메모에서 개인적으로 특히 관심이 간 부분은 LoRA. 개인적으로도 LoRA를 활용한 LLM 튜닝 모델 생성을 이용하고 싶은 욕구가 엄청 많은데 구글 역시 LoRA 에 대해 엄청난 가능성을 보고 있군요.
Google "We Have No Moat, And Neither Does OpenAI"
Leaked Internal Google Document Claims Open Source AI Will Outcompete Google and OpenAI…
그나저나 이 메모가 공개적이 될 수 없는 이유는 당연히도, 구글 주가 에 엄청나게 악영향을 줄 만한 내용이므로.. 그렇지 않을까요? ㅎㅎ
혹자는 LoRA 보다 RAG 부터라고 하지만, 저는 그 두개는 그냥 별개라고 봅니다. ㅎㅎ