애플이야 말로 소형언어모델을 가장 잘 활용할 수 있는 곳이기는 하겠지만..
그래서인지 정말 소형 사이즈 4개 (0.27B, 0.45B, 1.1B, 3B) 언어모델을 준비하고 있군요.
아직 모델 자체가 공개된 것은 아니고 논문이지만서도 벤치마크 수치만 보면,,
별로 좋은지는 (당연히 작아서 어쩔 수 없나? 라고 보기에도.. ) 모르겠는데요..
왠지 이 수치를 보니 아이폰에 탑재될 edge AI 에서 이 모델이 대화형 인터페이스에서 직접 호출되는 용도라기보다는 폰 내부 적으로 필요한 ai 절차적인 자동화가 필요 할때 쓰는 그런 용도가 아닐까.. 막연히 추측해봅니다.
애플이야 말로 소형언어모델을 가장 잘 활용할 수 있는 곳이기는 하겠지만.. 그래서인지 정말 소형 사이즈 4개 (0.27B, 0.45B, 1.1B, 3B) 언어모델을 준비하고 있군요. 아직 모델 자체가 공개된 것은 아니고 논문이지만서도 벤치마크 수치만 보면,, 별로 좋은지는 (당연히 작아서 어쩔 수 없나? 라고 보기에도.. ) 모르겠는데요.. 왠지 이 수치를 보니 아이폰에 탑재될 edge AI 에서 이 모델이 대화형 인터페이스에서 직접 호출되는 용도라기보다는 폰 내부 적으로 필요한 ai 절차적인 자동화가 필요 할때 쓰는 그런 용도가 아닐까.. 막연히 추측해봅니다.
애플, 아이폰에 탑재할 오픈 소스 sLM '오픈ELM' 출시
애플이 초경량급 오픈 소스 소형언어모델(sLM)을 출시했다. 아이폰이나 맥북 등에서 인터넷 연결 없이도 완전히 실행되도록 '온디바이스 AI'에 최적화돼 있는 것이 특징이다.벤처비트는 24일(현지시간) 애플이 클라우드 서버에 연결하지 않고도 장치에…
모델도 이미 공개 되었네요~ 허깅페이스에 https://huggingface.co/apple/OpenELM