앤트로픽이 최근 "인공지능은 어떤 성격을 가져야 할까요?" 라는 주제의 유튜브 영상을 공유 했어요! 👏👏👏 앤트로픽 클로드3가 처음 공개되었을 때, 많은 사용자들이 OpenAI 보다 친근하고 인간적이라고 느껴진다는 후기가 많았어요. 감정이나 윤리를 보다 깊게 고민하는 느낌을 주기 때문에 특히 글쓰기와 같은 창의적인 부분에서 클로드가 뛰어나다는 의견도 많았구요. 그만큼 앤트로픽이 OpenAI 보다 "AI 의 성격"에 대한 고민을 더 많이 했다는 느낌을 받았는데 이에 대해 정확히 이러한 캐릭터를 형성하는 것을 담당한 연구원의 대화를 통해 많은 것을 이해할 수 있었습니다. 이 대화에서 답변하는 분은 앤트로픽 정렬 파인튜닝팀 아만다 (Amanda Askell) 입니다. 흥미롭게도 엔지니어나 과학자가 아닌 철학자 이시고 NYU 에서 철학 박사 학위 후 OpenAI 입사, 앤트로픽 이직한 분 입니다. 처음에는 왜 철학자 분이 파인튜닝 팀에서 근무하실까 싶었는데, 이 대화를 들어보고 완전 납득되었어요 😁 참 영어 캐릭터 (Character)와 퍼스널리티 (Personality) 가 한글로 둘다 성격이라 무슨 차이인가 했는데 캐릭터는 철학적인 관점이 조금 더 강조된 신념에 가깝고, 퍼스널리티는 호감가는 말과 행동과 같은 심리학에서 조금 더 자주 언급이 되는 한 사람의 개성에 가깝다고 볼 수 있어요. 물론 이 두가지는 서로 완전히 따로 볼수는 없는 것 이기도 합니다. 아만다는 인공지능 캐릭터가 정치, 가치에 대해 중도적인 견해를 견지하거나, 질문자의 견해를 더 받아들이는 형태로 답변하는 것을 좋지 않다고 생각했어요. 최대한 주관적인 견해가 없는 것처럼 학습하는 것 역시 앤트로픽이 원하지는 않았구요. 그러므로 캐릭터는 어떤식으로든 형성될 수 밖에 없다고도 했어요. 기본적으로 언어모델은… 더보기