일리야 수츠케버의 MIT 테크놀로지 리뷰. 2023.10.30 기사 입니다. 샘 알트만 해임 사태의 주범 (왠지 요즘 분위기로는 이렇게 불릴 정도인?;) 일리야 수츠케버가 최근 인터뷰에서 이미 ChatGPT 의 다음 세대 개발보다는 인공초기능 (가상의 미래기술로 인간을 뛰어넘는 수준)이 인간의 통제를 벗어나지 않도록 하는게 현재 최 우선순위라고 밝혔었네요. 이부분이 현재 OpenAI 샘알트먼과 일리야 수츠케버 충돌의 원인이었던 것으로 많이 회자되고 있구요. 그래서 현재 OpenAI 내부에서는 AGI (인공일반지능) 수준의 기술이 발생(의도적인 개발이라기 보다 발견?) 한 게 아닌가 라는 추측들이 많습니다. 본 기사에는 일리야 수츠케버의 흥미로운 코멘트들이 너무 많은데요. “세상이 깜짝 놀랄만한 엄청난 일이 될 것이다. 이전과는 완전히 다른 미래가 펼쳐지는 분기점이 찾아올 것이다” “신경망과 뇌가 유사하다는 믿음을 받아들인다면, 수많은 흥미로운 생각들이 뒤따르게 된다. 그중에서 가장 중요한 생각은 우리에게 매우 큰 인공 신경망이 있다면 그 인공 신경망이 수많은 일을 해낼 수 있다는 것이다. 인간의 뇌가 어떤 일을 할 수 있다면 뇌와 유사한 거대한 인공 신경망도 그와 비슷한 일을 할 수 있을 것이기 때문이다” “나는 지금 이 언어모델들이 볼츠만 두뇌와 비슷하다는 느낌이 든다”며 “뇌에 말을 걸고 약간 대화를 나누다가 대화를 마치면 뇌가 ‘팟’하고 사라지는 것이다” <- 딥러닝을 그래도 이론부터 공부하고 구현해보면서 이런 식으로 표현하는 건 공학스럽지 않다는 생각을 했는데요. 딥러닝을 만들어낸 그 힌튼 교수님과 같이 연구한 수석 제자 일리야 수츠케버가 이런식으로 LLM을 표현할 줄이야..... “기본적으로 기존 정렬 방식은 AI 시스템이 수행하는 작업을 인간이 안정적으로 평가할 수 있다고 가정하기 때문에 인간보다 더 똑똑한 모델에는 적용할 수 없다” AI가 인간의 지능을 넘어서면 그 다음은? “한 가지 가능성은 많은 사람들이 AI의 일부가 되기를 선택할 수도 있다는 것” 무슨 소리냐고 물었지만 수츠케버는 이미 인터뷰 자리를 떠날 준비를 하고 있었다. 필자는 수츠케버에게 그런 시도를 할 생각이 있느냐고, 그런 일을 시도하는 최초의 사람이 될 수도 있느냐고 물었다. 그는 “최초의 사람이 될지는 잘 모르겠지만, 염두에 두고 있다. 내 답은 ‘아마도’이다”라고 답했다. ... 이 무슨 SF영화 같은 인터뷰지...