컴비 일상 취미

최근 오픈AI에서 일어난 샘 알트만 해임 사건과 큐스타에 대해 간단히 알아봅니다.

배경

• 샘 알트만(Sam Altman) 최근 행보는 아래와 같음
  • AGI(Artificial General Intelligence, 범용 인공 지능)에 도달할 기술 개발했다는 공식 석상 발표(11월 16일) -> OpenAI 해임(11월 17일) -> OpenAI 복귀(11월 22일)

• 알트만은 APEC CEO summit에서 "오픈 AI가 중요한 순간 중 하나를 경험했다"며 중요한 발견을 언급한 후 다음 날 해임 당함
• 11월 16일에 발표한 이 발언은 AGI에 도달할 수 있는 기술을 개발 중이라는 것으로, 이름은 큐스타(Q-Star)로 알려짐
• 오픈AI 소속 일리야 수츠케버(Ilya Sutskever) 주도로 이루어진 GPT-Zero 프로젝트에서 test-time computation이라는 기계 학습 핵심 개념을 이용해, 코드 생성팀과 수학 생성팀을 결합한 새 조직을 통해 큐스타를 개발

큐스타(Q-Star)

• 현재의 대부분 LLM은 데이터와 통계 기반으로 학습한 뒤, 단어 예측을 통해 질문에 대한 답변을 해주는 원리로, 구글의 트랜스포머(Transformer) 모델을 기반으로 함

• 이는 학습 데이터가 없는 질문에 대해서는 답변을 할 수 없다는 것이며, GPT를 사용할 때 "GPT는 ~ 까지의 데이터만 학습되어 있습니다." 라는 점을 강조하는 이유임
• 또한 구글이 이 분야의 강자로 알려진 이유는 전 세계의 검색 시장을 장악하고 있으며, 사용자들이 올리는 모든 데이터는 학습 데이터로 활용할 수 있기 때문
  • 물론 이 때 모든 데이터들이 양질의 데이터는 아니기 때문에 양질의 데이터를 거르는 작업은 필수
• 이러한 특징은 수학 문제에도 동일하게 적용되어, 기존 모델들은 학습한 범위 내의 수학 질문에 대해서만 답을 할 수 있음
• 하지만 큐스타는 학습하지 않은 새로운 수학 문제의 정답도 맞힐 수 있음
• 이는 사람처럼 보유 하고 있는 지식을 응용해 학습하지 않은 새로운 문제도 해결할 수 있는 능력(추론 능력)을 가지고 있기 때문
• 큐스타가 가지고 있는 지식으로 새로운 문제를 해결할 수 있다는 것은 AGI에 가까워졌다는 것을 의미하고, 샘 알트만은 이 사실을 최근에 발표한 것

일리야 수츠케버(Ilya Sutskever)

• 수츠케버는 이스라엘계 캐나다인 컴퓨터 과학자로 OpenAI 공동 창립자 중 한 명임

• 재밌는 것은 수츠케버는 샘 알트만 해임 사건의 주도자이며, 위에서 언급한 큐스타의 개발 핵심 멤버이자 이사임
  • 수츠케버는 쿠데타 후 나중에 자신의 행동을 후회하고 알트만 복귀를 요구한 오픈 AI 직원 편에 섰음
• 16일 공식 석상에서의 AGI에 도달할 기술에 대한 알트만의 발언 후 수츠케버 주도로 알트만 해임이 이뤄졌다는 것을 보아, 큐스타에 대해 내부적으로 갈등이 있었던 것으로 보임
  • OpenAI는 표면적으로 비영리 기업이며, 안전하고 유익한 AGI 구축을 목표로 함
    • "Creating safe AGI that benefits all of humanity"(https://openai.com/)

• 수츠케버는 MIT와의 인터뷰에서 "모든 AI 기술이 어디로 향하고 있는지에 대해 이야기하는 것이 중요하다"라는 말을 함
• OpenAI의 사명, 수츠케버의 인터뷰, 최근 사건들을 보았을 때, 큐스타의 안정성, 개발 방향성에 대한 내부 인원들의 정립 및 합의가 제대로 이뤄지지 않은 상태에서 샘 알트만이 공식 석상에서 공개를 해버렸고, 이러한 갈등으로 인해 최근 샘 알트만을 둘러싼 모든 사건들이 일어난 것으로 예상됨
• 어쨌든 샘 알트만은 오픈AI로 복귀를 했고, 앞으로 우리가 주목해서 봐야할 것은 공개될 큐스타에 대한 것임
• 기술로 인한 엄청난 사회 문화적 변화가 있을 때 우리는 "특이점이 온다" 라는 표현을 사용하는데, 최근의 기술 발전들을 보았을 때, 근 2~3년은 모르겠고 정말 2030년 정도가 되면, "특이점이 온다" 라는 표현이 현실이 될 수 있을 것으로 보임