OpenAI, 샘 올트먼이 꿈꾸는 AGI

open ai

샘 알트만이 7조 달러라는 엄청난 규모의 자금 조달을 추진한다는 소식이 알려지면서 큰 화제가 되고 있습니다. 애플과 마이크로소프트 시총을 합쳐도 6조 달러정도라고 하니 얼마나 큰 금액인지 감이 오시나요? 왜 이렇게 샘 올트먼이 큰 금액의 투자를 유치하고자 하는지 알아보도록 하겠습니다.

---

1. 단기적 목표 - AI 학습을 위한 반도체 확보

OpenAI의 생성형 AI Chat GPT를 학습시키기 위해서는 반도체가 무수히 많이 필요합니다. 구글, 아마존, 메타 등 테크 기업들은 과거부터 자체 AI 개발, 자체 반도체 개발(구글의 TPU 등)에 나서고 있죠. 혹시 지금의 반도체 강자라고 하면 어떤 기업이 떠오르시나요? 바로 엔비디아죠. 하지만 엔비디아의 반도체는 게임 등 그래픽 처리 목적으로 만들어졌기 때문에 AI 학습에는 적합하지 않습니다. 결국 AI 학습에 최적화된 반도체가 대량으로 필요하기 때문에 샘 올트먼은 투자를 유치하기에 이르렀습니다.

2. 장기적 목표 - AGI 구축

OpenAI의 AGI 구축에 대한 목표

OpenAI의 사명이기도 한 AGI. AGI란 Artificial General Intelligence로 인간과 같은 수준 또는 그 이상의 지능을 가진 인공 지능을 의미합니다. AGI의 특징은 크게 세 가지로 정의할 수 있습니다.

• 일반적인 지능: 특정 분야에 국한되지 않고 다양한 분야에서 인간과 같은 수준의 지능 발휘
• 스스로 학습하는 능력: 스스로 정보를 받아들이고, 경험, 새로운 지식을 창출
• 의식: 스스로 정보를 받아들이고, 경험할 수 있다면 의식을 가지는 것도 가능하지 않겠냐는 것. 여기에 대해서는 논쟁이 있음

핵심은 두 번째 특징인 스스로 학습하는 능력이라고 생각합니다. AGI가 인간에 해를 끼칠 것이라는 두려움이 나오는 이유도 스스로 학습하는 능력때문이죠.

그래서 OpenAI의 AGI 구축 목표는 인류에게 긍정적인 영향(기후 변화, 빈곤, 질병 등 문제 해결에 도움을 주는 것 등)을 미치는 AGI의 구축이면서도, 안전한 AGI의 구축이 목표입니다. AGI에 대한 샘 올트먼이 직접 작성한 문서에 보면 AI의 Safety에 대해 작성된 것을 확인할 수 있습니다.

Importantly, we think we often have to make progress on AI safety and capabilities together. It’s a false dichotomy to talk about them separately; they are correlated in many ways. Our best safety work has come from working with our most capable models. That said, it’s important that the ratio of safety progress to capability progress increases.

그리고 개인적으로 눈에 띄는 부분은 AGI의 이익과 접근성이 공정하게 분배될 수 있도록 정책 연구를 한다는 점이었습니다. 

We want the benefits of, access to, and governance of AGI to be widely and fairly shared.

자본주의에 완전히 반대되는 부의 분배 방식인데 이게 과연 성공 가능할까요? 저는 부정적으로 생각합니다. 평범한 사람인 저로서는 도대체 어떤 시스템으로 저게 가능할지 상상이 안 가네요. 그리고 자본주의는 최소한 지금까지 인류가 개발한 가장 완벽한 자본 시스템이니까요. 그에 반대되는 개념이나 시스템이 있었지만 사장되어 왔죠. 물론 이 사실이 앞으로도 자본주의 보다 더 나은 시스템이 나타나지 않을 것이다란 것을 말하는 것은 아니지만요.

 

얼마 전에 샘 알트만을 오픈AI에서 퇴출시키는 쿠데타가 있었습니다. 제 개인적인 생각으로도 최근 갑자기 오픈AI(샘 알트만)가 "돈에 미쳤나?"싶을 정도로 공격적으로 마케팅, 투자 유치 행보를 보이고 있는데요. 아마 내부 이사회에서 이런 우려가 있어서 샘 알트만을 퇴출시키려 했던 것으로 보이네요.

---

요약: 샘 올트먼의 최근 7조 달러 자금 조달은 단기적으로 AI용 반도체 수급, 장기적으로는 AGI 구축을 위해서다.

 

함께 보면 좋은 글)

샘 알트만 해임 사건과 큐스타