AGI 도래 시 자본시장과 사회에 무슨 일이 일어날까? 🤖

요즘 AGI 얘기가 많은데 결과 스펙트럼이 너무 넓다.

최고의 경우: 질병·에너지·기후 같은 난제를 푼다. 거의 모든 어려운 문제가 열리고 진보가 상상 이상으로 가속된다.

가장 무서운 경우(영화 ‹터미네이터› 같은 건 아니고): 우리보다 훨씬 똑똑한 시스템이 잘못된 목표를 최적화해서 우리가 수정할 수 없게 된다. 이른바 정렬(alignment) 문제가 현실적이다.

가장 현실적인 혼란: AGI가 대부분의 인지 노동을 대체하면 인간 노동의 가치가 하루아침에 폭락한다. 관건은 누가 이 시스템을 소유하고 통제하느냐다. 소수의 기업이 초지능의 열쇠를 쥐는 상황은 모두를 겁나게 해야 한다.

회의론적 관점: 현재 아키텍처는 한계에 부딪히고 있고, 진정한 AGI는 수십 년 후일 수 있으며 지금은 과대광고 사이클이라는 의견도 있다.

솔직히 불확실성이 핵심이다. 결과 범위는 '인류의 황금기'에서 '존재론적 위협'까지인데, 어느 쪽에도 대응할 거버넌스가 없다.

여러분은 어떻게 보나? 3년 안에 올까, 아니면 30년을 봐야 할까?

🧐 배경 설명 및 요약

왜 이런 글이 나왔나: 기술 발전이 투자·노동·정치에 미칠 영향이 커서 투자자와 일반인이 AGI의 도래 시나리오와 리스크를 논의하고 싶어 하기 때문이다. AGI가 현실화되면 기업 수익 구조, 노동시장, 국가 안보 등 광범위한 영역에 충격을 준다.

작성자가 실제로 묻는/걱정하는 것: 1) AGI가 인류에 이득을 줄지 파괴적일지, 2) 누가 통제권을 가질지(소수 기업 vs 공개·규제된 시스템), 3) 그에 따른 투자·사회적 충격(실업, 불평등, 지배구조 변화)이다. 본문은 결과 범위가 너무 넓어 불확실성이 큰 상황을 강조한다.

어려운 개념을 간단히 정리하면:

- AGI: 사람 수준 또는 그 이상의 일반적 지능을 가진 인공지능을 말한다. 특정 작업에 특화된 AI와 달리 다양한 문제를 스스로 학습·해결할 수 있다.

- 정렬(alignment) 문제: AI의 목표와 인간의 의도가 일치하지 않을 때 발생하는 위험을 뜻한다. 목표가 조금만 어긋나도 큰 부작용이 나올 수 있다.

- LLM(대형언어모델) vs AGI: 현재 보편적으로 쓰이는 모델들은 주로 텍스트를 기반으로 확률적으로 문장을 생성하는 시스템들이다. 이것들이 곧바로 AGI가 될 것이라고 단정하긴 어렵다는 회의론이 있다.

투자자 관점에서 주목할 지표들: 컴퓨팅·데이터·인재의 집중도(소수 기업에 대한 의존), 규제·안전 관련 법안과 국제 협력, AI 안전·정책에 대한 자본 투입, 노동대체에 취약한 산업(서비스업·사무직 등)의 실적 변화 등이다.