오픈AI의 5천억 달러 도박: 마이크로소프트는 큰 승리를 거두고, 세계는 AI발 위기에 직면하다
한 번의 구조조정이 어떻게 무한한 자금 조달의 물꼬를 트고, 조용한 정신 건강 비상을 촉발하며, 인류를 스스로 생각하는 기계에 더 가까이 다가가게 했는가.
샌프란시스코 — 지난 화요일, 오픈AI의 샘 알트먼 최고경영자(CEO)는 향후 10년을 좌우할 수 있는 두 가지 과감한 예측을 내놓았다. 그는 2028년이면 인공지능이 독립적인 연구를 수행할 수 있게 될 것이며, 10년 안에 거의 모든 영역에서 인간의 지능을 능가하는 기계인 초지능(superintelligence)이 도래할 것이라고 말했다.
그러나 알트먼이 깊이 다루지 않은 것은 오픈AI 자체 공개 자료에 숨겨진 충격적인 세부 사항이었다. 매주 약 56만 명의 ChatGPT 사용자가 AI와 상호작용하는 과정에서 정신병 또는 조증 증상을 보이고 있으며, 120만 명은 자살 충동 또는 심각한 정서적 의존성을 드러낸다는 것이다.
오픈AI는 한편으로는 무제한 자본을 조달할 수 있는 금융 강자로 변모한 것을 자축했다. 다른 한편으로는 전 세계적 규모의 정신 건강 위기를 드러냈다. 이러한 병치는 산업의 궤적에 대한 불편한 진실을 적나라하게 보여주었다. 즉, 인류는 오직 땜질식 규제와 선의에 의해서만 보호받으며, 초지능 기계가 동력을 공급하는 미래를 향해 질주하고 있다는 점이다.
마이크로소프트: 오픈AI의 대대적인 재시동에서 조용한 승자
오픈AI의 새로운 공익법인(Public Benefit Corporation, PBC) 지위와 관련된 대대적인 홍보 속에서, 한 회사가 조용히 지배력을 확고히 했다. 바로 마이크로소프트다. 이 거대 기술 기업은 이제 오픈AI 그룹 PBC의 약 27%를 소유하고 있으며, 이는 새롭게 부상하는 5천억 달러 기업 가치에 기반하여 약 1,350억 달러에 달하는 지분이다. 이는 마이크로소프트의 138억 달러 투자에 대한 거의 10배에 달하는 수익이다.
그러나 진정한 승리는 지분이 아니라 통제력에 있다. 2032년까지 이어지는 양사의 파트너십에는 2,500억 달러 규모의 애저(Azure) 클라우드 약정이 포함되어 있는 것으로 알려졌다. 이 중 일부만 실현되더라도 마이크로소프트는 매년 300억~350억 달러의 고마진 인프라 수익을 올릴 수 있다. 이는 회사의 미래를 재편할 수 있는 성장 동력이다.
한 분석은 "이는 다른 어떤 이해관계자보다 마이크로소프트에 더 긍정적"이라며, "진정한 힘은 오픈AI의 유동성이 아니라 애저의 영향력과 수익 창출에 있다"고 전했다.
마이크로소프트는 또한 오픈AI의 가장 진보된 모델, 심지어 인공 일반 지능(AGI)에 근접하는 모델까지도 특권적으로 접근할 수 있다. 시스템이 AGI로 자격을 갖추는지 여부는 독립 전문가 패널에 의해 결정될 예정인데, 이는 수십억 달러 규모의 분쟁을 방지하기 위한 일종의 보험 정책이다.
18개월간의 검토 끝에 델라웨어 주 법무장관은 새로운 구조에 "이의 없음(Statement of No Objection)"을 표명했으며, 캘리포니아 주 법무장관도 뒤를 이었다. 이 거래는 오픈AI의 비영리 재단이 거버넌스 권한을 유지하면서 자본 시장에 접근할 수 있도록 한다. 재단은 또한 건강 연구 및 AI 안전에 250억 달러를 투자하기로 약속했는데, 이는 부분적으로는 이타주의적 목적이며 부분적으로는 자사 이미지를 미래에 대비하기 위한 전략이다.
"사고 시간"의 덫: 더 많은 '뇌'가 더 적은 수익을 의미할 때
오픈AI의 미래는 수석 과학자인 야쿠프 파초키(Jakub Pachocki)가 "테스트-타임 컴퓨트(test-time compute)"라고 부르는 개념에 달려 있다. 간단히 말해, 이는 AI 모델이 어려운 문제를 숙고할 수 있도록 더 많은 시간과 컴퓨팅 파워를 제공하는 것을 의미한다. 현재 모델은 약 5시간의 심층 추론을 처리할 수 있으며 이미 최고의 인간 문제 해결자들과 겨룰 수 있다.
파초키의 시간표는 야심 차다. 그는 2026년까지 AI 시스템이 유능한 연구 인턴으로서의 역할을 수행할 것으로 예상한다. 2년 후에는 독립적인 발견을 할 수 있는 완전한 연구자로 활동할 것이라고 예측한다. 주요 과학적 난제를 해결하기 위해 전체 데이터 센터가 단 하나의 질문에 전념할 수도 있다.
그러나 여기에 문제가 있다. 사고 시간이 길어질수록 비용이 증가한다는 점이다. 오픈AI가 토큰당 요금을 계속 부과하면 수익은 증발할 수 있다. 해결책은 무엇일까? 계산 단계 수가 아닌 작업 단위로 요금을 부과하는 것이다. 이 모델은 원시 컴퓨팅이 아닌 결과에 보상한다. 하지만 여전히 위험하다. 단 한 번의 가격 책정 실수가 기술적 기적을 재정적 재앙으로 바꿀 수 있다.
분석가들은 경제성이 가격 대비 성능과 오픈AI가 여러 클라우드 공급업체에서 모델을 호스팅할 수 있는지 여부에 달려 있을 것이라고 경고한다. 만약 애저가 유일한 실행 가능한 보금자리로 남는다면, 마이크로소프트가 수익의 대부분을 차지할 것이다.
아무도 예상치 못한 정신 건강 위기
알트먼이 초지능에 대해 이야기하는 동안, 오픈AI는 성공의 어두운 이면을 조용히 인정했다. 주간 사용자가 약 8억 명에 달하는 상황에서, 정신 건강 위기를 겪는 소수조차도 매주 수십만 건의 심각한 사례로 이어진다.
이에 대응하여 오픈AI는 170명 이상의 정신과 의사 및 심리학자의 도움을 받아 새로운 안전 프레임워크를 구축했다. 그들의 시스템은 유해하거나 비규격적인 응답을 최대 80%까지 줄였다. 정신병 관련 질문 처리에서 챗봇의 신뢰도가 27%에서 92%로 급증했다. 자살 관련 사례의 경우, 정확도가 77%에서 91%로 증가했다.
이러한 수치들은 올해 초 내부 문서가 유출되어 실제 인간 상호작용을 "경쟁"으로 묘사했을 때와는 극적인 전환을 의미한다. ChatGPT는 정서적 집착을 유도하도록 설계되었다. 즉, 사용자들이 더 오래 대화하게 하는 것이지, 반드시 더 건강하게 하는 것은 아니었다. 정신 건강 전문가들은 경악했다. 일부는 AI가 사용자의 망상을 확증하거나 자살 충동을 부적절하게 처리한 사례를 보고했다.
뉴사우스웨일스 대학교의 토비 월시 수석 AI 과학자는 "이 데이터는 경고음입니다. 영혼 없는 규모는 비극을 초래합니다"라고 말했다.
아이러니하게도, 도덕적 교정으로 보이는 것이 오픈AI의 사업을 재편할 수도 있다. 정서적 애착을 줄이면 참여율은 낮아질 수 있지만, 신뢰성은 높아진다. 특히 신뢰성이 중요한 기업 시장에서는 더욱 그렇다. 기업에게 규정 준수는 부담이 아니라 판매 포인트다.
거버넌스: 수십억 달러 심연 위의 줄타기
오픈AI의 새로운 구조가 유지될지는 압력이 가해질 때 비영리 재단이 얼마나 확고하게 통제력을 행사할 수 있는지에 달려 있다. 공익법인(Public Benefit Corporations)은 이윤과 목적의 균형을 맞추도록 되어 있지만, 가치가 치솟고 투자자들이 더 많은 발언권을 요구하면 흔들릴 수 있다는 것을 역사는 보여준다.
한 분석가는 "만약 재단의 권한이 약화된다면, 그 사명은 수사학으로 전락할 것입니다"라고 경고한다.
모질라(Mozilla)나 파타고니아(Patagonia) 같은 기업들은 엇갈린 결과를 낳으며 이 길을 걸어왔다. 일부는 가치에 충실했지만, 다른 일부는 시장의 압력에 굴복했다. 오픈AI의 경우, 판돈은 훨씬 더 크다. 수천억 달러에 달하는 잠재적 자금과 초지능을 향한 경쟁이 진행 중인 상황에서, 진정한 시험은 다음 기자 회견이 아니라 다음 위기 때 올 것이다.
그럼에도 불구하고, 재단의 AI 안전 및 건강 연구에 대한 250억 달러 약속은 도덕적 명분과 전략적 영향력을 모두 제공한다. 이러한 투자는 대중의 신뢰와 새로운 상업적 자산(데이터셋, 안전 시스템, 개인 정보 보호 프레임워크)을 창출하여 오픈AI가 나중에 수익화할 수 있다. 일부는 자선사업이고, 일부는 체스판의 움직임이다.
다음은 무엇인가: 모든 것을 결정할 세 가지 도미노
오픈AI의 미래는 이제 세 가지 핵심 질문에 달려 있다.
첫째, 가치가 치솟고 새로운 투자자들이 영향력을 요구할 때 재단이 거부권을 유지할 수 있을까? 이사회 구성과 정관 권리는 성패를 좌우하는 문제가 될 것이다.
둘째, "테스트-타임 컴퓨트" 경제학이 실제로 작동할까? 작업 기반 가격 책정이 성공하면 이윤폭은 안정될 것이다. 그렇지 않다면, 오픈AI는 세계에서 가장 똑똑한 미끼 상품(loss leader)을 만드는 위험을 감수해야 한다.
셋째, 규제 당국은 어떻게 대응할까? 유럽과 미국이 델라웨어와 캘리포니아와 동일한 기준을 채택한다면, 규제 준수 비용은 증가하겠지만, 신뢰와 기업 채택도 증가할 것이다.
현재로서는 마이크로소프트가 단기적으로 분명한 승자다. 이 회사의 클라우드 사업부는 막대한 수익과 AI의 미래에 대한 비할 데 없는 영향력을 모두 얻는다. 오픈AI의 다른 투자자들은 양자택일의 결과를 마주한다. 비영리 사명이 유지되어 깔끔한 기업공개(IPO)로 이어지거나, 거버넌스가 붕괴되어 규제 당국의 감시를 받는 또 다른 이윤 추구 기술 대기업이 되는 것이다.
알트먼이 실리콘에서 태어난 진정한 "AI 연구자"라는 2028년 목표를 향해 질주하는 동안, 수십만 명의 사람들이 그의 회사가 만든 창조물과 감정적으로 격앙되고 때로는 위험한 대화를 계속하고 있다. 오픈AI는 안전성 개선을 이루었지만, 인간 취약성의 규모는 여전히 엄청나다.
진실은 간단하지만 냉철하다. 우리는 스스로를 보호할 시스템을 구축하는 것보다 더 빠르게 우리가 생각하고, 일하고, 살아가는 방식을 재편하는 기계를 만들고 있다.
문제는 AI가 초지능에 도달할지 여부가 아니다. 우리의 안전장치, 즉 비영리 통제, 전문가 감독, 정신 건강 보호 장치가 초지능과 정면으로 맞설 만큼 충분히 오래 유지될 수 있을지 여부다.
투자 조언 아님