Chat의 모회사인 OpenAI는 '초지능'이라는 난제를 해결하는 기념비적인 업적을 눈앞에 두고 있는 듯합니다. 그러나 이 잠재적인 돌파구는 인류의 미래에 심오한 의미를 지닙니다.
OpenAI의 공동 창립자이자 CEO인 샘 알트먼의 갑작스러운 해고와 그에 따른 재임명은 기술계에서 많은 논의의 주제가 되었습니다. 이러한 움직임의 촉매에 대한 새로운 통찰력이 계속해서 나타나고 있으며, The Information의 보고서는 내부 혼란을 생성 AI의 상당한 발전에 기인한다고 밝혔습니다. 이러한 발전은 잠재적으로 이 10년 내 또는 그보다 더 빨리 '초지능'의 출현을 위한 길을 열 수 있습니다.
'초지능'은 말 그대로 인간의 능력을 뛰어넘는 지능을 뜻한다. 당연히 적절한 보호 장치 없이 그러한 지능을 보유한 AI 시스템을 만드는 것은 심각한 우려를 불러일으킵니다.
이사회에 참여하는 OpenAI의 수석 과학자 Ilya Sutskever가 이 획기적인 이니셔티브를 주도했다고 합니다. 이를 통해 AI는 더 깨끗하고 컴퓨터로 생성된 데이터를 활용하여 전례 없는 문제를 해결할 수 있습니다. 즉, AI는 동일한 문제의 여러 반복에 대해 훈련되지 않고, 현재 문제와 직접 관련이 없는 정보에 대해 훈련됩니다. 이런 방식으로 문제를 해결하려면, 일반적으로 수학적 또는 과학적 문제인 추론이 필요합니다. 추론은 일반적으로 AI와 연관되지 않는 인간의 특성입니다.
OpenAI의 주력 제품인 Chat은 다음과 같은 기능을 제공합니다. GPT 대형 언어 모델 (LLM)은 겉보기에 지능적이기 때문에 추론을 통해 답변을 구성하는 것처럼 보일 수 있습니다. 그러나 Chat과 자세히 상호 작용해 보면, Chat은 처리한 방대한 양의 데이터에서 얻은 정보를 앵무새처럼 되뇌는 데 불과하며, 주로 질의와 관련된 일관된 문장을 구성하는 것에 대해 정확한 예측을 한다는 것이 분명해집니다. 여기서 추론은 고려되지 않습니다.
Information에 따르면, Altman이 최근 컨퍼런스에서 암시했을 수 있는 이 획기적인 진전은 "개인적으로 말씀드리자면, 지난 몇 주 동안 저는 무지의 베일을 뒤로 밀고 발견의 경계를 앞으로 넓히는 방에 있었습니다."라고 말하며 OpenAI에 충격파를 보냈습니다.
위협 처리
Chat에서는 현재 초지능의 징후가 보이지 않지만, OpenAI가 GPT-4 Turbo와 미래의 '지능형 에이전트'와 같은 프리미엄 제품에 이러한 능력 중 일부를 통합하기 위해 노력하고 있을 가능성이 높습니다.
Sutskever가 처음 지원한 최근의 이사회 조치와 초지능 혁신 사이의 연관성을 찾는 것은 지나친 것처럼 보일 수 있습니다. 보고된 혁신은 몇 달 전에 발생했으며 Sutskever와 다른 OpenAI 과학자 Jan Leike는 초지능에 대한 보호 장치를 고안하는 임무를 맡은 'Superalignment'라는 새로운 OpenAI 연구 그룹을 설립했습니다.
흥미롭게도 초지능 개발을 개척한 바로 그 회사는 프랑켄슈타인 박사가 마을 사람들에게 화염방사기로 무장한 것을 연상시키는 것처럼 초지능으로부터 우리를 보호하는 메커니즘을 동시에 구축하고 있습니다.
보고서에서 여전히 모호한 점은 초지능을 향한 신속한 진전을 둘러싼 내부 우려가 직접적으로 알트만의 해고로 이어졌는지 여부입니다. 어쩌면 큰 틀에서 보면 별 상관이 없을 수도 있습니다.
현재 Altman은 OpenAI에서 자신의 직위로 복귀할 예정이며, 이사회는 재편되었고, 초지능을 개발하고 이에 대항하려는 노력은 계속되고 있습니다.
이런 발전에 당혹감을 느끼는 사람이라면, 채팅에 참여해 설명을 들으면 도움이 될 수 있습니다.