시청자미디어재단

동양철학에서 하늘은 종종 우주의 질서, 자연의 법칙, 도덕적 권위의 근원으로 해석된다. 특히 유교에서 ‘천인합일’은 인간과 자연, 그리고 하늘 사이의 조화롭고 긴밀한 관계를 강조한다. 인간은 하늘의 뜻에 순응하고, 자연의 질서를 존중하며, 도덕적으로 행동함으로써 이상적인 삶을 추구해야 한다고 가르치는 것이다.

지난주 발표한 오픈AI의 동영상 생성형 인공지능 이름이 ‘소라’라고 한다. 일본어의 ‘そら(소라)’를 따온 것으로 알려졌다. 일본 문화와 사상에서 소라(하늘)는 물리적 공간을 넘어서는 의미를 지닌다. ‘소라’는 자연의 중요한 요소로 간주되며, 인간과 자연이 조화를 이루며 공존해야 한다는 일본 전통 사상을 반영한다. 소라는 또 신성함과 연결되는 경우가 많으며 신들이 거주하는 곳으로 여겨지기도 한다.

인공지능의 위험성에 대한 경고는 날로 늘어가고 있고, 이에 대한 통제방안이 마련되지 않은 시점에서 하늘이라는 뜻을 가진 ‘소라’라는 제품명을 썼다는 것이 인공지능의 위험성을 역설적으로 드러내는 것 같아 불편하다. 인간의 삶이 소라에 종속될 것 같은 불길함이 스쳐가기 때문이다.

인공지능에 대한 경고는 오래전부터 있어 왔다. 2014년 BBC와 인터뷰에서 스티븐 호킹 박사는 “완전한 인공지능을 개발하면, 이는 인류 역사상 최고의 사건이 될 수도 있고, 최악의 사건이 될 수도 있다. 우리는 확실하지 않다”고 경고했다. 중요한 지점은 “확실하지 않다”는 것이다.

가장 확실하지 않은 것은 인공지능이 인간의 통제를 벗어날 가능성과 군사적 활용을 통한 무기화의 가능성이다. 고도로 발달된 초지능AI는 인간의 통제능력을 초과할 수 있는 시나리오가 제시되고 있다. AI는 자기개선 능력을 통해 빠르게 학습하고 발전해 인간이 예측하거나 이해할 수 없는 방식으로 행동할 수 있다는 것이다. 알고리즘의 불투명성도 위험요인이다. AI시스템, 특히 딥러닝 모델은 종종 ‘블랙박스’로 불린다. AI의 의사결정이 복잡하고 불투명해 인간이 이해하거나 예측하기 어렵다는 것을 의미한다.

AI 기술의 군사적 활용은 자율무기 시스템의 개발로 이어질 수 있다. 이러한 시스템은 인간의 직접적인 개입 없이도 목표를 식별하고 공격할 수 있을 것이다. 또 AI는 사이버 공격을 자동화하고 최적화하는 데 사용될 수도 있다. 대규모 정보조작이나 가짜뉴스 생성에도 활용돼 전 세계를 순식간에 혼란에 빠뜨릴 수도 있다.

이렇게 위험한 물건에 왜 ‘소라’라는 이름을 붙였을까? 인간의 의도와 별개로 행동할 수 있는 소라, 바라만 보고 있어야 할 것인가?

최지안 인천시청자미디어센터장