'노성열의 AI경제' 칼럼이 100회째를 맞았다. 그동안 독자들에게 인공지능을 인류사회의 양심과 지혜에 맞추어 길들이는 AI 제도화의 중요성을 여러 측면에서 주장해 왔다.
AI를 보통 사람의 인권과 재산 보호에 영향을 주는 수사·재판 등 형사법(刑事法) 절차, 채용 및 평가 같은 고위험 영역에 함부로 도입해선 안 된다는 조언도 드렸다. 대량 살상무기를 포함한 군사 분야나 합성생물학처럼 생명과 존엄성 훼손 영역에는 절대 허용해선 안 된다는 경고도 했다. 이는 크게 보아 AI를 인간의 법적·도덕적 잣대 안에서 통제하는 AI 제도화라 할 수 있다. 인류의 윤리 기준과 평행하게 줄을 맞추어 길들인다는 의미로 AI 정렬(alignment)로 부르기도 한다. 살아있는 존재는 아니지만 인간 통제에서 살짝 벗어나 자율적으로 움직이는 AI라는 새로운 지적 파트너를 인간사회에 어울리게 길들이는 과정이다.
최근 다리오 아모데이 앤트로픽 최고경영자(CEO)가 다시 한번 이를 강조하는 에세이를 공개해 화제가 됐다. 그는 특히 민주적 정부가 제도화의 주도권을 잡는 것이 중요하다고 지적했다. 특정 집단을 콕 집어 가리키진 않았지만, 전체주의 독재 정부가 AI 제도화에 앞장설 경우 인류의 역사적 지혜에 어긋나는 반(反)자유, 반인권, 반평화, 반평등의 결과물이 나올 것이라고 우려한 것이다. 인공지능의 민주적 통제라고나 할까. 우리는 AI 제도화를 놓고 또다시 체제경쟁에 돌입할 것인가.
아모데이의 시나리오는 자유민주 진영의 분발을 촉구한 것으로 보인다. 이에 발맞추듯 앤트로픽은 얼마 전에 미토스 5 같은 최신 AI 모델을 미국인만 사용할 수 있도록 자물쇠를 걸었다. 심지어 앤트로픽 자사 직원 등 미국 내 정부기관이나 기업에 근무하는 외국인 근로자에게도 접근이 차단된다. AI를 국가 전략자산으로 활용하겠다는 의지가 뚜렷하게 엿보인다.
하지만 여기에는 변수가 있다. 기술이 통치의 도구로 전락하는 기술 공화국 출현은 자본주의와 공산주의 이념을 가리지 않는다는 점이다. 물론 중국과 러시아 같은 나라의 장기집권자들은 AI를 살상무기나 국민통제의 수단으로 활용하는데 거리낌이 없다. 군사 퍼레이드에 살인드론과 로봇이 등장하고, 인터넷과 AI CCTV 감시를 통해 혹시 생겨날 반정부세력의 싹을 일거수일투족 들여다본다. 기술은 정권연장과 독재에 봉사할 뿐이다.
자유민주주의 국가에서도 기술 봉사론(論)이 싹트고 있다. 전 세계 AI 혁명의 선봉장인 미국 실리콘밸리 최첨단 기업에서 뭉게뭉게 권위주의의 음울한 바이브가 번지고 있다. 흡사 20세기 큰 전쟁을 일으켰던 독일과 이탈리아의 나치즘, 파시즘의 부활을 보는 듯 불길하다.
미국 정부에 군사 AI 솔루션을 납품 중인 팔란티어 테크놀로지의 창업주 앨릭스 카프는 자신의 저서 '기술 공화국(The Technological Republic)'에서 AI 첨단기술은 미국의 힘과 가치를 지키는데 써야한다고 주장했다. 과학기술을 국가주의와 결합시킨 이런 사상을 기술 애국주의 또는 기술 공화주의라고 부른다.
팔란티어사는 그의 주장을 22개 항목으로 요약해 회사 X 계정에 실었다. "자유롭고 민주적인 사회가 승리하려면 하드파워가 필요하다. 그리고 21세기의 하드파워는 소프트웨어 위에 구축된다" "자유의 미래는 기술적 우수성에 달려 있다" "평화는 힘에 의해 유지된다" "세계대전 이후 독일·일본에 대한 (군사적) 중성화는 철회돼야 한다. 일본이 평화주의에 대한 연극적 헌신을 계속한다면 아시아의 힘의 균형은 위협받을 것이다" 같은 발언이 거침없이 이어진다.
카프의 책은 단순한 AI·기술 경영서가 아니라 미국의 기술 산업과 국가안보를 재결합해야 한다는 정치·철학적 선언문에 가깝다. 그는 실리콘밸리가 '세상을 바꾸겠다'는 초심을 잃고 광고, 소셜미디어, 배달앱 같은 소비자 서비스에 매몰됐다고 비판하면서, 첨단기술을 국가의 생존과 자유민주주의 수호를 위해 '크게' 사용해야 한다고 주장한다.
특히, 가장 무서운 주장은 AI 무기의 무한개발이다. 카프는 중국과 러시아를 언급하며 AI 경쟁은 이미 시작됐고, 이를 흥망을 건 존재론적 경쟁으로 규정했다. 그는 서구가 AI 군사기술 개발을 주저하는 동안 경쟁국은 계속 전진할 것이라며, 문제는 "AI 무기를 만들 것인가"가 아니라 "누가 만들 것이며 어떤 가치 아래 사용할 것인가"라고 강조했다. AI 무기 개발을 반대하는 윤리적 논쟁은 현실을 외면한 것이며, 경쟁국이 개발하는 이상 미국도 개발해야 한다는 논리를 편다.
카프는 20세기 미국의 위대한 기술혁신이 정부와 과학자, 기업이 협력한 국가 프로젝트에서 나왔다면서 맨해튼 프로젝트, 아폴로 계획, 인터넷 발명 등을 예로 들었다. 지금의 실리콘밸리도 공공자금과 국가 프로젝트로 민간기업들을 선도한 미국 정부 덕분에 성장했다는 것이다. 따라서 엔지니어와 기업은 국가에 대한 도덕적 의무가 있다며, 국방 프로젝트를 꺼리는 일부 빅테크의 태도를 위선이라며 비난했다. 그는 냉전 시절처럼 정부, 대학, 과학자, 기술기업이 공동 목표를 위해 협력해야 한다면서, 이를 새로운 형태의 '국가적 기술동원 체제'라 명명했다. 반대 진영은 이를 현대판 군산복합체라고 힐난하지만 카프는 오히려 그것이 민주주의를 지키는 수단이라고 반박한다.
독자 여러분의 생각은 어떠하신가. 악마를 저지하기 위해 천사가 힘을 가져야한다, 선한 목적의 무기 개발은 금지가 아니라 오히려 장려돼야한다는 강경론자의 말을 따라야할까. 기술 공화주의에 대한 비판자들은 카프의 사상을 기술기업과 국가권력이 결합하는 새로운 형태의 기술 국가주의(국수주의) 또는 테크노-밀리터리즘으로 비하한다.
미래사회를 상상한 SF 작가와 감독들도 전 세계를 지배한 거대 테크노기업의 존재를 많은 작품에서 묘사했었다. 터미네이터의 '사이버다인', 로보캅의 'OCP' 같이 안보와 기술을 결합시킨 민간회사가 국가권력보다 더 강력하게 시민의 자유와 안전을 통제하는 모습 말이다.
AI를 길들이는 제도화 과정에서 민주적 통제가 이뤄져야 한다는 미국의 테크노 보안관론(論)은 얼마나 세계 민주시민들을 설득할 수 있을지 궁금하다. 그 결과에 따라 기술 독재와 미래의 소멸로 가는 지옥도가 펼쳐질지, 기술 민주화 이후 테크노 유토피아의 번영으로 갈지가 결정될 것이다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
