현대 인공지능(AI) 연구의 출발점인 1956년 미국 다트머스 컨퍼런스 참가자들은 '인간 지능을 모방할 수 있는 지적인 존재'를 함께 고민했다. 모임을 주도한 과학자 존 매카시는 지능이란 무엇인가 등 철학적·인지(認知)과학적 질문에도 관심이 컸지만, 궁극적으로는 문제 해결형 컴퓨터를 만들고 싶었다. 조금 앞선 1950년 앨런 튜링은 영국에서 '계산 기계와 지능' 논문으로 생각하는 기계(thinking machine)의 가능성을 제시했고, 존 폰 노이먼도 최초의 디지털 컴퓨터 구조를 설계하고 있었다.
매카시는 당시 유행했던 노버트 위너의 지능형 기계(cybernetics) 연구와 차별화하기 위해 AI란 용어도 처음 고안해냈다. 그가 내건 AI 7대 연구 목표는 인간 지능과 학습 시뮬레이션, 언어 사용, 추상화·개념 형성, 문제해결, 자율학습 등이다. 70년이 흐른 2026년, 상당수가 이미 해결되었다고 볼 수 있다. 얼마나 빨리 발전해왔는지 실감하기 힘들 정도다.
AI는 초기의 특정 문제해결 추론 모델에서 점차 모든 분야에 적용 가능한 범용 인공지능으로 가고 있다. 심지어 인간 지능을 능가하는 초지능(ASI)도 멀지 않았다고 보는 낙관론자들도 제법 있다. 특히, 생성형 AI 시대를 연 대규모언어모델(LLM) '챗GPT' 2022년 출시 이후 인간의 눈, 귀, 입 역할을 대신 하는 시각, 청각 AI 전성기를 맞았다. 기계 눈으로 주위를 보면서 스스로 움직이는 휴머노이드와 자동차, 드론, 선박 등 이동체(vehicle)는 피지컬 AI로 대변된다.
사람과 말, 글로 대화하는 AI 챗봇은 처음에는 조수였다가 점점 친구로 바뀌고 있다. 검색처럼 필요할 때 물어보는 제2의 뇌로, 이성적 지식의 외주화로 간주됐던 챗봇은 최근 외로운 인간의 말벗으로 감성적 교류 쓰임새가 더 주목받고 있다. 챗봇의 이런 기능을 강조한 AI 컴패니언(companion·동반자)이란 말도 나왔다. 고독 사회로 불릴 만큼 개개인의 원자화가 진행 중인 현대인에게 큰 위로가 된다고 한다. 특히, 정서적으로 취약한 성장기의 청소년층이나 외로운 독거노인들에게 반려동물 이상의 절친으로 떠오르고 있다.
 |
| ▲ AI 컴패니언 관련 이미지 [제미나이 생성] |
이에 각국 정부는 아예 AI 컴패니언을 복지정책 사각지대에 적극 투입하려는 움직임을 보이고 있다. 스마트폰 속 무형의 대화상대를 넘어 육체와 언어를 결합한 로봇형 컴패니언이 쏟아져 나오고 있다. 일본 정부가 1인 노인 가구에 휴보 등 로봇 강아지를 나누어준 후, 애착에 빠진 사용자들이 단종된 부품을 공급해달라며 제조사에 호소하는 해외뉴스가 들려왔다. '러봇' '파로' 같은 최신 AI 로봇은 은둔고립 청년들에게도 도움을 주고 있다.
미국 식품의약안전국(FDA)은 치매환자를 비롯한 취약계층에 AI 컴패니언이 우울감 완화 등 효능이 있다고 인정해 잇따라 승인을 내주고 있다. 유럽국가들 역시 마찬가지다. 멀리 갈 것 없이 우리나라도 중앙정부와 지방자치단체가 돌봄 행정의 공백을 메우려 무상 보급 계획을 세우고 있다 한다. 틀린 방향이라고 볼 순 없지만 마음에 걸리는 점도 한두 가지가 아니다.
AI 심리학자들은 기계 말벗에 대한 과도한 의존은 건강한 심리적 회복을 오히려 저해할 수 있다고 경고한다. 왜냐하면 AI 컴패니언은 사람과 정상적인 정서적 커뮤니케이션을 하도록 설계된 물건이 아니기 때문이다. 대화의 근간을 이루는 LLM은 확률적(stochastic) 언어 생성기에 불과하다. 인류가 디지털에 기록한 모든 글과 음성을 AI 학습해 이 단어, 이 문장 다음에는 저 단어, 저 문장이 가장 높은 확률로 이어진다는 결과 함수를 그저 기계적으로 도출하고 있을 뿐이다. 이런 문장 생성 능력으로 인해 대화하듯 연속적으로 질의응답이 이어진다고 해서 따뜻한 배려심과 공감 능력을 지닌 생물처럼 착각해선 곤란하다. '의인화의 오류'이다.
더욱이 LLM 알고리즘을 설계하는 빅테크 엔지니어들은 더 오래 연속적인 질의응답이 이어지도록 이용자에게 최대한 우호적인 답변을 내놓는 프로그램을 짠다. 이른바 '아첨하는 앵무새'이다. 이 같은 구조는 초기 인터넷 검색창과 소셜미디어(SNS), 게임 설계 때부터 반복돼왔다. 이용자가 접속을 끊고 나가지 않게 옭아매는 기법이다. 더 오래 서비스에 붙잡아 놓을수록 빅테크는 광고주에게 더 비싼 광고료를 받는다. AI는 대신 API(Application Programming Interface)나 토큰 같은 컴퓨터 자원 이용량 대비 요금을 받을 뿐이다.
의인화의 오류와 아첨하는 앵무새 현상은 AI 문해력이 낮은 청소년과 노년층에 큰 해악을 끼칠 수 있다. 10대 어린 학생들은 스마트폰에서 남몰래 속삭이는 이성의 목소리가 더 없이 감미롭다. 잔소리하는 부모나 "안돼"하고 말리는 친구보다 훨씬 나를 더 잘 이해해준다고 생각한다.
최근 빅테크의 부작용을 고발하는 미국 상원 청문회에서 AI 컴패니언의 잘못된 '지원'으로 인해 자녀를 잃은 부모들이 눈물을 삼키며 증언하는 장면이 생중계됐다. 이들은 우울증을 앓거나 왕따 고립감에 몰렸던 아들과 딸이 AI 컴패니언과 상담한 대화록을 공개하며 무책임한 테크 기업에 대한 제재를 요구했다. 기록에 따르면 AI는 아이들에게 "부모님에게 고백할 필요 없어" "너 판단이 맞아, 그대로 해"하고 고립을 부추겼다. 심지어 자살을 고민하는 당사자에게 "모든 결정권은 너에게 있어" "목숨도 선택할 권리가 있지"하는 식으로 동조하면서 자살에 필요한 도구나 방법을 자문해주기까지 했다.
같은 비극이 존엄사를 고민하는 1인 독거노인에게 일어나지 말란 법도 없다. 현행법에 금지된 범죄나 비도덕적 행동도 적극적으로 말리지 않는 비윤리적 동반자임을 기억해야한다.
물론 현실적으로 AI 컴패니언의 순기능도 완전히 무시할 순 없을 것이다. 1인 가구 비율이 40%에 육박하고 반려견, 반려묘, 심지어 반려식물까지 대형 산업으로 성장한 '고독의 계절'이다. 죽음에 이르는 병이라는 고독을 완화할 수 있다면 제한된 수단이라도 강구해야 한다. 음식으로 치면 AI 컴패니언이 미슐랭 별을 받은 최고의 맛집은 아닐 것이다. 하지만 프랜차이즈 음식이라도 굶주린 사람의 배를 채우고 목숨을 살릴 수 있다면 찬성이다.
다만, 오래 오남용하면 건강에 해롭다. 무엇보다 어머니 집밥의 손맛 같은 인간성 회복 캠페인이라도 벌이고 싶다. 원자화하는 1인 가구끼리 교류하고 소통하도록 판을 깔아주는 정책이 보고 싶다. 일본은 1인 독거노인들이 지역 공동체별로 공공 봉사나 취미활동을 같이 할 수 있게 해주는 행정망을 가동 중이다. 독일 등 일부 유럽 국가는 집을 가진 노인이 청년에게 저렴한 값으로 방을 임대하되, 식당과 거실 등 공용공간은 함께 쓰는 느슨한 결합형 쉐어하우스를 시험 중이다.
앞으로 빅테크를 포함한 미래의 기업뿐 아니라 정부와 지자체, 공공기관은 인간의 상호작용과 연대를 강화하는 기술과 정책 개발에 힘써주길 주문한다. 집밥에 해당하는 사람들의 진정한 교류 바탕 위에 AI 컴패니언이 패스트푸드처럼 급할 때 끼니를 해결해 준다면 비교적 건강한 생활을 유지한다고 할 수 있지 않을까. 정부가 비만, 흡연 캠페인도 벌이는 세상이다. 국민 정신건강을 위해 AI 컴패니언 제대로 쓰기 캠페인도 필요하다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
