류한석 IT 칼럼니스트 겸 작가

실리콘밸리는 언제나 기술로 인류를 진보시킨다는 거창한 비전을 내세우는데, 그 혁신의 이면에는 데이터를 통해 수익을 창출하려는 치밀한 비즈니스 계산이 깔려 있다. 그런데 이제 그들의 알고리즘이 사용자의 클릭이나 구매 목록을 넘어, ‘기분’까지 넘보기 시작했다. 바로 ‘감정 인식 AI(Emotion AI)’ 이야기다.

감정을 데이터로 치환하는 AI 기술

최근 메타의 행보는 이 시장이 어디로 향하고 있는지를 보여주는 가장 확실한 시그널이다. 마크 저커버그는 언제나처럼 조용히, 하지만 공격적으로 움직였다. 메타는 최근 감정 인식 AI 스타트업 ‘웨이브폼(WaveForms AI)’을 인수했다. 이 회사는 목소리를 텍스트로 바꾸는 것을 넘어, 떨림과 톤의 미세한 변화를 분석해 화자의 감정 상태를 읽어내는 기술을 보유하고 있다.

이것이 의미하는 바는 명확하다. 이제 인스타그램이나 왓츠앱이 사용자가 친구에게 보내는 음성 메시지에서 ‘슬픔’을 감지하고, 기가 막힌 타이밍에 위로가 되는 초콜릿 광고나 우울증 상담 앱을 띄울 수 있다는 이야기다. 돈 냄새를 맡은 건 메타뿐만이 아니다. 시장조사기관 리서치앤마켓과 여러 분석에 따르면, 감정 인식 AI 시장 규모는 2024년 29억 달러(약 4조 3천억 원)에서 2034년 194억 달러로 성장할 것으로 전망된다. 인간의 감정이 곧 돈이 되는 ‘감성 자본주의’의 새로운 챕터가 열린 것이다.

기술은 놀라울 정도로 정교해졌다. 과거 MIT 미디어랩이 ‘감성 컴퓨팅(Affective Computing)’이라는 개념을 처음 던졌을 때만 해도 그것은 학구적인 호기심에 불과했다. 하지만 지금의 감정 AI는 ‘멀티모달(Multimodal)’이라는 무기를 장착했다. 표정 하나만 보지 않는다. 목소리의 피치, 시선의 움직임, 심지어 스마트워치가 보내오는 심박수까지 통합해서 분석한다.

차량 운전자의 상태를 확인하는 감정 인식 AI 기술 (출처: 어펙티바 웹사이트)

감정 지능 기반 음성 AI 기업 ‘흄(Hume AI)’이 선보인 ‘EVI(Empathic Voice Interface)’ 모델은 사용자와 대화하며 뉘앙스를 파악하고, 마치 공감 능력이 뛰어난 상담사처럼 목소리 톤을 조절한다. 딱딱한 기계음이 아니라, 인간보다 더 인간 같은 ‘가짜 공감’을 제공하는 셈이다. 자동차 산업에서도 이러한 기술은 필수다. ‘어펙티바(Affectiva)’와 같은 기업들은 운전자의 눈꺼풀이 무거워지거나 도로에서 시선이 벗어나는 순간을 포착해 경고를 보낸다. ‘안전을 위해서’라는 명분은 좋지만, 운전자가 아내와 말다툼해서 스트레스 수치가 높다는 것까지 차량이 기록하는 상황을 생각하면 서늘한 느낌이 든다.

빅 브라더가 아니라 빅 마더가 온다

우리는 조지 오웰의 소설 1984 속 ‘빅 브라더(Big Brother)’를 두려워했지만, 실제로 다가오는 것은 우리의 기분을 살피고 어르고 달래며 지갑을 열게 만드는 ‘빅 마더(Big Mother)’다. 물론 긍정적인 면도 있다. 자폐 스펙트럼을 가진 아이들이 타인의 감정을 이해하도록 돕거나, 콜센터 상담원이 격앙된 고객을 상대하기 전 미리 경고를 함으로써 번아웃을 막을 수도 있다. 하지만 기술 낙관론에 취해 그림자를 보지 못해서는 곤란하다.

유럽연합(EU)은 이미 칼을 빼 들었다. ‘EU AI 법’을 통해 직장이나 학교에서의 감정 인식 기술 사용을 원칙적으로 금지했다. 상사가 직원의 표정을 분석해 “당신은 지금 업무에 집중하지 않고 있군요”라고 말하는 디스토피아를 막겠다는 의지다. 감정은 내밀한 사생활의 영역이지, 성과 지표가 되어서는 안 된다고 본 것이다.

우리는 결국 ‘편리함’을 택할 것이다

감정 인식 AI는 거스를 수 없는 흐름이다. 감정은 곧 ‘데이터’이고, 데이터가 곧 ‘돈’이기 때문이다. 기업들은 이 기술을 통해 사용자를 이해하고, 나아가 사용자의 심리와 행동을 더 잘 예측하고 통제하게 될 것이다. 우리는 언제나 프라이버시보다 ‘편리함’을 선택해 왔다. AI 비서가 사용자의 아침 목소리만 듣고도 “오늘 기분이 안 좋아 보이니 신나는 음악을 틀어드릴게요”라고 말해줄 때, 그 달콤한 편리함을 거부할 사람은 많지 않다. 메타, 애플, 구글은 바로 그 지점을 파고들 것이다.

문제는 우리가 기계에 우리 마음을 읽도록 허락할 준비가 되었는지가 아니다. 이미 그런 일이 일어나고 있다. 진짜 질문은 우리가 그 거래의 조건을 어떻게 설정할 것인가다. 감정 데이터는 누구의 것이며, 누가 그것으로 이익을 얻고, 누가 규칙을 만드는가. 실리콘밸리가 답을 정하기 전에 우리가 먼저 물어야 한다. 그것이 유토피아일지, 디스토피아일지는 우리가 얼마나 경계심을 갖고 이 기술을 지켜보느냐에 달려 있다.

류한석 IT 칼럼니스트 겸 작가:

류한석기술문화연구소 소장, <AI 시대의 질문력, 프롬프트 엔지니어링> 저자. 소프트웨어 아키텍트 출신의 작가로, 테크놀로지, 비즈니스, 문화 트렌드와 상호작용을 연구한다. 삼성전자, 현대자동차, SK텔레콤, 국토교통부 등 여러 기관에 임직원 교육용 프롬프트 엔지니어링 콘텐츠를 제공하고 있다.

외부 필자의 원고는 Cheil Magazine의 편집 방향과 일치하지 않을 수도 있습니다.