이상욱_한양대 과학기술철학 교수

최근 챗GPT 덕분에 많은 사람이 인공지능을 본격적으로 체험하고 있다. 낯선 유럽 도시 몇 개를 지정해 일주일 여행 계획을 부탁하면 순식간에 날짜별로 깔끔하게 정리된 일정표를 제시하는 챗GPT의 편리함에 감탄하다가도, 23+18이 41이 아니라 40이라고 우기면 금방 자기가 잘못했다고 사과하는 과잉 겸손함(?)에 당혹감을 느끼기도 한다. 학자들이라면 자신이 쓰지도 않은 논문을 대표업적이라고 자신 있게 소개하는 챗GPT의 뻔뻔함에 기가 막혀 하기도 한다. 이처럼 인공지능은 이미 우리 삶 속에 깊숙이 침투해 있다. 우리는 인공지능이 유용하기도 하지만, 문제를 일으킬 수 있다는 사실에도 점점 익숙해지고 있다.

국제적으로 주목받는 AI 윤리

그래서인지 최근 AI 윤리에 대한 사회적 관심이 국제적으로 높아지고 있다. OECD와 EU, 미국 백악관까지 잇달아 AI 윤리 원칙을 내놓고 있고, 우리 정부도 추상적인 윤리 원칙만이 아니라 AI 서비스를 제공하는 기업이 구체적으로 활용할 수 있는 자율점검표를 발표했다. 유엔기구 중 과학, 문화, 교육을 담당하는 유네스코는 현재까지 발표된 AI 윤리 관련 문건 중 가장 포괄적인 내용을 담은 <AI 윤리 권고>를 2021년 회원국 만장일치로 채택하기도 했다.

이런 일련의 상황이 대부분의 사람에게는 조금 의아할 수도 있다. 신기술은 부작용이 있기 마련인데, 모든 신기술에 대해 이렇게까지 윤리를 강조한 적은 별로 없었기 때문이다. 물론 우리 모두 2020년 <이루다 사태>를 겪으며 인공지능이 편견을 가질 수 있고, 혐오 표현을 남발할 수도 있다는 점을 알게 되었다. 하지만 부작용은 기술이 발전하며 그때그때 해결하면 될 일이지, 거창한 느낌이 드는 ‘윤리’라는 단어까지 사용할 일은 아닌 것 같다는 생각이 들 수 있다.

톺아보는 윤리의 의미

이 지점에서 우리말 ‘윤리’와 영어 ‘ethics’의 차이에 주목할 필요가 있다. 표준국어대사전에 따르면 윤리는 ‘사람으로서 마땅히 행하거나 지켜야 할 도리’로 정의된다. 여기서 중요한 부분은 ‘마땅히’라는 수식어다. 우리말의 윤리는 그 의미상 누구나 논란의 여지 없이 수긍할 수 있는, ‘마땅한 도리’에 한정된다. 살인은 나쁘다거나 거짓말을 해서는 안 된다는 판단처럼 누구나 고개를 끄덕일 수밖에 없는 내용만 윤리에 해당한다.

그에 비해 영어 ‘ethics’의 어원은 고대 그리스어에서 사회적 인격(character)을 뜻하는 단어 ethos와 라틴어의 관습(customs)을 뜻하는 단어 mores에 있다. 그렇기에 ethics는 사람과 사람이 사회적으로 상호작용하는 모든 상황에서 바람직한 행동이나 가치 판단과 관련된다. 간단히 말하자면 ethics는 우리말에서 ‘사회적(social)’이라고 부를 수 있는 모든 상황과 관련된다. 단, 차이점은 ethics는 규범적 판단, 즉 바람직한 것과 그렇지 않은 것에 대한 평가를 필수적으로 요구한다는 것이다. 이 규범적 평가는 사람이라면 누구나 동의해야 하는 명명백백한 내용에만 한정되지 않는다. ethics가 ‘관습’과 관련된다는 점에서 알 수 있듯이 ethics는 개인 혹은 집단에 따라 각기 다른 도덕적 판단을 할 수 있는 여지를 허용한다.

여기에는 역사적 이유가 있다. 고대 그리스 도시국가 중에서도 자유주의적이었던 아테네와 전체주의적이던 스파르타는 각각의 도시 내에서 바람직하게 여겨지는 ethos와 mores가 달랐다. 그리스 도시국가들은 페르시아가 침입한 총체적 위기 상황에서 이런 차이를 관용하거나 필요에 따라 조정하면서 협력할 필요가 있었다. 이처럼 ethics는 막연한 공자님 말씀이 아니라 사람 사이의 관계, 사회적, 제도적 행동에 있어 다양한 규범적 판단 사이의 차이를 이해하고 이를 공정하게 조정하면서 보다 바람직한 사회를 만들어 가는 실천의 기반이다.

윤리적 판단이 필요한 지금

개념은 정의하기 나름이므로 우리말의 윤리와 영어의 ethics 중 어떤 개념이 맞는지 따지는 것은 의미가 없다. 중요한 점은 현재 국제적으로 AI 윤리가 논의될 때 윤리의 의미는 ethics라는 사실이다. 생성형 AI가 산출한 이미지에 저작권이 부여될 수 있는지에 대한 논쟁은 ‘윤리적(ethical)’ 주제가 되는 것이다. 현재는 인간에게만 부여되는 저작권이 인공지능 프로그램을 사서 프롬프트를 잘 집어넣은 사람에게도 확장되는 것이 ‘바람직한지’, 특히 똑똑한 기계를 활용한 인간의 창작물을 우리 사회가 어떻게 평가하는 것이 ‘바람직한지’에 대해서는 여러 의견이 있을 수 있고, 이는 ‘윤리적’ 판단이다.

이제 현시점에서 인공지능 윤리(ethics)가 왜 필요한지 쉽게 이해할 수 있다. 인공지능은 아직 미완의 ‘열려 있는’ 기술이다. 이는 현존하는 인공지능의 놀라운 기능을 평가절하하는 말이 아니다. 인공지능 기술의 미래는 우리가 어떤 인공지능을 어떤 방식으로 만들지에 의해 결정될 것이라는 뜻이다. 당연히 인공지능이 인류에게 가져다줄 잠재적 혜택을 온전히 실현할 수 있는 방식이어야겠지만, 동시에 우리가 현재 소중하게 여기는 기본권을 비롯한 사회적 가치를 존중하는 방식이어야 할 것이다.

올바른 방식을 찾기가 쉽지는 않을 것이다. 인공지능 챗봇이 혐오 발언을 하는 것은 당연히 막아야 하지만, 그렇다고 해서 초등생에게 예의범절 가르치듯 대화하는 챗봇과 내밀한 생각까지 공유할 수 있는 ‘진정한 친구’가 되긴 어려울 것이다. 광고에 허위 정보와 딥페이크로 만든 가짜 영상을 활용하는 것은 막아야겠지만, ‘진실’만을 정확하게 전달하도록 강제한다면 감성과 창의성이 톡톡 튀는, 그 자체로 예술작품인 광고의 매력은 사라질 것이다. 그렇기에 우리는 인공지능에 대해 ‘윤리적’ 고민을 시작해야 한다. 다양한 가치를 동시에 존중하는 우리 사회의 특성상 ‘좋은’ 가치들 사이에 적절한 조정이 필요한 지점이 있고, 이에 대해 윤리적으로 현명한 판단을 해야만 그 내용을 공학적으로 구현할 수 있을 것이다. 결론은? AI 윤리는 나도 이런 것쯤은 안다고 젠체할 수 있는 유행이 아니라 적극적으로 실천되어야 할 지향이다. 당신이 살고 싶은 미래를 만들기 위해서.

이상욱

어린 시절 다큐멘터리 <코스모스>에서 그려지는 물리학이 너무나 멋있어 보여 서울대학교 물리학과에 입학했다. 물리학 공부는 예상보다 더 재미있었지만 유난히 호기심이 많던 학부 시절 생물학, 철학, 사회학, 경제학, 심리학 등 다른 학문도 각기 다른 방식으로 무척 흥미롭다는 점을 깨닫게 되었다. 응집물질(condensed matter) 물리학으로 석사를 받은 후 현대 과학기술의 다양한 인문학적 쟁점에 대해 가르치고 연구하는 과학기술철학자가 되었다. 현재 유네스코 과학기술윤리위원회(COMEST) 부의장으로 활동 중이며, 최근에는 인공지능의 윤리적 주제에 연구를 집중하고 있다.