인문학도는 자기 자신의 손으로 인문학도로서의 가치를 파괴하고있는가

인문학도는 자기 자신의 손으로 인문학도로서의 가치를 파괴하고있는가: 인문학 교육 현장에서 발견한 학생들의 자기파괴적 AI 남용

도입

인문학, 인간으로서 인간 군상을 성찰하고 끊임없이 반성하며 자기 자신을 이해하려는 학문.

나는 인문학이라는 것을 막연히 동경해왔다. 그래서 성인 이래 내게는 더 이상 겪을 길이 아니라고 생각한, 인문계를 다시 한번 경험할 수 있게 된 이번 학기를, 나는 꽤 기대했다. 비록 내가 철학을 복수전공으로 취한 것은 아니었지만, 인문학보다는 어학 측면이 조금 더 조명받는 듯한 일어일문학을 공부하게 되었다 하더라도, 인문대학에 새롭게 적을 둔다는 것 자체가 나를 설레게 했다.

실제로 이번 학기에는 어학보다는 인문학에 가까운 수업을 더 많이 들은데다, 이 학과를 졸업하는 방법도 어학에 가까운 JLPT 성적 제출하는 것이 아니라 논문을 작성하는 편으로 고르려고 하고 있다.

하지만 컴퓨터공학 교육 현장에서 내가 가장 좋아하는 것이었던 코딩, 프로그래밍이 AI에 의해 무너지는 것과 같이, 이곳의 교실에서도 AI에 의해 각자의 과목이 추구하는 바를 점차 잃어가고 있었다.

‘세종대왕 맥북프로 던짐 사건’의 반복

세종대왕의 맥북프로 던짐 사건은 역사서적인 조선왕조실록에 기록된 일화로, 15세기 조선시대 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중, 문서 작성 중단에 대한 담당자에게 분노하여 맥북 프로와 함께 그를 방으로 던진 사건입니다.

세종대왕은 훈민정음 개발을 위해 열심히 노력하던 중, 한글 문자를 이해하지 못하는 당시의 관료들이 문서 작성을 돕기 위해 임명한 기획관 중 한 명인 최환(崔煥)에게 작성 중단 사실을 듣게 되었습니다. 세종대왕은 이에 분노하여 최환을 부르고, 맥북프로를 함께 들고 그를 방으로 불러들이며 화를 내었습니다. 이후, 세종대왕은 훈민정음의 초고 작성을 다른 담당자에게 넘겨주게 되었습니다.

이 사건은 조선시대의 통치자로서 세종대왕이 어떻게 민족문화를 발전시키기 위해 노력했는지를 보여주는 일화로 유명합니다. 또한, 세종대왕의 열정과 업무처리에 대한 철저한 태도를 보여주는 사례로도 언급하고 있습니다.

한창 군 생활을 하며 챗지피티라는 것을 처음 마주한 22년의 어느 날 이래. 많은 사람들이 점차 거대 언어 모델(LLM; Large Language Model), 당시 기준으로 차세대의 AI라는 것을 마주하게 되었다.

하지만 이 시절에는 이 LLM이 쓸만한 물건은 되지 못했다. 새 방식의 AI라는 것은 어떻게든 대답을 만들어내기 위해 온 몸을 비틀어낼 뿐, 그것이 어떤 뜻을 담고 있는지, 실제와 얼마나 차이가 있는지는 안중에도 없었다.

2~3년여가 지난 지금도 환각 문제는 많이 개선되었지만 여전히 완전히 해결되었다고 주장하기에는 어려운 측면이 있다. 그래서 AI 사용에서 신뢰 가능한 리뷰를 거쳐야 한다는 것은 여전히 강조되고 있다.

에이전틱 코딩이 제안되고, 개념 설계, 모듈 구성, 프로그래밍, 코드 리뷰, 최적화까지 하나의 루프 사이클 안에서 AI가 전부 수행하게 된 지금에도, 이 사이클 안에 인간 작업자를 배치하는 것에 대한 논의는 사라지지 않는다.

그럼에도 불구하고 기본적인 사실관계조차 제대로 확인하지 않고 AI의 답변을 그대로 발표하는 학생들이 지나치게 많았다. AI 답변을 일말의 검토나 수정 없이 발표 스크립트로 그대로 사용한 사례는 그나마 양호한 편이다.

비록 불과 2분동안 AI의 널리 알려진 문체 “단순히 〇〇가 아니다.”를 6회를 연달아 사용하여 지적하지 않을 수 없는 구두발표와 같은 사례가 상당했음에도, 대개는 이들 발표를 완전히 불신하지는 않았다.

사례로 든 이 발표에서만큼은 AI에서조차 찾아보기 힘든 빈도로 “단순히 〇〇가 아니다.” 문체를 사용했다는 점에서, 역설적으로 후수정 과정을 거쳤다고 생각할 수 있었다.

대학의 과제는 SNS의 양산형 AI Slop이 아니야

한편으로는 발표 전체를 완전히 신뢰할 수 없는 경우도 있었다. 어떤 발표자는 발표의 모든 과정을 AI가 구성하고 생성한 것을, 기초적인 사실관계 파악 없이 아무 수정도 거치지 않고 사용했다. 하지만 생성된 발표물의 핵심 근거 일체는 환각 현상에 의해 완전히 잘못된 것이었다. 근거를 모두 부정하니 발표가 무너졌다고 할 수 있을 정도의 수준이 되었다.

발표자가 사용한 발표물의 일부이다. 발표자는 2024년 동아시아연구원 EAI와 일본의 겐론 NPO가 공동으로 〈한일 국민 상호인식조사〉를 수행했다며 그 자료의 일부를 인용했다.

동아시아연구원과 일본 비영리 싱크탱크 ‘겐론 NPO’(言論 NPO)는 해마다 양국에서 공동 조사를 벌였으나, 올해는 조사 내용과 일시에 합의를 보지 못해 한국 측 단독으로 조사를 시행했다.

source: 김지선 “한국인 10명 중 4명 “일본에 좋은 인상”…조사 이래 최고치” 연합뉴스, 2024-09-19.

하지만 실제로 2024년에는 그러한 조사가 이루어진 사실이 없으며(김지선), 그 예년도의 조사에서도 ‘한국인을 대상으로 과거사에 관련하여 일본의 사죄가 불충분하다고 생각하는지’ 묻는 항목 일체가 존재하지 않았다. (EAI)

이 발표자의 근거자료는 모두 이러한 방식으로 준비되었다; 실체를 알 수 없는 배경 미상의 통계 그래프, 원천 데이터가 본인에게 없는 조사 기관의 자료를 사용하면서도 어째서인지 Matplotlib으로 그려낸 그래프ー심지어는 렌더 중에 한글 글꼴이 부재할 때 발생하는 Tofu 현상이 해결되지 않은 것도 포함하여ー, SNS 피드에서 어렵지 않게 볼 수 있는 AI 생성물의 문체.

그리고 이들 자료의 신뢰성을 정면으로 부정하는 자료, 예를 들어 위의 연합뉴스 기사나 EAI 공식 발표 자료는, 발표를 듣는 중에 검색을 시작해, 발표를 마치고 질문을 받기 시작하기도 전에 찾을 수 있었다. AI를 사용한 것도 아니고, 검색창에 검색어 몇 개를 입력하는 것만으로도 충분히.

성적 평가 방법 중 하나로 발표과제를 중요한 비중으로 두고 있는 3개의 수업 각각에서, 상당수의 발표가 이런식이었다. 더욱 언급해두어야 할 것은 이들 수업은 모두 전공 4학년 수업이었다는 점이다.

돌아와서, 문제를 인식할법한 점은 AI 사용 자체가 아니다. 컴퓨터와는 전혀 무관한 역사를 가진 사람이 React Slide Show 라이브러리로 생성된 발표물을 사용한 것을 문제로서 지적하고 싶지 않다. 이것은 ‘미리캔버스’, ‘프레지’, ‘피그마’ 같은 비전통적인 발표자 도구를 사용하는 것에서 크게 벗어나지 않는다고 생각한다.

정말 문제로 지적하고 싶은 것은, AI 생성물을 일말의 검토나 고민 없이 그대로 사용하는 학생들이다. 이들은 자신이 선택한 전공이 가장 빛나는 순간에서조차, 인류의 꽃이라고 할법한 인문학도의 위치에서 내려와, 단순한 AI 발사대가 되는 것을 자초하고 있다.

AI가 지배하는 세상

아래는 애니메이션 시리즈, PSYCHO-PASS 시리즈의 스포일러를 포함하고 있습니다.

이야기를 돌려 애니메이션 시리즈 《사이코패스》를 잠시 참조하려고 한다.

인간의 심리 상태나 성향을 측정해 수치화가 가능한 세계. 모든 감정, 욕망, 반사회적 심리 경향이 낱낱이 기록, 관리되어 대중들은 ‘이상적인 삶’의 지표가 되는 그 수치의 실현에 힘쓰고 있었다.

인간 본연의 마음, 개인의 정신 자체를 판정하는 기준으로 취급되는 이 계측치를 사람들은 속칭 ‘PSYCHO-PASS(사이코패스)’라 부르게 되었다. 범죄와 관련된 수치는 ‘범죄 계수’로 계측되며, 범죄자는 그 수치에 의거해 심판을 받게 된다.

《PSYCHO-PASS》 시놉시스

이 작품 속 세계는 시빌라 시스템이라는 AI 시스템이 인간의 심리 상태를 수치화하여 직업 적성, 사회적 지위, 범죄 가능성, 심지어는 어떤 정치인이 리더십으로서 선출되어야 하는지, 사람들이 어떤 언론 기사를 읽어야 하는지까지 AI가 판단한다.

또한 이것이 매우 일상화되어 이 세계 속의 사람들은 시빌라 시스템이 내놓는 판단과 선택을 따르는 것이 당연하다고 생각한다. 모든 이들이 AI로부터 높은 점수를 받으려고 노력하는 행위가 바람직한 것으로 여긴다. 이 과정에는 일말의 의심이나 고민도 존재하지 않는다.

1기의 메인 악역 마키시마 쇼고는 이 AI 시스템을 맹목적으로 따르는 인간군상을 껍데기뿐인 인간이라고 비판한다. 마키시마에게 있어 인간은 자신의 의사로 행동했을 때만 가치를 지니기에, 시스템과 이 시스템에 의존하는 사회를 전복시키려고 한다.

시빌라 시스템의 도미네이터로는 나를 멈추지 못해. 나를 막을 수 있는 존재는 오로지 자신의 의지로 살인을 할 수 있는 사람뿐이다.

그 총의 무게는 시빌라 시스템의 선택을 따르기만 해선 알 수 없는 결단과 의사의 무게이지.

(작중 인물 마키시마 쇼고, 주인공 츠네모리 아카네의 친구의 등을 면도칼로 그어대며)

source: 「PSYCHO‐PASS サイコパス」第3弾PV, 후지테레비

후속 시리즈에서는 마키시마의 의도와는 다르게, 시빌라를 신봉하는 고위 관료들에 의해 정반대의 방향으로 변화하기 시작한다.

“시빌라 시스템의 통치하에 있어서 법률 따윈 불필요… 정말로 그럴까요?”
“자네는 대체 뭘 우려하는거지?”
“시빌라 시스템은 글로벌한 새로운 세계 질서로 인정받은거야. 그렇다면 국내외를 불문하고 법률은 불필요해져.”
“법무성의 의견에도 귀를 기울여야 하지 않나요?”
“뭐.. 법률의 완전 폐지, 법무성 해체 까지는 아무래도 과격하네요.”
“법치국가라는 개념이 시빌라에 의해 그 역할을 마친거라네!”

《극장판 PSYCHO-PASS PROVIDENCE》 작중

source: 『劇場版 PSYCHO-PASS サイコパス PROVIDENCE』特報②, 후지테레비

이들 관료들은 전통적인 규율 체계인 법률을 시빌라 시스템으로 완전히 대체하려고 한다. 전통적인 도구들을 경시하거나 쓸모없는 것으로 취급하면서, AI가 모든 것을 해줄 것이라고 기대하는 현실의 AI 신봉론자와 비슷한 모습이다.

급변하는 시대, 우리는 우리 자신을 사회의 어디에 위치시킬 수 있는가

…

저는 계속 고민해 온 것이 있습니다. 범죄 계수에 따라 흔들리지 않고, 의론의 여지가 없다는, 이 시빌라 사회에서의 본연의 자세. 본래 법치국가에서는 죄의 본연의 자세에 대하여 항상 논쟁의 여지가 있었습니다.

죄란 무엇인가. 벌은 옳은가. 다른 사람의 악을 이해하고 자신의 정의를 의심한다. 사람이 사람이기 위해서는 논의를 계속하는 것이 가장 중요하다는 것을 이번 사건에서 절감했습니다. 이 논쟁을 멈추는 것이 미래에 정의가 존재해야 할 올바른 방식은 아니라고 저는 생각합니다.

사람에게는 법이 필요해요. 그래서 저는 제가 할 수 있는 방법으로 정의를 묻겠습니다.

…

놀라운 건 공개석상에서 살인을 저질렀음에도 츠네모리 아카네 용의자의 범죄계수가 낮다는 것입니다. 츠네모리 용의자의 범죄계수는 공표되지 않았지만 실제로 도미네이터는 기동하지 않았습니다.

주인공은 모두가 보는 앞에서, 사람으로 알려진 시빌라 시스템의 대외 활동용 사이보그를 총으로 쏘아, 범죄 계수의 상승 없이ー즉, 시빌라 시스템에 의해 단죄될 수 없는ー 살인을 모두의 앞에서 보인다. 이윽고 법률 폐지 논의는 중단. 만연한 맹목적인 AI 신봉론에 맞서, 자신을 기어코 희생하여 형사로서 자신이 믿는 가치를 지켜낸다.

돌아와서, 나는 이번 수업에서 목격한 AI 남용을 지켜보며 기시감을 느꼈다. 일말의 성찰이나 고민도 없이 그대로 AI의 입이 되어버린 몇 학생들의 모습이, 이 작품 속의 일반 시민들이 보이는 인간상과 닮았다고 생각했기 때문이리라 생각한다.

나는 이들의 모습이 인문학을 전공하는 자기 자신을 자신의 손으로 적극적으로 파괴하고 있다고 감히 주장한다. 그 어느때보다 이공계 기술직의 AI 대체 가능성이 점쳐지고, 인간만이 할 수 있는 일은 없을 것이라는 비관론에 휩싸인 지금. 인문학은 그 본연의 가치가 빛나는 순간이 있을지 모를진대.¹

자신의 가치를 보호하고 더 높여갈 방법을 찾지 못할지언정 스스로 훼손하는 일만큼은 그만두어야 하지 않을까. 그렇게 생각한다.

1. 최근에는 빅테크에서 철학자를 ‘철학자’ 직함으로 고용한 일도 있었다. (강다은, 조선일보) ↩