얼마 전 철학 관련 학회가 대거 참여한 한국철학자연합대회가 열렸다. 필자가 속한 포스트휴먼학회도 '챗GPT 스캔들'이란 도발적 주제로 세션을 개최했고 필자는 토론자로 참석했다. 세션발표에서 철학자 정성훈 인천대 교수는 "챗GPT는 인간의 명령에 따라 데이터 기반으로 언어를 조립해 인간보다 압도적으로 빨리 답변하지만 인물, 책, 사건 등을 아무렇게나 조합해 문장을 만드는 등 속도와 양 외에는 어떤 우월성도 없다"고 비판했다. 또한 챗GPT와의 '인공소통'은 신뢰, 위험, 책임, 인격화 등 여러 가지 문제가 있다고 진단했다. 챗GPT가 한계, 오류, 편향을 보여주고 있으며 그리 간단한 문제가 아님에는 공감한다. 언어학자 노엄 촘스키는 챗GPT는 놀랍긴 하지만 표절과 무감정 등 악의 평범성을 보여주는 슈퍼 자동완성 기술이라고 폄하하기도 했다. 많은 인문사회학자는 챗GPT가 그럴듯하게 들리는 가짜 내용을 생성하는 '환각'(hallucination)에 대해서도 신랄하게 비판한다. 하지만 마냥 그렇게 매도할 수만은 없지 않을까.
자의식과 자율성이 부재한 챗GPT를 위해 변명하자면 생성형 AI는 이제 겨우 시작단계일 뿐이다. 새로운 것에 대한 호기심이 많고 어느 정도 얼리어답터라고 자부하는 필자는 챗GPT나 카카오톡의 아숙업(AskUp), 마이크로소프트의 빙(Bing), 한국형 챗GPT 응용서비스 네이티브 등 다양한 버전의 생성형 AI 앱을 유용하게 사용 중이며 한계에도 불구하고 효용성이 큰 훌륭한 도구라고 생각한다.
AI도 증기기관, 활판인쇄기, 인터넷과 마찬가지로 인간이 만든 도구다. 처음부터 완벽한 도구는 없고 모든 도구는 발전한다. 구글 번역기도 초기버전은 황당한 번역을 제공하는 경우가 많았다. 하지만 2007년 출시 후 16년이 지난 지금은 꽤 만족스러운 번역을 제공한다. 그런데 챗GPT가 출시된 것은 2022년 11월 말로 반 년이 좀 지났을 뿐이다. 앞으로 더 개선되고 정교해질 것이다. 생성형 AI가 어떻게 발전할지는 결국 인간 자신에게 달렸으며 더 적극적인 인간의 개입과 피드백이 필요하다. 챗GPT의 일부 답변이 사실을 왜곡한 환각이고 편향과 오류투성이라고 비판하는 건 과잉의 편견일 수 있다. 가령 비행기는 대형 사고가 많아 위험한 교통수단이고 자율주행차도 오작동으로 인한 인명사고가 일어날 수 있어 위험하다고 비판한다. 하지만 비행기 사고는 자동차에 비하면 빈도가 훨씬 적고 자율주행차도 인간의 부주의로 인한 사고와 비교하면 사고율이 획기적으로 낮다. 사실은 더 안전하지만 위험하게 보이는 착시현상이다.
윤리연구자는 AI가 신뢰받을 만하려면 안전하고 설명 가능하고 투명하고 공정해야 한다는 등 엄격한 기준을 제시한다. 하지만 AI를 비판하는 인간 자신은 정작 얼마나 안전하고 투명하고 공정한가. AI의 한계로 지적되는 편향성, 오류, 신뢰성 부족, 환각 등은 인간사회에 훨씬 많고 윤리문제는 인간이 더 심각하다. AI를 이용한 가짜뉴스 생성, 환각 등 심각한 문제는 인간이 적절한 가이드라인, 윤리, 또는 법규범을 만들어 통제해야 한다. AI의 부작용 때문에 아예 피하려는 것은 목욕물을 버리려다 아기를 버리는 것과 마찬가지다.
또한 '인공적'이라는 용어가 부정적 뉘앙스로 사용되는 것도 문제다. 인공적이라 함은 인간이 만든, 인간의 상상력과 노력의 산물이란 의미일 텐데 그렇다면 도시, 기계, 언어, 철학 등도 모두 인공적인 것이다. 인공적인 것은 문화적이고 인간적인 것이라고 해도 틀린 말은 아닐 것이다. 요컨대 챗GPT는 현대 과학기술문명이 이뤄낸 가장 문화적인 산물이 아닐까.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]