“합리성으로 포장된 AI에 의한 차별은 그 은폐성을 더욱 가속화하거나 정당화할 우려가 크다. AI의 데이터 축적과 알고리즘의 어떤 측면이 은폐된 차별을 더욱 가속화할지 정확히 모르는 현 상황에서 말이다. 오히려 AI의 놀라운 계산 성능, 인간의 언어를 음성으로든 몸짓으로든 유려하게 모방하는 장점이 때로는 그 은폐성을 가려 인간을 매우 헷갈리게 만든다.” - 10장 ‘차별하지 않을 이유, AI에게서 찾다’ 中

기술과 AI가 인간과의 소통에 깊숙이 개입하면서, 기술의 중립성에 대한 환상이 흔들리고 있다.

석주연 조선대 국어교육과 교수가 펴낸 ‘AI, 차별, 소통’(커뮤니케이션북스刊)은 AI가 인간의 데이터를 바탕으로 작동하는 과정에서 어떻게 차별을 재생산하는지를 살펴본다. 책은 이 문제를 중심으로 기술과 인간의 존엄 사이에 놓인 균열을 비판적으로 고찰한다.

이 책은 AI가 인간의 속성과 욕망이 투영된 데이터를 기반으로 작동한다는 점에 주목한다. 이 데이터가 이미 사회적 편견과 불균형을 담고 있을 경우, AI는 이를 무비판적으로 반영하며 차별적 결과를 낳을 수 있다는 것이다.

예를 들어, MZ세대의 데이트 앱 추천 알고리즘과 같이 일상적 관계에까지 영향을 미치는 AI는 사용자의 선택에 은근한 영향을 미치며 편향된 판단을 유도할 수 있다.

생성형 AI가 생성하는 텍스트 역시 예외는 아니다. 책은 챗GPT를 비롯한 생성형 AI의 작동 방식에 주목하며, 한국어 환경에서 드러나는 차별적 패턴을 구체적으로 분석한다.

문장 구조나 단어 선택이 특정 성별, 계층, 문화에 불리하게 작동할 수 있다는 점에서, AI의 언어 생성은 단순한 기술이 아니라 사회적 문제의 한 축으로 떠오르고 있다.

이와 함께 AI 편향성을 줄이기 위한 다양한 노력도 소개된다.

인간 피드백을 기반으로 학습하는 ‘휴먼 피드백 강화 학습(RLHF)’ 같은 기술적 시도뿐만 아니라, 문화적·언어적 다양성을 고려한 알고리즘 설계가 필요하다는 목소리도 담긴다.

그러나 책은 여전히 AI가 생성하는 데이터의 출처가 불분명하고, 미세한 차별은 쉽게 감지되지 않아 구조적 문제가 남아있음을 지적한다.

책은 궁극적으로 AI와 인간의 협력적 공존을 모색한다. 효율성만을 좇는 기술 낙관주의를 경계하며, 차별 없는 AI를 위한 성찰적 접근의 중요성을 강조한다.

AI가 인간사회의 다양성과 포용성을 증진하는 방향으로 나아가야 한다는 메시지는, 기술 발전을 바라보는 독자들에게 중요한 화두를 던진다.

석주연 교수는 서문을 통해 “AI를 활용하는 과정과 결과가 의미하는 바를 끊임없이 생각하고 질문하는 ‘성찰하는 인간’만이 차별하지 않는 AI와 인간이 협력적으로 공존할 수 있는 미래를 약속할 수 있을 것”이라고 밝혔다.

/최명진 기자

▶ 디지털 뉴스 콘텐츠 이용규칙보기