내용요약 ‘비윤리·혐오 발화 인식’·‘윤리적 대화 제어’ 등 기술 적용
윤송이 CSO와 세계적 석학 대담 엮은 ‘가장 인간적인 미래’ 출간
엔씨소프트 판교 R&D센터 전경 /사진=엔씨소프트
엔씨소프트 판교 R&D센터 전경 /사진=엔씨소프트

[한스경제=김정우 기자] 최근 그림, 글쓰기, 음악 작곡 등 창작의 영역까지 진화한 인공지능(AI)이 큰 화제다. 이와 함께 AI의 윤리적인 부분이 화두로 떠올랐다. 엔씨(NC)소프트는 AI 기술의 발전으로 대두되는 윤리적 문제 등 사회 요구에 발맞춰 연구개발 단계에서부터 윤리 가이드라인을 수립하는 등 노력을 기울이고 있다.

엔씨소프트는 ‘리니지W’, ‘리니지2M’ 등 주요 게임의 채팅에 ‘스팸 필터링 기술’을 적용해 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하는 기술을 적용하고 있다. 여러 국가의 이용자들이 함께 플레이하는 게임의 특성상 국가 간 비하 표현을 방지할 필요성이 있어 채팅 시 AI 번역 엔진이 국가 간의 분쟁 요소가 될 수 있는 표현을 찾아내고 중립적인 표현으로 번역될 수 있도록 제어하는 기술이다.

또 AI가 욕설, 편견, 비하 등의 비윤리적인 표현을 학습하지 못하게 하거나 생성할 수 없도록 제어하는 기술을 비롯해 개인정보 비식별화, 국가간 비하 표현 방지, 비윤리·혐오 발화 인식 기술 등을 AI 연구개발에 적용하고 있다.

윤송이 엔씨소프트 CSO(최고전략책임자)가 세계적 석학들과 ‘AI 윤리’ 인식을 논하는 대담 시리즈 ‘AI 프레임워크’ 콘텐츠를 엮은 도서 ‘가장 인간적인 미래’도 출간됐다. AI 프레임워크는 엔씨소프트가 ESG 경영 가치 중 하나인 ‘디지털 책임–AI 윤리’를 위해 진행한 연중 기획 프로젝트로 하버드대학교, 스탠포드대학교, 매사추세츠공과대학(MIT) 등의 세계적 석학 5인이 참여했다.

NC AI 윤리 프레임워크 /사진=엔씨소프트
NC AI 윤리 프레임워크 /사진=엔씨소프트

엔씨소프트는 외부와의 공동연구, 연구 후원 등 활동에도 참여하고 있다. NC문화재단을 통해 2020년부터 MIT(NC Ethics of Technology Fund)와 스탠포드대학교(NC Fellows Fund) 등 AI 윤리 커리큘럼 개발을 후원하고 있다. 

ESG 리포트를 통해 AI 윤리 원칙이자 가이드라인인 ‘NC AI 윤리 프레임워크’를 공개하기도 했다. AI 기술이 ‘인간 중심의 AI’로 지속 성장할 수 있도록 ‘데이터 보호’, ‘편향되지 않는)-’, ‘투명성’ 등을 세 가지 핵심가치로 선정해 AI 개발과 운영 전반에 반영하고 있다.

엔씨소프트는 데이터를 활용하는 과정에서 사용자의 프라이버시·개인정보를 원천적으로 보호한다. AI 학습에 필요한 데이터들은 남기고 개인정보는 비식별화 하는 정책과 처리 시스템을 구축해 적용하는 것이 핵심이다.

또 편향되지 않은 AI를 개발함으로써 AI에 기반한 서비스가 특정인에게 불리하게 작용하거나 소외시키지 않도록 한다. ‘비윤리적 표현 데이터 사전’을 구축해 필터링하고 무례한 발화를 제어하는 시스템을 적용·테스트하면서 여러 번 검증하는 체계를 갖췄다.

AI 기술의 투명성 공개에도 힘쓰고 있다. AI에 대한 ‘이해할 수 없는 불안한 존재’라는 인식을 줄이고 AI의 의사 결정 과정과 결과에 대한 설명할 수 있어야 한다는 취지로 지난해 10개 이상의 AI 연구 논문과 오픈소스 코드를 공개하기도 했다.

엔씨소프트 관계자는 “AI 기술개발 과정에서 사용자의 데이터를 보호하고 사회적으로 편향되지 않도록 주의하며 해석 가능한 AI를 지향한다”며 “AI 기술이 편향되거나 악용되지 않도록 윤리적 책임을 연구개발 단계부터 실천하고 있다”고 강조했다.

김정우 기자

저작권자 © 한스경제(한국스포츠경제) 무단전재 및 재배포 금지