“인공지능이 인류의 마지막 기술일 수 있다”는 스티븐 호킹 박사의 아주 짧지만 명확한 경고의 메시지. MS의 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들도 인공지능의 위험성에 대해 경고의 목소리를 똑같이 내고 있다.

이들은 “어쩌면 인공지능이 인류 사상 최대의 성과인 동시에 최후의 성과이자 인류의 재앙이 될 수도 있을 것”이라고 주장한다.

 

서울여자대학교 김명주 교수도 신간 《AI는 양심이 없다》(헤이북스 펴냄)을 통해 같은 목소리를 냈다.

 

“인공지능이 몰고 올 미래에 대해 인류 전체가 함께 ‘방어적 준비’를 해야만 한다. 그렇지 않으면 인공지능은 인류에게 특이점을 초래할 것이고 자연스레 발생할 초지능으로 인해 인류의 문명은 막을 내릴 것이라는 경고가 반복해 들려온다... 이제는 ‘인공지능(AI)의 역습’에 대응전략을 마련할 때이다.”

저자는 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 더불어 구체적인 준비도 따라야 할 것이라고 역설한다. 

비가역적인 사회 대전환이 따라오기 때문에 발생 가능한 문제와 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 논지다. 저자는 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고 있다. 

김명주 교수는 이 지혜를 ‘윤리’라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구된다. 그리고 이 윤리는 사람만이 가지고 있는 ‘양심’으로 인하여 발현한다. 반면에 인공지능은 ‘양심’이 없다. 인공지능으로 인해 등장하는 윤리적인 문제의 근원인 것이다. 책 제목도 이렇게 정해졌다.

저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하는 데 많은 부분을 할애했다. 책의 1장 <‘죽음’을 흔드는 AI>에서는 죽은 자가 남긴 디지털 흔적과 디지털 유산을 통해 고인의 죽음을 흔드는 손으로서의 AI 문제를 다룬다.

저자는 2장 <‘존재’를 흔드는 AI>에서는 메타버스 등 존재하지만 존재하지 않는 가상인간의 출현과 이로 인해 발생하는 신뢰성 문제와 디지털 윤리에 대해 논한다. 3장 <‘신뢰’를 흔드는 AI>에서는 인공지능이 가져온 혁신의 이면에 드러난 차별과 편견, 의인화와 위조, 적대적 공격과 불신 등 윤리적 문제에 대한 불안과 걱정을 다룬다.

4장 <흔들림 너머 AI 바로 보기>를 통해 저자는 인공지능에게 왜 윤리가 필요한지, 처음 시작 단계에서는 법보다 올바른 윤리가 먼저 형성되어야 하는지 당위성과 적용해야 할 윤리 기준들이 무엇인지 이해를 돕는다.

김 교수는 이러한 과정을 통해 인공지능으로 인해 발생하는 윤리적인 문제의 근원이 무엇인지, 우리 안에 자리 잡아온 인공지능 이용에 대한 막연한 불안과 우려에 대해 구체적인 실체가 무엇인지, 우리가 흔들림 없이 인공지능을 이용하려면 어떻게 해야 할지 파악하게 해준다.

그러면서 인공지능이 아직은 본격화되지 않은 기술이기에 우리에게 준비할 시간이 조금 남아 있으며, 윤리적 상상력과 함께 머리를 맞댈 공론의 장이 필요하다고 제언하고 있다.

한편, 김명주 교수는 서울대학교 컴퓨터신기술공동연구소 특별연구원을 거쳐 현재 서울여자대학교 교수로 27년째 교단에 서고 있다. 2018년에는 인문학과 사회과학 전문가들과 함께 '인공지능 윤리 가이드라인 Seoul PACT>를 만들어 주목을 받기도 했다.