민주주의와 인권에 기반한 AI 통제, 속도보다 공존을 모색해야

민주주의와 인권에 기반한 AI 통제, 속도보다 공존을 모색해야

 

이내

 

2023년 개봉했던 영화 ‘크리에이터’는 인류와 AI의 대립을 그렸다. 넷플릭스에서 볼 수 있다. 이 영화는 악한 AI와 싸우는 착한 인류라는 ‘터미네이터’ 등의 영화의 세계관을 비튼다. 미군이 대표하는 인류의 세상을 디스토피아로, AI와 함께 사는 뉴아시아를 이데아와 가까운 세계로 그린다.

1960년대 위대한 SF 작가 아이작 아시모프의 단편 ‘최후의 질문’이 있다. 작가 스스로 자신의 최고작품이라고 평했다. 여기엔 인류가 개발한 고성 컴퓨터 ‘멀티박(Multivac)'과 마이크로박, 갤럭시박, AC 등이 수조 년에 걸쳐 차례로 등장한다. 요즘 말로 생성형 AI 시스템이다. 소설의 인류는 AI를 활용해 우주 에너지를 맘대로 쓸 수 있게 된다. 늘어나는 인구를 억제하기 위해 대량살상 대신 강력한 출산금지 정책을 쓴다. 인간은 정신과 육체를 분리해 영생하는, 사실상 초월적인 존재가 된다. 개인이 전 우주의 여러 은하 중 2~3개의 항성계를 차지한다. 하지만 AI들은 인간의 한가지 질문에 끝내 답변하지 못한다. 우주의 종말, 또 그 이후에 대한 질문이다. 마침내 수조 년이 흘러 우주는 최후의 별까지 소멸한다. 시간과 공간도 사라진다. 홀로 남은 AC는 거의 무한한 데이터에 대한 연산을 마친다. 그는 자체 알고리즘을 통해 최후의 질문에 대한 답변을 내놓는다.

“빛이 있으라.”(Let there be light.)

영화 ‘크리에이터’는 창작자, 즉 창조주란 뜻이다. 아시모프의 소설도 창조주의 첫마디로 끝을 맺는다. 영화와 소설은 AI를 구원자로 본다. 반면 ‘터미네이터’류의 수많은 영화와 소설에서 AI는 인류를 지배하고 파괴한다. 실제 이런 디스토피아에 대한 경고에 귀 기울여야 한다.

요슈아 벤지오 몬트리올대 교수는 AI를 실존적 위협으로 보고 ‘기술 발전 속도가 안전 연구를 훨씬 앞지르고 있다. 제어권을 잃지 않으려면 강력한 국제적 규제가 필수다’고 주장한다. 튜프치 에르만, 페이페이 리 스탠퍼드대 교수는 ‘AI 윤리는 거대 기업의 독점을 막고, 인류 전반을 위한 공공재로 개발될 때 완성된다’라며 빅테크의 빅데이터 독점을 경계하고 공공 연구 자원 확보를 앞세워야 한다고 강조한다.

마그레테 베스타게르 EU 집행위원회 부위원장은 세계 최초의 포괄적 규제안인 EU AI Act(AI 법안) 제정을 주도했다. 생성형 AI 모델은 위험 등급(생명/인권 위협 수준)에 따라 차등 규제를 적용하자는 게 골자다. 또 저작권 데이터 출처 공개, 딥페이크 표시(워터마킹) 의무화 등 명확한 법적 의무를 부여했다.

다리오 아모데이 앤트로픽 CEO 또한 ‘헌법적 AI(Constitutional AI)와 책임 있는 scaling 정책’을 제안했다. AI 모델에게 ‘인권 보호, 차별 금지’ 등의 원칙(헌법)을 학습시켜, 사람의 일일이 개입하지 않아도 AI 스스로 답변의 윤리성을 검증하게 만드는 기술적 거버넌스를 확립하자는 주장이다.

 

하지만 이들의 주장은 AI 주도 세계에서 큰 반향을 얻지 못한다. 제안과 주장, 우려에 그칠 뿐이다. 특히 AI 3대 강국을 천명한 대한민국에서 ‘윤리’와 ‘통제’ ‘제어‘는 범사회적인 의제에서 밀려나 있다. 오로지 AI로 얻는 경제적 이익과 세계 주도권에만 천착한다. 세계 일각에서 AI 의존에 따른 기업과 자본의 지배를 우려할 때 대한민국 대통령은 대기업 총수에게 90도로 허리 굽혀 절한다.

노무현 전 대통령이‘이제 권력은 정치가 아니라 기업에게 넘어갔다’라고 말한지 20여 년 만의 일이다. 빅테크 기업과 유대인 자본이 AI 세계를 만들고 있다. 이에 대한 진지한 고민이 국내에선 보이지 않는다.

AI 세계는 이제 돌이킬 수 없는 단계로 들어섰다. 긍정적으로 보면 인류의 한계를 극복하고 이상적인 가치를 기반으로 하는 이데아적 세계로 진화할 수도 있다.

인간의 욕망을 앞세운 파괴를 멈추고 공생과 공영을 추구할 수도 있다. 앞의 영화와 소설에서 제시한 세계관이다. 하지만 반대의 길이 더 가까워 보인다. 좋은 약의 효과는 오래 걸려야 얻을 수 있고 나쁜 약의 효과는 즉발적이다. 즉발=임기 내다.