[기후정치의 시선] 기술을 길들일 것인가, 기술에 길들 것인가

마감 꼴등(!)을 이어가시는 필자님이십니다. [편집자주]

 

기술을 길들일 것인가, 기술에 길들 것인가

- AI 공화국에 던지는 질문

 

김상철

기후위기비상행동 기후정치위원회 위원장

 

#장면 1.

 

얼마 전 있었던 2차 추경에는 소위 이재명 예산이라고 불리는 AI관련 예산이 잔뜩 들어갔다. 특히 직접적인 연관이 없던 문화부서에도 그랬는데 500억 원이라는 예산이 문화관련 기업들이 AI를 적극적으로 활용하도록 지원하기 위해 편성되었다. 근거는 다른 산업 부문에선 AI 활용률이 50% 가까지 되는데 문화관련 기업들은 17% 정도에 불과하다는 이유를 들었다. 이에 대해 국회심의 과정에서 구체적인 사업 계획이 뭐냐고, 관련된 예산을 다 사용할 수 있냐고 물으니 용호성 문화부 차관은 ‘네이버와 이야기가 어느 정도 끝났고 이재명 정부의 초대 AI미래기획수석비서관인 하정우 씨와도 올해 안에 예산을 사용할 수 있는 협의가 진행되었다’고 말했다. 

 

 

#장면 2. 

 

서울대 전기정보공학부 서승우 교수는 최근 미국 샌프란시스코 출장 길에 테슬라를 운전한 경험에 대한 칼럼을 ‘테슬라 자율주행차 충격과 공학자의 반성’이라는 제목으로 지난 7월 10일 중앙일보에 기고했다. 내용인 즉 미국에서 테슬라를 타보고 4단계에 준하는 자율주행 경험을 했는데, 이런 혁신이 가능한 것은 시중에 팔린 테슬라 차량 내부에 탑재된 카메라를 통해 엄청난 양의 데이터를 수립하고 이를 통해서 시각 정보 만으로도 자율주행을 할 수 있을 정도의 알고리듬을 구축했기 때문이라는 것이다. 서승우 교수는 이런 혁신을 보면서 공학자로서 다양한 보완 기술로 자율주행을 현실화해야 한다는 고정관념이 있었음을 반성했다고, 한국도 이런 시도를 하려면 규제를 없애야 한다고 주장했다. 

 

 

기술 편향의 사회

 

앞서 소개한 2개의 사례는 우리 사회가 특정한 기술을 수용하는 일반적인 태도를 보여준다. 곰곰이 생각해보면 이상한 것이 한 두개가 아닌데도 한 명은 국회에서 공개적으로 다른 한 명은 신문지상에 공개적으로 말 할 수 있는 분위기다. 먼저 문화 관련 기업들이 AI 기술을 적게 활용하기 때문에 이를 늘려야 한다고 주장하는 문화부의 500억 예산을 생각해보자. 문화부의 자료나 국회의 회의록에서도 문화관련 기업들이 AI를 적게 사용해서 생기는 문제점을 지적한 내용은 전무하다. 오로지 전국 산업 평균보다 낮다는 활용률만 근거다. 마치 전통죽을 파는 가게에서 젓가락의 사용빈도가 낮은 것은 한국적 식문화를 무시한 결과라고 주장하는 것처럼 어처구니 없다. 한국의 문화관련 기업의 일부만 문화 콘텐츠를 생산한다. 그리고 이들 역시 온라인 기반의 시각적 작업을 전제로 하는 경우는 많지 않다. 많은 경우 현업 작가들의 공연이나 전시와 같이 향유자인 시민들과 다양한 형태로 만나도록 하는 것이 주된 업무다. 특히 문화적 생산물은 원천성이 중요하기 때문에 AI와 같은 장치를 사용하는 것보다 더욱 직접적인 창작 과정을 통해서 원천성을 확보하는 것이 이후 부가가치를 높이는데도 더욱 중요한 의미를 갖는다. 이렇게 산업적 특수성을 전제로 하면 문화부가 말하는 500억원의 예산은 추경에 반영할 정도의 시급성이나 긴급성을 갖는다고 보기힘들다. 오히려 이들에겐 어도비 등의  포토샵과 같은 사용프로그램의 가격 보조가 AI 보다 시급할 수 있다. 그런데도 이런 사업이 추진되는 것은 이재명 정부가 AI를 핵심적인 정부 목표로 설정했기 때문이다. 하지만 놀랍게도 이재명 정부는 AI를 통해서 어떤 사회를 만들겠다는 것인지 밝힌 적이 없다. 주권 AI라는 것 역시 목표가 아니라 수단이다. 외국 기술에 휘둘리지 않는 원천 AI를 갖는다는 것이 한국의 시민들에게 어떤 의미인가? 우리는 더욱 민주적이고 평화로운 세상에 살게 되는 걸까? 아니면 네이버와 같은 기업을, 과거 삼성이나 현대와 같은 대기업에 대해 그랬듯이, 세계적인 AI 기업으로 성장시켜 국민적 자긍심을 높이는 것이 목표일까? 흥미롭게도 초대 AI수석은 현직 네이버 본부장 출신이고 용호성 문화부 차관이 말했던 기업도 네이버였다. 이 쯤 되면 정부의 AI 정책은 네이버 육성 정책인가 싶다. 

서울대 서승우 교수의 사례는 더욱 우습다. 왜냐하면 이미 테슬라의 로보택시에 대해서는 부정적인 사례가 지속적으로 보고되고 있기 때문이다. 이를테면 지난 7월 5일 미국의 NBC가 보도한 바에 따르면 오스틴에서 로보택시가 운영된 지 2주 차에 이미 차량이 횡단보도 가운데 탑승객을 하차 시킨달지, 이중황색선을 가로질러 운행한달지와 같은 사고가 발생하고 있다. 현재 오스틴에서 다니는 케슬라의 로보택시는 불과 11대에 불과한 상태인데 말이다. 그것도 보조석에 안전감시자가 있는 상태에서 발생하는 것이라, 안전감시자도 통제할 수 없는 순수한 기술적 결함으로 볼 수 있다. 상황이 이런데도 서승우 교수는 자신의 고정관념을 반성한다. 그런데 이이가 반성하는 지점은 애매하다. 통상 자율운전 기술에 적용하는 기술은 카메라를 통한 시각 기술, 그리고 야간이나 안개, 폭우의 상황을 대비하기 위한 레이저 거리진단 기술 마지막으로 지도를 통한 위치 인식 기술이 복합적으로 사용되어야 하는데, 이 모든 것은 ‘안전’ 때문이다. 서승우 교수는 이런 복합적인 기술 말고 오로지 시각적 기술 만으로도 자율주행이 가능한 테슬라를 보고 고정관념 운운하지만, 사실 테슬라의 사례는 안전사고에 대한 위험을 사회에 전가시키는 것에 불과하다. 게다가 테슬라가 판매한 자동차에서 획득한 시각 정보는 테슬라의 것이 아니다. 각 개인의 개인정보에 해당되는 자동차 주행데이터를 민간 기업인 테슬라가 취득해서 활용하는 것인데, 이런 행위가 손쉽게 용인되긴 어렵다. 즉 서승우 교수의 반성은 진짜 반성이 아니다. 정상적인 학자라면 안전을 위한 이중, 삼중의 기술적 요건을 갖춰야 한다는 규제를 반성 대상으로 삼겠나. 칼럼의 말미에 적은 규제 완화에 대한 요구는 결국 스스로의 반성이 아니라 테슬라 만큼 규제를 풀어달라는 주장에 불과하다. 

문화부 차관 용호성도 서울대 교수 서승우도 사실은 기술에 대한 자기 확신을 신념화한 것에 불과하고 이런 사람들이 목소리를 당당하게 낼 수 있는 건 이재명 정부의 몰 철학적 AI 정책의 탓이 크다. 

 

 

하나의 크고 아름다운 법? 

 

최근 미국에서 통과된 법률 명은 ‘하나의 크고 아름다운 법’으로 트럼프 정부의 온갖 정부 방침이 법률로 명시된 잡탕 법이다. 어느 정도냐면 여기엔 메디케어 등과 같은 저소득층에 대한 복지정책에서 이민정책 그리고 각종 건설 사업에 대한 보조금 규정과 더불어 광대역 통신망 보급에 따른 보조금의 중단이나 바이든 정부에서 시작한 그린뉴딜을 중단하면서 친환경 차량에 대한 보조금을 없애는 것 그리고 공장이나 데이터센터의 건립에 요구되었던 각종 환경규제를 없애는 것까지 망라했다. 그도 그럴 것이 해당 법률이 상원에 상정될 땐 페이지가 1,000 페이지가 넘었고 하원으로 넘어왔을 때도 900 페이지가 넘었으며 최종적으로 하원에 통과된 법률은 400 페이지 가까이 될 정도다. 

지난 6월 밴스 부통령이 캐스팅보트를 사용해서 해당 법률이 상원을 통과했을 때 해당 법률의 특정 규정 때문에 미국사회가 떠들썩 했다. 법률이 지나치게 긴 탓에 이를 꼼꼼하게 검토하지 못하고 법률안을 통과시켰는데 뒤늦게 조지아주 공화당 소속 마조리 테일러 의원은 해당 조항에 대해 ‘몰랐다’고 말하면서 이것을 알았다면 찬성하지 않았을 것이라 주장해 빈축을 사기도 했다. 해당 조항은 해당 법률의 278쪽에서 279쪽에 나열된 450자의 짧은 내용이다. 

 

“어떠한 주 또는 그 정치적 하부 구분도 이 법의 제정일로부터 시작하여 10년 동안 주간 상거래에 포함된 인공지능 모델, 인공지능 시스템 또는 자동화된 의사결정 시스템을 제한, 제약 또는 기타 방식으로 규제하는 해당 주 또는 그 정치적 하부 구분의 법률이나 규정을 시행할 수 없습니다.”

 

이게 무슨 의미일까? 연방에 속한 주정부는 AI 기술을 활용한 상거래 행위 등에 규제를 가하는 법률을 만들 수 없다는 것이다. 여기서 주간 상거래라고 하니 쇼핑몰 이런 것을 떠올릴 수 있지만 여기엔 교육사업이나 보안과 관련된 것도 포함된다. 즉 주정부는 AI 기술이 잠재적으로 주정부 시민들에게 미칠 수 있는 부작용에 대해 선제적으로 어떤 법률적 조치를 취할 수 없다. 이것이 트럼프 법률안에 숨겨져 있었던 것이다. 이를 밝혀낸 것은 정부나 의회가 아니라 과학 기술에 대해 모니터링을 해온 민간단체였다. 특히 주정부가 이를 어길 경우에 광대역망 공급을 위해 제공한 연방정부의 자금을 삭감하거나 아예 주지 않겠다고 명시했다. 결국 해당 조항은 삭제되고 기존 반도체법에 의해 지원하기로 한 무선 광대역망 구축 보조금도 전액 삭감되었다. 

트럼프에 의해 연방환경청장으로 선임된 이는 미국 공화당 내에서도 기후위기 부인론자로 알려진 리 젤딘인데, 이이는 취임하자 마자인 지난 해 12월에 발전소 설치 규제 완화, 석유 및 가스 산업이나 석탄화력발전소에 명시된 대기 독성물질 기준 완화, 미세먼지 국가 기준 완화, 제조업 분야의 유해 대기 오염 물질에 대한 배출 기준 재조정 등을 발표했다. 그러면서 미국의 발전을 저해하고 미국민들의 경제적 번영을 가로 막는 환경 규제를 모두 없애겠다고 공언했다. 이번에 통과된 ‘하나의 크고 아름다운 법’은 트럼프 정부의 개별 부처가 발표해온 것에 대한 총결산인 셈이다. 

 

 

이재명 정부의 미래?

 

아직 한국 사회에서는 가시화되지 않았지만 AI의 환경적 요인은 점차 구체적으로 드러나고 있다. 챗GPT가 (배치 시점과 장소에 의한 영향을 고려하면) 10개에서 50개 정도의 응답을 하기 위해서는 500밀리리터 1개의 페트병 용량의 담수가 필요하다는 연구가 최근 나왔다. 국제에너지기구인 IEA에 의해 2020년 기준으로 AI라는 단 하나의 기술이 전 세계 온실가스 배출량의 0.6%가 발생한다는 것이 밝혀졌을 때 이 규모를 제대로 실감하지 못했다. IEA는 AI를 위한 데이터센터와 암호화폐 분야를 더하면 2022년에서 2026년까지의 에너지 사용량은 일본의 전력 소비량과 비슷할 것이라 추정했다. 그러니까 AI 등 새로운 기술은 전대미문의 에너지 괴물인 셈이다. 

이로 인해 일찌감치 RE100을 선언했던 주요한 IT 기업들의 변심이 나타났다. 이를테면 구글의 경우에는 2019년에서 2023년 사이에 온실가스 배출량이 48% 늘어났다고 보고했는데 그 이유로 ‘AI 전환을 위한 기술 인프라의 투자 때문’이라고 밝혔다. 마이크로소프트 역시 비슷한 이유로 2020년에서 2023년까지의 배출량이 29.1% 늘어났다고 보고했다. 기본적으로 AI라는 과학기술은 이제까지 미처 생각치도 못했던 에너지 전환 및 관리의 가장 중요한 시험대로 등장한 것이다. 문제는 단순히 에너지 문제로만 국한되지 않는다. 메타에서 개발 중인 라마 3.1 수준의 시스템이 자기 학습을 진행하면 그 때 발생하는 대기 오염 물질은 로스앤젤레스와 뉴욕 간이 왕복 1만회의 차량 주행에 맞먹는 수준이라는 조사결과가 발표되기로 했다. 앞서 언급한 담수에 대한 영향을 최근에서야 주목받는 내용인데, AI 장비에서 발생하는 열을 식히기 위해서 적정량의 물이 필요하기 때문이다. 이는 AI 모델이 더욱 커지면 커질 수록 늘어나는데, GPT-4 모델의 경우에는 120에서 200개 단어의 이메일을 작성하는데 3리터의 물이 필요해진다. 이런 식이면 전 세계 AI 수요를 고려할 때 2027년에는 420만에서 660만 입방미터의 물이 필요하며 이는 덴마크가 1년 동안 사용하는 물의 량과 같은 수준이다. 

이런 상황에서 주권 AI를 주장하면서 향후 막대한 AI인프라를 공급하겠다는 것이 이재명 정부의 계획이다. 물론 AI를 통해서 경제활동을 최적화하고 기업의 불필요한 에너지 사용을 통제 하는 등 기후위기 대응 과정에서 적극적으로 AI를 활용하겠다면 그나마 조금이라도 상쇄할 수 있을 테지만 이재명 정부의 국정목표에서 기후위기 대응은 잘 발견되지 않는다. 그런 점에서 이재명 정부의 AI 정책은 미국에서 보이는 무지막지한 규제완화 패키지까지는 아니어도 상당히 높은 수준의 지원 정책이 뒤따를 것이라는 것을 예측할 수 있다. 

 

 

기술의 민주적 통제와 기후위기 대응

 

기술은 수단이지만 목적으로 나타났다. 원전은 전력 생산의 한 양식이지만 원전이냐 탈원전이냐가 소위 신념체계의 상징처럼 여겨지는 것과 같다. 마치 새로운 기술을 적극적으로 수용하지 못하면 구더기 무서워 장을 담그지 않는 겁쟁이이거나 아니면 과거의 낡은 노스텔지어에 젖은 시대착오적 사람이 되기 일쑤다. 여전히 제대로 질문되지 않는 이재명 정부의 AI 국가에 대한 여러가지 소란스러움을 보면서 기후위기 대응이라는 과제가 과연 이 정부의 캐비넷에는 들어가 있기는 한 것인지 의심이 들기 시작했다.   [끝]