AI, 그래서 뭐가 위험하다는 걸까?

 

저는 앞서 AI의 위험성에 대한 글을 올렸습니다.

오늘은 그래서 정확히 어떤 점 때문에 위험한 것인지, 어떤 위기가 초래될 수 있는지에 대해 짚어보고자 합니다.

 

 

정보의 오류

 

ChatGPT로 대표되는 LLM(대형언어모델)의 정확도는 갈수록 높아지고 있습니다.

하지만 역설적이게도 높은 정확도가 독이 될 수 있습니다.

정확도가 높으면 신뢰도가 상승하고, 신뢰도가 상승하면 검증에 소홀해지기 때문입니다.

 

잘 알다시피 AI가 내놓는 답변은 기존의 '사람'들이 작성한 정보를 학습하여 내놓은 답변입니다. 그러나 이렇게 학습된 정보가 100% 정확하다는 근거는 없으며, 학습 과정에서 불필요한 선입견이 생길 수 있습니다. 만약 정확한 내용을 학습했더라도 답변을 생성하는 과정에서 오류가 발생할 수도 있습니다.

 

특히 근거가 부족하더라도 그럴싸하게 포장하여 답변하기 때문에 정보의 오류에 대한 검증은 더욱 어렵습니다.

 

텍스트도 위험하지만 생성형 AI 이미지는 더욱 위험합니다.

이미 실제 인물을 기반으로 하는 가짜뉴스가 생성 중

에 있고, 음란물도 쏟아져 나오고 있습니다.

 

더불어, 학습 과정에서의 저작권 이슈에서도 자유롭지 못한 상황이고,

생성된 이미지의 소유권도 명확하게 해결하지 못한 상황이라 많은 혼란을 야기할 수 있습니다.

 

 

일자리 감소와 경제 불균형

 

많은 분들이 우려하시는 부분일 것 같습니다.

현재 각계각층에서 AI의 발전으로 사라질 직업을 예측하고 있는데, 추이를 살펴보면 대체 불가능한 직업을 찾는 것이 오히려 빨라 보입니다. 그만큼 거의 대부분의 직업이 완전대체 혹은 부분대체가 될 것으로 보입니다.

 

단기적으로 봤을 때 기술의 발전으로 인해 많은 것들이 자동화되고, AI보다 뛰어난 효율을 보이지 않는 이상 일자리를 보전하기 어려워지고, 이로 인한 경제 불균형이 생길 것으로 보입니다. 이는 특히 저소득층, 교육격차에 따라 크게 두드러질 것으로 보입니다.

 

그러나 부정적인 시선만 존재하는 것은 아닙니다. 초기에는 약간의 격차가 생길 수 있으나 곧 극복하고 해결할 수 있으리라는 긍정적인 시선도 존재합니다.

 

이는 과거 산업혁명 사례로 근거를 들 수 있습니다. 산업혁명 당시에도 초기에는 기계와 기술의 발전으로 많은 일자리가 감소되면서 부의 격차가 커지고 지역 간 경제 불균형이 심화되었으나, 점차 정부의 개입과 기술의 대중화로 인해 새로운 일자리가 창출되고 근무 시간이 단축되는 등 긍정적인 효과로 이어졌습니다.

 

이번 AI의 발전도 비슷한 양상으로 흘러갈 것으로 예측하는 전망도 존재합니다.

 

 

통제 실패

 

만약에 AI가 감정을 가지게 된다면?

혹은 감정이라는 것을 완벽하게 이해하고 감정이 있는 척 행동한다면?

인간에게 악감정을 품고 적대적 행동을 한다면?

터미네이터와 같은 영화에서만 보던 것들이 실제로 발생한다면?

 

이런 걱정이 지나치다고 생각할 수 있지만, 지금까지 흐름으로 볼 때 전혀 헛된 상상은 아닌 것 같습니다.

 

ChatGPT의 출시 이후 유관 기술의 발전 속도는 쉽게 따라잡을 수 없을 만큼 빠르게 발전하고 있고, 알파고로 잘 알려진 딥마인드의 대표 데미스 하사비스 또한 수년 내에 AI가 인간 수준으로 발전할 것이라 예측했습니다.

 

 

출처 : SBS

 

 

실제로 지금도 AI, 특히 딥러닝 기반의 모델은 동작원리와 출력한 값이 어떻게 나왔는지 정확하게 이해할 수 없기에 '블랙박스'라 불리고 있습니다.

 

이러한 불투명성 때문에 잘못된 출력값이나 편향된 결과를 내놓았을 때 그 원인을 찾기가 어렵고, 이를 수정하는 것도 어려울 수 있습니다. 이를 극복하기 위해 최근에는 설명 가능한 AI를 개발하고자 노력 중에 있으나 아직까지는 쉽지 않은 모습입니다.

 

속도가 빠르다는 것은 사고가 났을 때 충격도 그만큼 커진다는 것을 의미합니다. 안전장치와 보폭을 맞추어 발전하면 큰 문제없겠지만, 만약 그렇지 않다면 통제가 어려워지는 단계에 이를 수 있습니다.

 

 

마치며

 

지금까지 AI 발전으로 초래될 수 있는 문제점에 대해 알아보았습니다.

그러나 이와 별개로 앞으로 미래를 점점 예측하기 어려워진다는 것이 가장 무서운 일인 것 같습니다.

어떤 위험이 찾아올지 모르기 때문에 꾸준하게 관심을 가지고 있는 것이 중요할 것 같습니다.

 

PS.

부정적인 이슈에 대해서만 작성하였지만, 지금까지만 봤을 때는 체감상 긍정적인 영향이 더 많아보입니다.

저 역시도 ChatGPT를 활용하여 제가 할 수 없었던 범위의 업무까지 수행할 수 있게 되었습니다.

 

OpenAI CEO 샘 알트만 역시도 AGI(인공일반지능)의 안전한 구축이 목표라고 하니, 긍정적인 영향력이 계속되기를 바라겠습니다.