AI의 무서운 발전 속도, 하지만 여전히 '흑인=고릴라?'

ChatGPT의 출시로 인해 AI에 대한 관심도가 증폭하고 있는 가운데,

다른 한편에서는 AI로 인해 세계 각국에서 무서운 일들이 벌어지고 있습니다.

 

 

펜타곤 폭발?

 

출처 : 트위터

 

위 사진은 미국 펜타곤의 폭발 사진입니다.

이 소식이 전해지자 미 증시가 일시적으로 출렁이기도 했습니다.

 

예상하셨겠지만, 이 사진은 AI로 만든 가짜 사진입니다.

해당 사진은 미국 내 음모론자들이 추종하는 트위터 계정 '@CBKNews121'에 오전 8시 42분에 게시됐습니다. 이로 인해 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했고, 안전 자산인 미국 국채와 금의 가격이 잠시 상승하기도 했습니다.

 

이후 미국 정부가 대응하며 일단락되었지만, AI가 생성한 가짜뉴스가 어느 정도의 영향력을 가지는지를 간접적으로 체험할 수 있었습니다.

 

 

헤이 구글, 사진첩에서 고릴라 찾아줘

 

출처 : The New York Times

 

 

 

2015년 5월 구글은 포토앱을 별도로 분리하여 출시하면서 이미지를 인식하여 분류하는 기능을 제공했습니다. 그러나 한 가지 문제가 생겼습니다. 사진첩에 있는 흑인에게 '고릴라'라는 분류가 붙은 것입니다.

 

이 오류가 발생하자마자 잘못을 인정하고 오류를 수정하겠다고 발표했습니다.

그로부터 8년이 지났고, 그 사이 AI의 발전은 눈부시게 발전했습니다.

그렇다면, 이 증상은 완전히 해결됐을까요?

 

결과부터 말씀드리자면, 아직까지 완벽하게 해결되지 않았습니다.

'흑인'과 '고릴라'가 모두 포함된 사진첩에서 '고릴라'를 검색하자 아무런 결과가 나오지 않은 것인데요.

실수라도 '흑인'이 검색될까 두려워 아예 아무런 결과가 나오지 않도록 막아놓은 것으로 보입니다.

(이 현상은 애플에서도 동일하게 발생하고 있습니다.)

 

 

어쩌다가?

 

첫 번째 사건의 경우 생성형 AI를 악의적으로 활용한 가짜뉴스 생성

두 번째 사건의 경우 잘못된 학습을 통해 잘못된 답을 생성

 

두 사건의 경우 약간의 기술적 차이는 있지만,

결국 AI로 인해 잘못된 정보가 외부로 노출되었을 때 이를 제어하기 어렵다는 점을 단적으로 보여주고 있습니다.

 

비슷한 예로 ChatGPT가 굉장히 유려하게 답변을 제공하고 있지만,

이 또한 잘못된 데이터로 학습을 하게 된다면 잘못된 대답을 내놓을 가능성은 여전히 열려있습니다.

 

 

규제의 필요성

 

출처 : 이코리아

 

 

이러한 위험성에 대해서 ChatGPT를 개발한 OpenAI의 CEO 샘 알트만조차도 동의했습니다.

그리곤 정부 차원에서의 강력한 규제가 필요하다고도 주장했습니다.

 

그에 앞서 일론 머스크가 주축이 된 TECH 관련 CEO/전문가 1,200여 명이 AI의 위험성을 알리며 발전을 6개월간 멈추자는 서명을 하기도 했습니다.

 

 

앞으로는?

 

이러한 위험성에 대해서 ChatGPT를 개발한 OpenAI의 CEO 샘 알트만조차도 동의했습니다.

그리곤 정부 차원에서의 강력한 규제가 필요하다고도 주장했습니다.

 

그에 앞서 일론 머스크가 주축이 된 TECH 관련 CEO/전문가 1,200여 명이 AI의 위험성을 알리며 발전을 6개월간 멈추자는 서명을 하기도 했습니다.